直播内容不合规怎么办？智能AI为您解决审核难题

摘要： 近些年来，视频直播快速发展，大量的直播平台如雨后春笋通常出现，可是这一样给直播内容的监管带来了巨大的挑战，一方面国家对于直播内容监管的要求日益严格，另外一方面相对于文字内容的审核，多媒体内容的审核复杂度更高，资源耗费也更大技术门槛相对也较高，因此这逐渐成为制约直播服务健康发展的一个瓶颈，尤为是对于一些刚刚起步的中小直播平台。

背景

近些年来，视频直播快速发展，大量的直播平台如雨后春笋通常出现，可是这一样给直播内容的监管带来了巨大的挑战，一方面国家对于直播内容监管的要求日益严格，另外一方面相对于文字内容的审核，多媒体内容的审核复杂度更高，资源耗费也更大技术门槛相对也较高，因此这逐渐成为制约直播服务健康发展的一个瓶颈，尤为是对于一些刚刚起步的中小直播平台。

对于内容审核，一些平台仍是采用人肉审核的方法，雇佣大量的直播审核员，来从海量的直播视频中寻找那些不合规的视频，可是受限于人的精力，每每不能达到很好的效果，并且审核人员的紧缺薪水也响应的水涨船高。

幸亏，人工智能的快速发展，给这个问题的解决带来的起色，人工智能审核+人工复审成为主流。

传统解决方案

有技术积累和人力的公司每每会本身组建本身的AI团队，根据本身的业务场景和海量的资源来训练本身的检测模型，这样优点是，可以对于本身的场景有更好的把控，可是也有一些缺点，好比：

• 用户须要本身完成截帧的工做，这个简单的工做可能耗费大量的计算资源
• 海量的图片存储和传输成本
• 受限于技术和人力的缘由，审核算法精度不如人意

还不具有自建AI团队的平台每每使用第三方的图片审核的API，可是这样对于算法的微调就比较困难，而且对于图片的审核并不具有上下文综合判断的能力。

直播审核解决方案

阿里云视频直播审核能够完美的解决如上的问题，没有很高的技术门槛，用户能够快速的在控制台中开启直播审核的服务，解决中小直播平台内容审核的痛点。

直播审核架构

1. 主播推流到视频直播中心，触发直播审核任务
2. 对于直播流进行指定频率的截帧
3. 实时的对于截帧经过内容审核引擎进行综合内容审核
4. 结果交由管控服务进行综合的判断，是否须要通知客户和保存证据截帧

直播审核特性

开销低

对于用户透明，用户能够在控制台上轻松的开启视频直播审核服务，无需付出单独的存储，流量费用和计算成本，用户经过自行构建或者使用咱们提供的直播审核平台能够快速的进行问题和疑似视频流的复审和封禁。

强大的算法支持

依赖于阿里巴巴多年的视频和AI技术的积累，能够快速方便的接入业界领先的直播审核算法，同时采用多帧综合断定来下降误检测率。

多种场景支持

• 智能鉴黄
• 智能暴恐检测
• 广告检测
• 无心义直播检测(针对长期推流又无有意义内容的直播流)

检测模型定制化

因为用户的需求多种多样，场景也不尽相同，因此直播审核提供了更弹性的解决方案，用户能够动态的对于每一路流给一个不一样的审核策略，算法模型也能够根据不一样的流采用不一样的模型，这很是必要，由于不一样的场景千差万别，实践中咱们发现有些直播流误检率很高。

好比拳击比赛，常常被误判成色情，由于这和绝大多数两三我的就演完的小电影场景很是类似。

再好比游戏场景，由于游戏自己的场景是渲染出来的，纹理和正常的经过摄像头采集的图像有些不一样，加上游戏不少就是被设计成有必定暴力成分在里面，因此正确的区别游戏和现实场景也是很是必要的，例如不少的场景很容易被错误认为是暴恐。

因此必须根据场景对于不一样的流进行算法细分，从而能够挺高精确度，而且让直播审核更加实用。阿里云视频直播审核提供了细致到流级别的算法控制，更好的覆盖这些场景。

灵活配置

能够动态的对不一样的流采用不一样的检测场景，不一样的截帧频率，截帧频率最高能够达到1s一帧，从而能够对于不一样的视频流采用不一样的监控强度，重点监控高危流，能够进一步下降使用成本。

实用的辅助功能

实际应用中独立的几张图片可能不足以做为认定违规的强有力的证据，结合视频直播平台的实时录制功能，能够实时的对于已经发现有问题的流启动录制，搜集证据，也方便人工复审

语音审核

有些复杂的场景，好比涉政，可能主要的风险出如今言语上，并非视觉上；有些主播为了不被视频鉴黄抓到，退而求其次在言语上输出一些不雅内容，这均可以用过阿里云的语音识别来进行语音鉴黄，多维度的进行直播审核。

综述

阿里云视频直播审核能够方便的为用户提供直播视频审核的能力，大大的减小人力资源的耗费，提升审核效率，欢迎登陆阿里云官网，了解详情并申请开通。

原文连接

阅读更多干货好文，请关注扫描如下二维码：