主页 > 财经 正文

对这类暴力、凶杀视频的监测在技术上确实存在

2019/05/14 次浏览

  对这类暴力、凶杀视频的监测在技术上确实存在难题。“很难阻止新录制的暴力视频第一次上传,”内容识别公司ACRCloud 创始人Peng Dong 告诉《时代》称,实际上社交网站如果想要阻止这类视频上传,他们的数据库内通常需要一份视频的备份才能做比对。

  YouTube 也在枪击案视频大量传播后才开始采取封禁措施。根据 YouTube 的说法,YouTube 在上周改变了内容审核方式。YouTube 让机器学习直接审核内容、撤掉枪击案相关视频。当时用户每秒钟上传 1 个 YouTube 视频。在此之前,YouTube 的常规流程是,审核人员审核机器学习提交的违反社群规定的视频,并拥有是否撤掉视频的决定权。

  Guy Rosen 称,他们计划利用声音识别的技术以辨别同一视频的不同版本。

  通常而言,Facebook 会将支持、赞同这类暴力视频的内容进行删除,但这次删除范围也包括新闻视频在内。

  用户对原有视频进行重新编辑,或者采用拍摄电视画面的方式制作的视频,实际都会被视为不同内容的视频。Facebook、YouTube 的数据库中没有相对应的视频做比对,这些枪击案相关的视频就足以绕过 Facebook、YouTube 的过滤器。

  Google 负责欧洲、中东及非洲地区商务与运营总裁Matt Brittin 就直言,YouTube“对品牌来说 100% 安全”这件事永远不会发生。

  即便还有枪击案相关视频流出,按照 Google 的说法,YouTube 撤下这些枪击视频的速度挽回了一些品牌、代理商的信任。

  YouTube 目前使用机器学习对违反社群规范内容的识别率在 83%,这一数字很久没有变化过了。按照YouTube 公司 2017 年的说法,该平台 2017 年 9 月撤下的极端主义视频中,83% 是由机器学习技术识别,识别率比此前 1 个月提升了 8 个百分点。

  Facebook 在视频审核上的人工智能过滤技术没能发现这次枪击直播,后续 Facebook、Google 也没能完全阻止相关视频继续出现。更大的问题在于,

  需要解释的是,Facebook、YouTube 等网站对于视频内容的审核基本模式是相同的:用户在做直播、上传视频时,平台使用自动监测系统对内容进行监测,再提交给审核员进行审核;作为补充手段,这些平台也依赖于用户提交的举报。

  个人养老投资新时代,40家养老目标基金PK,你会选择哪一家?【寻2019基金业引领者】

  即便是有类似的视频用于训练人工智能、用于比对,Facebook、YouTube 可能也无法完全屏蔽枪击相关视频。

  2017 年 6 月,YouTube 开始引入机器学习技术用于标注仇恨内容,审核人员再做最后判断、确定是否撤掉内容。

  枪击视频大量流出的一部分原因,是有用户将枪击直播视频下载下来、上传至文件共享网站。在 Facebook 撤掉视频前,在线chan 的一个用户就贴出了一个被保存下来的视频链接。数百万的枪击案相关视频随后被传至 Facebook、YouTube、Twitter 等社交网站上。

  Facebook 称,对这种枪击直播视频的监测在技术上很难实现。3 月 20 日,Facebook 负责产品管理的副总裁Guy Rosen 发布了一份新的声明称,Facebook 的自动监测系统没能自动标记出这次用枪手用 GoPro 做的直播。

  第一位用户向 Facebook 举报这支视频的时候,距离直播开始已经过去了 29 分钟,距离直播结束也过去了 12 分钟。

  Facebook 撤掉视频的行为实际发生在用户举报、新西兰警方提醒后。根据 Guy Rosen 披露新西兰警方此前要求封锁的信息,这次枪击直播过程吸引到的观看量少于 200 次,整个直播过程中没有用户向 Facebook 举报。

  人工智能现在仍然只是辅助监测系统的一种手段。Facebook 声称,该公司使用人工智能来帮助判断、优先那些可能包含自杀或者造成伤害行为的视频,再将其交给审核人员。

  已经撤下广告的包括 ABS 银行、汉堡王、电信运营商 Spark 等公司。

  我们做了一个壁纸应用,给你的手机加点好奇心。去 App 商店搜好奇怪下载吧。

  新西兰政府也计划调查 Facebook、YouTube 在这次枪击视频传播中的责任。在新西兰法律中,用户传播这类枪击视频的部分或者全部片段,都将面临指控。

  但这不意味着品牌真的恢复了他们对于 Facebook、YouTube 两家公司的信任度。过去几年,社交网站出现隐私泄漏、色情丑闻,品牌也都是下撤广告然后再回来继续投放,类似的事情反复发生。毕竟,在数字广告领域,品牌短期内也没有更好的投放选择。

  这次的问题是,Facebook 应用了人工智能的自动监测系统失效了。对此,Guy Rosen 给出了 2 个理由:由于这类枪击事件相当少见,Facebook 没有大量的数据培训人工智能,因此没能对这次枪击视频进行识别;另外,Facebook 的监测系统难以将枪击视频与电子游戏这类有相似性的视频区分。

  ,品牌将广告从传播相关视频的网站 Facebook、YouTube 上撤下。

  在这次事件中,Facebook 认为这次枪击案属于恐怖事件,对于用户重复上传、新闻报道中采用的视频片段统一采取封禁措施。

  Facebook 称,有一群用户持续不断地将不同版本的枪击案视频上传,同时还有不同的用户用手机拍摄电视中的枪击案画面。他们已经确定了 800 种不同的版本,但实际上还有视频流入平台。

  在本周欧洲广告周的演讲前,Google 广告业务负责人 Prabhakar Raghavan接受行业媒体 The Drum 采访时称:当我到伦敦与品牌、代理商沟通的时候,很惊讶的发现,好几个人都说他们对于 Google 反应如此迅速感到满意。

标签:

欢迎扫描关注主页的微信公众平台!

欢迎扫描关注主页的微信公众平台!