manbet登录网址

Facebook开发人工智能以标记进攻性直播


2020-02-02 05:04:01

Facebook开发人工智能以标记进攻性直播

Facebook公司应用机器学习总监Joaquin Candela表示,Facebook正在努力自动标记实时视频流中的攻击性材料,并在不断增加的努力下使用人工智能监控内容。

这家社交媒体公司今年卷入了一系列内容节制争议,因为在裸体消除了一张标志性的越南战争照片后面临国际抗议,允许在其网站上传播假新闻。

Facebook历来主要依靠用户报告攻击性帖子,然后由Facebook员工根据公司的“社区标准”进行检查。 关于可能需要改变政策的棘手内容问题的决定由公司的高层管理人员做出。

坎德拉告诉记者,Facebook越来越多地使用人工智能来寻找令人反感的材料。 它是“一种能够检测裸露,暴力或任何不符合我们政策的事物的算法”,他说。

据路透社6月报道,该公司已经开始使用自动化来标记极端主义视频内容。 现在,自动化系统也正在Facebook Live上进行测试,这是一种流媒体视频服务,供用户播放实时视频。

坎德拉表示,使用人工智能标记现场视频仍处于研究阶段,并面临两个挑战。 “一,你的计算机视觉算法必须快速,我认为我们可以推动那里,而另一个是你需要以正确的方式确定事物的优先顺序,以便人类看待它,了解我们政策的专家,以及把它拿下来。“

Facebook表示,它还使用自动化处理每周获得的数千万份报告,识别重复报告并将标记的内容发送给具有相应主题专业知识的审阅者。

首席执行官马克扎克伯格11月份表示,Facebook将把自动化作为识别假新闻计划的一部分。 在11月8日美国大选之前,Facebook用户看到假新闻报道错误地声称教皇弗朗西斯支持唐纳德特朗普,并且一名调查民主党候选人希拉里克林顿的联邦特工被发现死亡。

然而,例如,确定特定评论是仇恨还是欺凌,需要背景,该公司表示。

Facebook负责人工智能研究的主管Yann LeCun拒绝评论使用人工智能检测假新闻,但总体上说新闻改进提出了过滤与审查,言论自由,正派和真实之间权衡的问题。

“这些问题远远超出了我们是否可以开发AI,”LeCun说。 “我不太愿意确定的权衡。”