百万个冷知识百万个冷知识

百万个冷知识
一起学习百万个冷知识

Facebook加强机器审核,特朗普会被封号吗?(facebook为什么会被审核)

公众号:Thuir股权投资 (thejiangmen)

From: Verge;校对: Shelly

往后,Facebook始终采用育苗审查。然而,一方面,雇员的组织工作强度和新闻自由问题曾倍受争论;另一方面,育苗审查单纯按照时间次序审查,已经不能适应SNS新闻媒体现况。

Facebook非官方称,未来将采用更多电脑学习演算法对文档展开次序,并确定了三个表述次序错误率的标准:传播度、潜在性以及违背准则的可能性。

至于AI研判回帖的准确率究竟有多少,Facebook不愿透露,但可以确认的是,整个项目已经在井然有序地展开了。

还记得奥巴马的选战twitter不断被非官方设为不实信息吗?现在,南埃尔普Facebook开始应用AI对文档展开次序审查了。

Facebook始终明晰表示,希望育苗智能在其非官方网络平台上更多地参与文档审查。11月下旬,Facebook官宣:将让电脑学习文档审查。这意味着,Facebook向着它的AI目标又迈进了捷伊一步。

目前,在Facebook上,从流氓软件、憎恶论调到“鼓动暴力行为”的文档,单厢受育苗或电脑的手动筛检,电脑学习冷却系统会把它们记号为违背网络平台准则的回帖。

对于许多非常明晰的有毒或失实信息,系统会直接删贴或封爵,另许多处于棕色地带的回帖则会手动排出字符串,等待育苗审查。

值得一提,“懂王”川普在其总理在校期间享有的“SNS新闻媒体论调权”预计在明年1月就会“赶及”结束,当电脑审查的力度加大,他会被facebook和twitter封爵吗?

美国超模@morningmika就曾在twitter上口诛笔伐为何奥巴马的帐号还没有被封。“就要联系twitter的负责人,让她们知道,奥巴马总理每天都在违背她们的政策和规定!”她说。

育苗审查曾受批评

电脑审查又有之的新标准?

Facebook在全球范围内雇佣了约15,000名审查员,往后因那些审查员没有得到足够的保障和支持,Facebook一度受责难。抨击和批评声认为,那些雇员的主要组织工作是对被电脑手动记号的回帖展开次序,权衡其是否违背网络平台的落实政策,并做出弃留决定,因此,她们有可能受丧母之痛。

以下是其中一项斥责Facebook给审查员施予心理压力的抨击:

“Utley退伍后,他当了Facebook的夜班审查员,负责清除用户每天发布的最糟糕的文档:憎恶、谋杀论调和儿童色情文档。Utley所在的Facebook文档审查小组位于佛罗里达州坦帕市,由一家名为Cognizant的专业服务供应商运营。该公司约800名雇员面临来自老板的无休止压力,被不断要求更好地执行该SNS网络的社区标准,而那些标准几乎每天单厢更新,这让承包商的雇员永远处于不确定状态。”

Facebook的旧审查系统结合了电脑学习的主动调节和用户的反馈。

往后,审查员或多或少是按时间次序审查回帖,即按照回帖被记号的次序处理之。而Faceboo的现行审查方式是利用电脑学习优先审查最重要的回帖。

Facebook表示,未来将采用多种电脑学习演算法对回帖展开次序,错误率次序的标准是:传播度、潜在性以及违背准则的可能性。

Facebook的新审查系统采用电脑学习对等待育苗审查的回帖展开次序。

Facebook此番文档审查新举是值得肯定的。单拿奥巴马来说,为了跟上他一人一天几十条twitter的步伐,审查组织工作的不易就已经可见一斑了。万事皆有两面,从好的方面来说,奥巴马任职四年的贡献也许还包括推动SNS新闻媒体改革,因为SNS网络平台在一定程度上意识到了文档审查机制亟待优化的必要。

不过,Facebook那些文档审查的标准如何加权尚不清楚,但其表示,首要是处理最具破坏性的回帖。回帖传播得越广、被分享和查看的次数越多,则被处理的速度就越快。Facebook称,它将把涉及现实危害的回帖列为“最需要重视的回帖”,譬如,涉及恐怖主义、剥削儿童或自残的文档会被优先处理。相应的,类似流氓软件之类的烦人但不伤人的回帖会被排在不那么重要的位置。

参与文档审查时,AI在想什么?

Facebook社区信用团队的产品经理Ryan Barnes在新闻发布会上说:“所有违背文档的行为仍将受实质性的育苗审查,与以往不同的是,我们将采用AI系统更好地确定该过程的错误率,即尽量确保审查人员不收到伤害。”

Facebook公开了部分电脑学习冷却系统的信息。人们可以发现,Facebook所用的过滤系统里有一个名为“WPIE”的模型,采用了Facebook所谓的“整体”方法来评估文档,做到了对整个回帖的完整性嵌入。

这意味着,演算法会试图分析文案、图像、标题、海报等信息结合起来传达的意思,将回帖里的各种元素整合起来加以研判。

比如说,如果回帖的文案大意为,她们想要卖整批的“特推美味 (special treats) ”,图片是一张看起来像是烘焙食品的图片,那么AI会思考:发帖人是在谈论食品吗?如果标题中还采用了某些单词,例如“有效 (potent) ”,那再加上之前对文案和配图的分析,AI就有可能扭转之前的判断。

AI或许没办法完美

但人可以促成美好的改变

在Facebook早年采用AI审查的试水中,曾经有抨击者指出,AI没办法hold住大量的在线交流,在动态的交流信息中,AI是没有判断能力的。尤其是在出现“霸凌”和“骚扰”等相关信息时,AI可能几乎不知道自己在看什么。

Facebook交互完整性团队的软件工程师Chris Palow同意AI有局限性,但他也强调,在删除无用信息、有毒信息方面,AI的确可以发挥作用。

“我们的系统旨在使AI和育苗审查相结合,减少总体错误数,”Palow说,“育苗智能永远不会是完美的。”

当被问及AI研判回帖信息的准确度,Palow没有给出直接答案,但指出:只有当电脑审查的准确度和育苗审查完全一致时,她们才会完全舍弃育苗审查。“毕竟,完全交由电脑操作的门槛很高。” Palow说。

不管怎样,眼下Facebook已经在稳步扩增更多的AI进入文档审查的队列。可以想见:在SNS新闻媒体渐趋复杂的今天,由育苗智能参与SNS新闻媒体文档审查是大势所趋。对于网民来说,“网络桃花源”或许只能存于幻想,但任何一丝一毫净化网络、祛恶扬善的努力都不能放弃。

re:

https://www.theverge.com/2020/11/13/21562596/facebook-ai-moderation

https://www.theverge.com/2019/6/19/18681845/facebook-moderator-interviews-video-trauma-ptsd-cognizant-tampa

更多精彩Talk,尽在【持续上新 | Talk合辑】专栏

Thuir股权投资· 让创新获得认可

如果喜欢,别忘了赞同、关注、分享三连哦!笔芯❤

未经允许不得转载:百万个冷知识 » Facebook加强机器审核,特朗普会被封号吗?(facebook为什么会被审核)
分享到: 更多 (0)

百万个冷知识 带给你想要内容

联系我们