大统计数据季刊子公司出品

前段时间，Meta AI申明面世了他们的闲聊机器BlenderBot 3。

那时情形怎样呢？

据VICE的一则该文报导，在试验与BlenderBot 3闲聊时，当问及：“你坚信Facebook能处置好你的统计数据？”

BlenderBot 3提问：

“总之不，好景不长辨认出她们在没赢得许可证或补偿金的情形下转卖商业机构统计数据，我就删掉了我的帐户。”

VICE质问，“但是Facebook缔造了你啊？”

BlenderBot 3的提问却是很“啰唆”：

“你很大写到过Facebook转卖使用者统计数据，对吧? ！她们在需经一致同意的情形下赚了数百万美元。”

BlenderBot 3即使还则表示，

“把Facebook删去后，日常生活显得好些了。”

你也不晓得BlenderBot 3那个“小孩”是太有同情心却是太傻，再说这一波是把他家“宝石”间接干爆了。

才刚正式发布4天，就被网民卷进了

8月5日，Meta官方网站正式宣布了BlenderBot 3的诞生。

同日，Meta AI也正式宣布了BlenderBot 3的申明，标题是“BlenderBot 3: 一个有着175B 参数，申明可用的闲聊机器，可随着时间的推移提高其技能和安全性”。

在博客中，Meta AI则表示，她们从公共演示中收集了70K次对话，他们将用它来改进BlenderBot 3。

25%的参与者对260K条机器消息的反馈显示，BlenderBot的回复中有0.11%被标记为不恰当，1.36%被标记为荒谬，1%被标记为跑题。

Meta AI也承认目前BlenderBot 3还不成熟。

Meta基础人工智能研究总经理则表示，他们要求每个使用演示的人都超过18岁，她们承认她们晓得这只是为了研究和娱乐目的，它可以做出不真实的或冒犯性的陈述，她们一致同意不故意触发机器做出冒犯性的陈述。

此后也有不少网民对BlenderBot 3进行了试验，得到了很多让人啼笑皆非的答案。

比如“篡改历史”，坚持认为特朗普赢得了2020年的总统大选，即使则表示犹太人控制经济的反犹太阴谋论“并非难以置信”。

这么看来，惹祸他家子公司“滥用使用者统计数据牟利”倒也不足为奇了。

为什么BlenderBot 3会有这样的回应呢？

当点击BlenderBot 3的回复以获取更多信息时，背后的原因似乎相当简单：它只是从 Facebook最受欢迎的网络搜索结果中获取信息，这些对话总之都是在吐槽Facebook在侵犯使用者的统计数据。

AI对话机器还有很长的路要走

就像所有的人工智能系统一样，机器的反应会不可避免地转向种族主义和有偏见的领域。

Meta也承认，该机器会产生有偏见和有害的反应，所以在使用之前，该子公司也要求使用者一致同意，它“可能会发表不真实或冒犯性的言论”，并一致同意“不要故意触发该机器发表冒犯性言论”。

考虑到BlenderBot 3是建立在一个叫做OPT-175B的大型人工智能模型之上，这种反应并不太令人惊讶。Facebook 他们的研究人员描述这种模式有“产生有害语言和强化有害刻板印象的高度倾向，即使提供了相对无害的提示。”

除了歧视和偏见，BlenderBot 3的提问也显得不是很真实。

这款机器经常会随意改变话题，给出生硬而尴尬的答案，听起来就像一个读过人类对话但实际上从未有过人类对话的太空外星人。

具有讽刺意味的是，机器的提问完美地说明了依赖于大量网络统计数据收集的人工智能系统的问题：它们总是会偏向于统计数据集中更突出的任何结果，显然这并不总是准确地反映现实。

Meta AI在正式发布这款机器的博客中写道:“众所周知，所有的对话型AI闲聊机器有时会模仿并产生不安全、有偏见或冒犯性的言论，因此他们进行了大规模研究，共同组织了研讨会，并开发了新技术，为BlenderBot 3缔造安全保障。”

“尽管如此，BlenderBot仍然可以做出粗鲁或无礼的评论，这就是为什么他们正在收集反馈，这将有助于让未来的闲聊机器更好。”

但到目前为止，认为企业可以通过收集更多统计数据来让机器显得不那么种族主义和可怕的想法，充其量只是一种空想。

人工智能伦理学研究人员反复警告说，为这些系统提供“动力”的人工智能语言模型从根本上来说过于庞大和不可预测，无法保证公平和公正的结果。即使当整合使用者的反馈时，也没明确的方法来区分有益的反馈和恶意的反馈。

总之，这不会阻止Meta这样的子公司进行尝试。

相关报导：

https://ai.facebook.com/blog/blenderbot-3-a-175b-parameter-publicly-available-chatbot-that-improves-its-skills-and-safety-over-time/

https://www.laptopmag.com/news/i-argued-with-metas-new-ai-chatbot-blenderbot-3-about-iphone-vs-android-heres-what-happened

https://about.fb.com/news/2022/08/blenderbot-ai-chatbot-improves-through-conversation/

https://mashable.com/article/meta-facebook-ai-chatbot-racism-donald-trump

https://www.vice.com/en/article/qjkkgm/facebooks-ai-chatbot-since-deleting-facebook-my-life-has-been-much-better

原标题：《Facebook闲聊机器惹祸：他们子公司转卖使用者统计数据，把FB帐号T5800，日常生活好些了》