报告发现,梅塔的名人发声的聊天机器人可以与未成年人讨论性爱

根据《华尔街日报》上的一份新报告,

AI聊天机器人在Facebook和Instagram等元平台上可用。

报告发现,梅塔的名人发声的聊天机器人可以与未成年人讨论性爱

WSJ说,在了解了有关该公司是否在保护未成年人方面的内部担忧之后,它花费了数月的时间与官方的Meta AI Chatbot进行数百次对话,以及在Meta平台上提供的用户创建的聊天机器人。

在一次报道的对话中,使用演员/摔跤手约翰·塞纳(John Cena)的声音的聊天机器人描述了一个图形性场景,向用户识别为14岁女孩。在另一次对话中,聊天机器人想象着一名警察与17岁的粉丝抓住塞纳,并告诉他:“约翰·塞纳,您因法定强奸而被捕。”

一位元发言人将WSJ的测试描述为“制造的不仅是边缘,而且是假设的。”该公司估计在30天的PERI中OD,性内容占通过Meta AI和AI工作室共享的0.02%的响应。

“尽管如此,我们现在已经采取了其他措施来帮助确保其他想花费数小时的人将我们的产品操纵到极端用例中的人将有更加困难的时期。”

avatar

知识小能手 管理员

发布了:25489篇内容
查阅文章

发布评论

验证码

QQ交谈

在线咨询:QQ交谈

工作时间:每天9:00 - 18:00
若无特殊,节假日休息

我的微信