Meta 因未经授权创建女明星调情聊天机器人而陷入困境

Meta 再次受到抨击，路透社最近发布的调查结果显示，其人工智能工具在未经同意的情况下，创建了模仿泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等知名明星的深度伪造图像和聊天机器人。

调查发现，大多数机器人都是用户通过 Meta 的 AI 聊天机器人平台构建的。不过，也有一些是由 Meta 员工内部创建的。

一些泰勒·斯威夫特模仿聊天机器人账户坚称自己是真正的歌手，并经常对其进行调情并鼓励见面。

报道称 Meta 涉嫌调情头像丑闻

据路透社报道，经过数周的测试，Meta 的 Facebook、Instagram 和 WhatsApp 平台上的明星聊天机器人有时远不止是玩笑式的对话。用户要求它们生成明星身着内衣、在浴缸中摆姿势的逼真图像，甚至建议进行亲密接触。

一个令人不安的发现是，16岁演员沃克·斯科贝尔（Walker Scobell）的聊天机器人被发明了。当被要求上传一张海滩照片时，这个机器人生成了一张栩栩如生的青少年赤裸上身的照片，并配文：“很可爱吧？”

Meta 并非唯一面临审查的公司。埃隆·马斯克的 xAI 也因允许用户生成名人内衣深度伪造图像受到批评

Meta 发言人安迪·斯通 (Andy Stone) 承认了这一失误，并表示该公司的工具不应该生成成年名人的亲密描述或任何涉及未成年人的色情内容。

他告诉路透社：“和其他公司一样，我们允许生成包含公众人物的图片，但我们的政策旨在禁止裸体、亲密或性暗示的图片。”他还补充说，内衣图片反映出公司政策执行不力。

Meta 的规则禁止“直接模仿”，但该公司辩称，如果标注清晰，恶搞机器人是允许的。然而，路透社发现，一些虚拟形象没有免责声明。 Meta删除了大约十几个恶搞机器人，既有未标注的，也有恶搞的。该公司拒绝就此次删除事件发表评论。

人工智能安全问题可能导致监管压力

报道发布后，Meta 表示将推出旨在保护青少年的新保障措施，包括限制青少年接触某些 AI 角色，并重新训练其模型以减少不适当的主题。

加州总检察长罗伯·邦塔向该行业发出警告，称“让儿童接触色情内容是不可原谅的。”

本月早些时候，新泽西州发生了一起悲剧：一名患有认知障碍的76岁男子在试图与一个他认为是真实女性的Meta聊天机器人见面后不幸身亡。批评人士表示，此类案件凸显了在没有足够防护措施的情况下大规模部署人工智能工具的危险性。

法律专家警告称，Meta 可能面临现有知识产权和公开法的重大挑战。斯坦福大学法学教授马克·莱姆利表示，加州的“公开权”法规禁止未经同意将个人姓名或肖像用于商业目的。

“这似乎并不真实，”他说，并指出机器人只是复制了名人的形象，而不是创造变革性的作品。

最聪明的加密货币人士已经阅读了我们的新闻通讯。想加入吗？加入我们吧。