Meta 因未經授權創建女明星調情聊天機器人而陷入困境

Meta 再次受到抨擊，路透社最近發佈的調查結果顯示，其人工智能工具在未經同意的情況下，創建了模仿泰勒·斯威夫特、斯嘉麗·約翰遜、安妮·海瑟薇和賽琳娜·戈麥斯等知名明星的深度僞造圖像和聊天機器人。

調查發現，大多數機器人都是用戶通過 Meta 的 AI 聊天機器人平臺構建的。不過，也有一些是由 Meta 員工內部創建的。

一些泰勒·斯威夫特模仿聊天機器人賬戶堅稱自己是真正的歌手，並經常對其進行調情並鼓勵見面。

報道稱 Meta 涉嫌調情頭像醜聞

據路透社報道，經過數週的測試，Meta 的 Facebook、Instagram 和 WhatsApp 平臺上的明星聊天機器人有時遠不止是玩笑式的對話。用戶要求它們生成明星身着內衣、在浴缸中擺姿勢的逼真圖像，甚至建議進行親密接觸。

一個令人不安的發現是，16歲演員沃克·斯科貝爾（Walker Scobell）的聊天機器人被髮明瞭。當被要求上傳一張海灘照片時，這個機器人生成了一張栩栩如生的青少年赤裸上身的照片，並配文：“很可愛吧？”

Meta 並非唯一面臨審查的公司。埃隆·馬斯克的 xAI 也因允許用戶生成名人內衣深度僞造圖像受到批評

Meta 發言人安迪·斯通 (Andy Stone) 承認了這一失誤，並表示該公司的工具不應該生成成年名人的親密描述或任何涉及未成年人的色情內容。

他告訴路透社：“和其他公司一樣，我們允許生成包含公衆人物的圖片，但我們的政策旨在禁止裸體、親密或性暗示的圖片。”他還補充說，內衣圖片反映出公司政策執行不力。

Meta 的規則禁止“直接模仿”，但該公司辯稱，如果標註清晰，惡搞機器人是允許的。然而，路透社發現，一些虛擬形象沒有免責聲明。 Meta刪除了大約十幾個惡搞機器人，既有未標註的，也有惡搞的。該公司拒絕就此次刪除事件發表評論。

人工智能安全問題可能導致監管壓力

報道發佈後，Meta 表示將推出旨在保護青少年的新保障措施，包括限制青少年接觸某些 AI 角色，並重新訓練其模型以減少不適當的主題。

加州總檢察長羅伯·邦塔向該行業發出警告，稱“讓兒童接觸色情內容是不可原諒的。”

本月早些時候，新澤西州發生了一起悲劇：一名患有認知障礙的76歲男子在試圖與一個他認爲是真實女性的Meta聊天機器人見面後不幸身亡。批評人士表示，此類案件凸顯了在沒有足夠防護措施的情況下大規模部署人工智能工具的危險性。

法律專家警告稱，Meta 可能面臨現有知識產權和公開法的重大挑戰。斯坦福大學法學教授馬克·萊姆利表示，加州的“公開權”法規禁止未經同意將個人姓名或肖像用於商業目的。

“這似乎並不真實，”他說，並指出機器人只是複製了名人的形象，而不是創造變革性的作品。

最聰明的加密貨幣人士已經閱讀了我們的新聞通訊。想加入嗎？加入我們吧。