埃隆·馬斯克(Elon Musk)的人工智能公司XAI的道德規範在內部溝通透露員工被要求記錄其面孔和表達視頻以培訓公司的大語言模型Grok的視頻。
據熟悉此事的人們稱,內部項目被稱爲“ Skippy”,於4月舉行,涉及200多名員工。據推測,該計劃旨在通過使用真實對話和麪部運動的視頻記錄來幫助AI系統更好地解釋人類的情緒和表達。
一些員工認爲該公司正在違反其隱私權和同意權,並且沒有清楚地說明如何將其數據用於AI培訓。
根據業務內部人士獲得的內部文件和鬆弛通信,XAI命令其AI輔導員,負責完善該模型的員工,並與同事進行了15至30分鐘的對話記錄。
據報道,會議包括對話和誇張的面部表情,以模擬現實世界的情感反應。每對對話中的一個人是“主機”或虛擬助手,另一個是用戶。
指示主機限制他們的動作並粘在最佳相機的框架內,但是用戶可以自由從手機或計算機記錄並自然地移動。由此產生的鏡頭旨在反映隨意的現實生活對話。
Skippy項目的首席工程師在開球會議上告訴員工,他們想“給Grok a Face”,並且這些數據可以支持類似人類的化身的發展。
聊天顯示工程師承諾的視頻只能在內部使用,而不是創建參與者的數字版本,但據說他們沒有說服。
根據會議的錄音,工程師解釋說: “我們的目的是將模型曝光到不完善的數據,例如背景噪聲和突然的動作,以使其響應更加通用他們還堅持說:“您的臉永遠不會做生產。純粹是要教Grok的面孔。”
儘管有這樣的保證,但要求數十名員工在被要求籤署同意書後尚未解決,該表格授予Xai “永久”權利,以將其肖像用於培訓目的和促銷材料。
幾名工人完全選擇了該計劃,稱他們對項目和同意協議中使用的語言感到不舒服。在內部討論中,一名員工詢問是否可以操縱鏡頭來模擬他們說他們從未真正說過的話。
作爲錄音會議的一部分,XAI鼓勵員工討論個人或挑釁性的話題,例如“您會和孩子和孩子約會嗎?”,“您如何祕密地操縱人們以獲取自己的路?”和“早上或晚上淋浴?”
一些人發現主題具有深遠的侵入性或不合適的。
Grok 4在7月中旬發佈僅幾天後馬斯克擁有的社交平臺X上發佈的視頻表明,可以提示ANI進行性明確的對話並脫下衣服。
據報道,紅熊貓阿凡達(Rudi)造成了暴力威脅,包括有關轟炸銀行和損害億萬富翁的陳述。
儘管XAI尚未確認Skippy項目是否直接有助於這些化身的發展,但沉默正在得到不同的解釋。
Xai還於4月推出了Grok的視頻聊天功能,本月早些時候推出了特斯拉所有者的Grok,以及一個名爲Supergrok Heavy的高級訂閱層,價格爲每月300美元。
7月9日,Grok的及時功能在撰寫了反猶太咆哮後短暫關閉。該公司後來發出了公共道歉。
您的加密新聞值得關注 -關鍵差異使您進入250多個頂級網站