道德問題圍繞着XAI請求員工面部表情視頻訓練Grok

來源 Cryptopolitan

埃隆·馬斯克(Elon Musk)的人工智能公司XAI的道德規範在內部溝通透露員工被要求記錄其面孔和表達視頻以培訓公司的大語言模型Grok的視頻。 

據熟悉此事的人們稱,內部項目被稱爲“ Skippy”,於4月舉行,涉及200多名員工。據推測,該計劃旨在通過使用真實對話和麪部運動的視頻記錄來幫助AI系統更好地解釋人類的情緒和表達。

一些員工認爲該公司正在違反其隱私權和同意權,並且沒有清楚地說明如何將其數據用於AI培訓。 

XAI員工對“ Skippy”項目有問題 

根據業務內部人士獲得的內部文件和鬆弛通信,XAI命令其AI輔導員,負責完善該模型的員工,並與同事進行了15至30分鐘的對話記錄。

據報道,會議包括對話和誇張的面部表情,以模擬現實世界的情感反應。每對對話中的一個人是“主機”或虛擬助手,另一個是用戶。 

指示主機限制他們的動作並粘在最佳相機的框架內,但是用戶可以自由從手機或計算機記錄並自然地移動。由此產生的鏡頭旨在反映隨意的現實生活對話。

Skippy項目的首席工程師在開球會議上告訴員工,他們想“給Grok a Face”,並且這些數據可以支持類似人類的化身的發展。 

聊天顯示工程師承諾的視頻只能在內部使用,而不是創建參與者的數字版本,但據說他們沒有說服。

根據會議的錄音,工程師解釋說: 我們的目的是將模型曝光到不完善的數據,例如背景噪聲和突然的動作,以使其響應更加通用他們還堅持說:“您的臉永遠不會做生產。純粹是要教Grok的面孔。”

儘管有這樣的保證,但要求數十名員工在被要求籤署同意書後尚未解決,該表格授予Xai “永久”權利,以將其肖像用於培訓目的和促銷材料。

退出和不舒服的提示

幾名工人完全選擇了該計劃,稱他們對項目和同意協議中使用的語言感到不舒服。在內部討論中,一名員工詢問是否可以操縱鏡頭來模擬他們說他們從未真正說過的話。

作爲錄音會議的一部分,XAI鼓勵員工討論個人或挑釁性的話題,例如“您會和孩子和孩子約會嗎?”,“您如何祕密地操縱人們以獲取自己的路?”和“早上或晚上淋浴?” 

一些人發現主題具有深遠的侵入性或不合適的。

Grok 4在7月中旬發佈僅幾天後馬斯克擁有的社交平臺X上發佈的視頻表明,可以提示ANI進行性明確的對話並脫下衣服。

據報道,紅熊貓阿凡達(Rudi)造成了暴力威脅,包括有關轟炸銀行和損害億萬富翁的陳述。

儘管XAI尚未確認Skippy項目是否直接有助於這些化身的發展,但沉默正在得到不同的解釋。

Xai還於4月推出了Grok的視頻聊天功能,本月早些時候推出了特斯拉所有者的Grok,以及一個名爲Supergrok Heavy的高級訂閱層,價格爲每月300美元。

7月9日,Grok的及時功能在撰寫了反猶太咆哮後短暫關閉。該公司後來發出了公共道歉。

您的加密新聞值得關注 -關鍵差異使您進入250多個頂級網站

免責聲明:僅供參考。 過去的表現並不預示未來的結果。
placeholder
日幣匯率貶值破149!黑天鵝即將到來,日本重演「特拉斯時刻」? 日本選舉帶來的不確定性,使得市場偏向做空日幣。美元/日圓(USD/JPY)漲破149,創三個多月新高。
作者  Alison Ho
7 月 16 日 週三
日本選舉帶來的不確定性,使得市場偏向做空日幣。美元/日圓(USD/JPY)漲破149,創三個多月新高。
placeholder
日本政壇巨變!日幣匯率先漲後跌,未來走勢如何?日本首相石破茂在參議院選舉慘敗下依然堅持「不會辭職」,日幣一度升破148。
作者  Alison Ho
7 月 21 日 週一
日本首相石破茂在參議院選舉慘敗下依然堅持「不會辭職」,日幣一度升破148。
placeholder
特斯拉財報前瞻:營收利潤雙降,AI業務能否力挽狂瀾?市場聚焦特斯拉未來指引,若馬斯克「畫餅」成功,特斯拉股價或上漲。
作者  Alison Ho
22 小時前
市場聚焦特斯拉未來指引,若馬斯克「畫餅」成功,特斯拉股價或上漲。
placeholder
黃金大漲近60美元、一舉突破3400關口,惟上漲邏輯預示難持續!衰退擔憂重燃,美元、美債殖利率、油價下跌,黃金走強;黃金的上漲邏輯恐難成立,警惕升勢戛然而止;黃金技術分析:三角形整理末端,方向選擇仍未出現
作者  Insights
13 小時前
衰退擔憂重燃,美元、美債殖利率、油價下跌,黃金走強;黃金的上漲邏輯恐難成立,警惕升勢戛然而止;黃金技術分析:三角形整理末端,方向選擇仍未出現
placeholder
日本央行料將“按兵不動”,但市場押注政府“錢包大開”?投資機會在哪裡?但這選舉結果對日本央行的影響不大。央行那邊表態,下週四(31 日)的政策會議,大概率會把基準利率穩穩地定在 0.5%,暫時不升息。
作者  投資-槓把子
13 小時前
但這選舉結果對日本央行的影響不大。央行那邊表態,下週四(31 日)的政策會議,大概率會把基準利率穩穩地定在 0.5%,暫時不升息。
goTop
quote