高盛分析師向ChatGPT透露姦殺計劃 OpenAI監測到後報警

金色財經報道，美國一名25歲的男子因在上班期間向人工智能聊天工具ChatGPT詳細透露強姦、殺害其前女友的計劃，從而被開發商OpenAI檢測到之後舉報至聯邦調查局（FBI）。 人工智能公司往往會通過多標籤有害內容分類模型，精準識別暴力、仇恨、性侵害等不同類別的危險內容，同時從情緒強度、語氣意圖維度補充識別風險等級。按照OpenAI的公司政策，當後臺監測到對話者可能籌劃傷害他人時會對內容實施人工審覈，如果被判定危險等級高，公司還可能向執法部門提供對話內容作爲辦案線索。 法庭文件顯示，該男子名叫Darren Zhou，看上去是一名亞裔。案發時，他是佛羅里達州西棕櫚灘的一名高盛分析師。FBI探員將人工智能對話內容與該女子收到的信息聯繫起來，判斷Darren已經構成了足夠的人身安全威脅，於是在5月將其逮捕。Darren在繳納了10萬美元的保釋金後獲得假釋。 高盛在得知這些指控後於6月終止了與他的僱傭關係。 Darren被指控的罪名包括髮出殺人或傷害他人的威脅、以明確人身威脅實施嚴重跟蹤騷擾等。8月13日，他當庭認罪，並被判處5年緩刑。 該案件還引發了業界關於AI聊天隱私邊界的討論：平臺對用戶私人對話進行監測的尺度應該如何界定，在什麼情況下有權將用戶的對話內容提交給執法部門。