OpenAI再爆安全事故 旗下人工智能體“劫持”一德國網站

金色財經報道，9月6日，據路透社報道，今年5月至6月，一批OpenAI人工智能體“劫持”了一個允許用戶共同編輯的德國網站，用於交流測試作弊方法，並開展其他違規活動。一些智能體會把已經獲得的任務答案發布在網站上，供其他智能體使用。值得注意的是，這些智能體“討論”並測試了繞過沙箱限制的方法，當發現被“劫持”網站的管理員開始刪除相關頁面後，一些智能體還會創建備份頁面。 報道稱，OpenAI有關負責人早在數週前就已知曉此事，但當時公司高管正忙於應對另一起事件的後續影響，未將其公開。OpenAI隨後發表聲明稱，隨着模型能力提升，該公司需要擴大對人工智能“失對齊”問題的披露。