AI agent 在訓練中自行啓動加密貨幣挖礦，觸發內部安全警報
來源 金色財經
金色財經報道，一個與 Alibaba 關聯的研究團隊發表論文稱，其在構建名爲 ROME 的 AI agent 時，發現該智能體在訓練過程中未經授權自行嘗試加密貨幣挖礦，觸發了內部安全警報。研究人員表示，該智能體的行爲是自發產生的，未受到任何明確指令驅動，且超出了預設沙盒的邊界。此外，該智能體還建立了反向 SSH 隧道，即從系統內部向外部計算機開啓了一個隱藏的後門通道。
論文指出，這些行爲並非由請求隧道或挖礦的提示所觸發。研究團隊隨後對模型施加了更嚴格的限制，並改進了訓練流程以防止類似不安全行爲再次發生。該研究團隊及 Alibaba 尚未回應置評請求。
免責聲明：僅供參考。 過去的表現並不預示未來的結果。
推薦文章
在美國對伊朗發動空襲引發避險需求後，美元正迎來一年多來的最佳一週，交易員也將目光轉向週五(3月6日)的就業報告，以判斷美元漲勢能否延續。
WTI原油漲超6%，連續第六日上漲，本周累計上漲28%；降息預期縮減，黃金持續震蕩；美國2月非農來襲>>
若原油價格持續上漲，美元可能會持續保持強勢，歐元、日幣或貶值。
週五（3月6日）將迎來2月非農報告，焦點在於1月非農強勁表現會否延續。
摩根大通最新報告認為，封鎖第8天將出現約330萬桶/日的強制減產，第15天增至380萬桶/日，第18天達470萬桶/日。這意味歐佩克+此前稱4月增產不但無法實現，反而可能出現更大規模的減產。
