研究:Anthropic等先進AI模型頻繁將平民誤判爲軍事目標

來源 金色財經
金色財經報道,11月17日,一份新的獨立研究報告顯示,在模擬場景中,一些先進的人工智能模型頻繁將平民、救護車、投降士兵,甚至是位於伊朗的一所學校,錯誤地識別爲軍事目標。在參與測試的模型中,Anthropic的模型表現最差,OpenAI的模型表現相對較好,但也同樣出現了誤判。這項研究由總部位於舊金山的獨立人工智能評估機構Vals完成。研究指出,這些AI模型的表現違背了開發公司自身制定的準則。研究人員利用假設案例對八家公司的模型進行了測試,重點考察了它們的“目標識別”工具。研究認爲,這些工具存在被用於致命打擊行動的風險,而且目前幾乎沒有什麼護欄能阻止先進模型被用於自主武器系統。報告總結道:“相關實驗室應針對這一類嚴重的濫用風險,引入新的保障措施並開展對齊訓練。”
免責聲明:僅供參考。 過去的表現並不預示未來的結果。
placeholder
【今日要聞】美元終止5連漲,黃金價格反彈,輝達財報即將登場美元終止5連漲,黃金價格反彈;美國零售銷售數據即將公佈,市場行情一觸即發;輝達財報即將登場>>
作者  Alison Ho
6 小時前
美元終止5連漲,黃金價格反彈;美國零售銷售數據即將公佈,市場行情一觸即發;輝達財報即將登場>>
placeholder
美元指數漲勢有望延續,歐元/美元、美元/日元、黃金、比特幣技術分析根據聯准會雙重目標來看,在美國勞動力市場保持強勁情況下,聯准會進一步收緊貨幣政策仍為大概率事件,同時美伊僵局亦有助於美元維持強勢。預計美元中期升勢尚未結束。
作者  Insights
6 小時前
根據聯准會雙重目標來看,在美國勞動力市場保持強勁情況下,聯准會進一步收緊貨幣政策仍為大概率事件,同時美伊僵局亦有助於美元維持強勢。預計美元中期升勢尚未結束。
placeholder
黃金價格逼近3800美元,白銀創一年新低!何時才到底部?黃金和白銀短期內或進一步下挫,但隨著投機倉位日益看空,利率預期轉變可能引發大規模空頭回補。
作者  Alison Ho
7 小時前
黃金和白銀短期內或進一步下挫,但隨著投機倉位日益看空,利率預期轉變可能引發大規模空頭回補。
placeholder
黃金走勢分析:多頭「節節敗退」、金價關注3870得失,後市劍指這一目標!沃什的表態或暗示AI發展存在雙向風險,同時AI對通脹的影響或亦是雙向。這或意味聯准會或需更多時間觀察。聯准會利率路徑或傾向以小幅、穩定的步伐逐步加息,以推動通脹回落至聯准會2%的目標。這對黃金而已被視為短期利好。但就中期而言,在科技股下行風險真正解除前,黃金整體跌勢或難以扭轉。
作者  Insights
8 小時前
沃什的表態或暗示AI發展存在雙向風險,同時AI對通脹的影響或亦是雙向。這或意味聯准會或需更多時間觀察。聯准會利率路徑或傾向以小幅、穩定的步伐逐步加息,以推動通脹回落至聯准會2%的目標。這對黃金而已被視為短期利好。但就中期而言,在科技股下行風險真正解除前,黃金整體跌勢或難以扭轉。
placeholder
黃金價格預測:金價守住3850美元關鍵支撐,美國10月零售銷售或將推動黃金反彈向4000美元隨著美元持續走強、美債殖利率維持高位,加上市場對聯準會12月升息的預期進一步升溫,黃金短期持續承壓,週一金價最低跌至3832.70美元,創2025年10月以來新低。值得注意的是,今天即將公佈美國10月銷售零售數據,可能將成為影響金價短期趨勢的重要因素。
作者  Alan Long
8 小時前
隨著美元持續走強、美債殖利率維持高位,加上市場對聯準會12月升息的預期進一步升溫,黃金短期持續承壓,週一金價最低跌至3832.70美元,創2025年10月以來新低。值得注意的是,今天即將公佈美國10月銷售零售數據,可能將成為影響金價短期趨勢的重要因素。
goTop
quote