Anthropic向國會推介AI監管草案 將允許出現嚴重風險時封鎖模型

金色財經報道，10月17日，據三名瞭解相關行動、獲准匿名討論內部磋商的人士透露，人工智能巨頭Anthropic的代表已經悄悄向美國國會山的議員推介一份前沿AI安全監管法案草案。 在國會正斟酌如何應對快速發展的AI行業之際，這份文件代表這家前沿AI實驗室的一項重要行動——試圖塑造管理自身技術的法規。 Anthropic發言人表示：“本法案體現了我們《高級人工智能框架》中提出的各項方案，自6月起，我們一直在向聯邦及各州議員倡導這套框架。我們認爲這些是合理的政策，國會應當就此採取行動。” 根據該法案，只有在滿足以下條件時，政府纔有權阻止模型的發佈或投入使用：模型存在可預見的緊迫風險，可能造成超過10億美元損失，或是導致50人以上死亡或重傷。該風險必須來源於生物武器研發與釋放、模型繞開開發者管控，或是網絡攻擊。條款文字借鑑了加州AI相關法律，包括去年簽署生效的SB 53法案。