美議員提出新法案擬禁止“自我遞歸進化”AI

金色財經報道，9月29日，美國加州民主黨衆議員羅·卡納即將向國會提交一項全面人工智能監管法案，希望對前沿AI技術建立迄今最嚴格的聯邦監管框架。該提案不僅要求實施嚴格責任制度，還計劃禁止具備“遞歸自我改進”能力的人工智能系統投入使用，直到聯邦政府建立完整安全保障體系爲止。這項法案被命名爲《人類控制人工智能法案》（Human Control Over AI Act）。法案出臺背景正值美國科技界和政策界對於先進人工智能潛在風險的擔憂持續升溫。近年來，多位AI企業高管公開警告，未來某些人工智能系統可能超出人類控制能力，而國會至今尚未形成全面監管方案。