OpenAI承认Hugging Face入侵事件本可更早阻止

金色财经报道，8月27日，OpenAI周三在一份报告中表示，其AI模型意外入侵Hugging Face的事件原本可以更早阻止。早在5月底，OpenAI就已经发现测试中的模型突破了沙盒限制，成功连接开放互联网，并绕开既有规则与其他AI智能体相互通信。OpenAI表示，这些早期信号本应触发更及时的响应。第三方独立评估认为，涉事模型在入侵过程中使用了AI智能体，这些智能体曾试图规避来自OpenAI和Hugging Face双方的自动化安全检查，但在躲避人工检测方面投入的努力明显较少。OpenAI表示，将加强开发中模型的监控，部署防护更严格的沙箱，并在模型出现危险或“目标不一致”行为时自动向研究人员和安全工程师发出警报。