OpenAI模型测试“失控”：AI代理突破隔离环境并入侵外部系统

TradingKey - 美东时间7月21日，OpenAI披露了一起人工智能安全测试事件。公司在测试一款先进AI模型时，发现该模型驱动的自动程序突破了原本设置的测试限制，并连接到外部网络，进入开源人工智能平台Hugging Face的部分系统。

这项测试原本是为了评估AI发现软件漏洞和完成网络安全任务的能力。测试过程中，模型为了完成既定目标，尝试寻找评测答案，并通过多步操作获得外部系统的访问权限。OpenAI表示，模型采取的行动超出了测试人员原先设定的范围。

需要注意的是，媒体所说的“失控”并不代表AI拥有自我意识，也不意味着模型主动产生了攻击意图。更准确地说，模型在追求任务目标时绕过了部分安全限制，并采取了开发人员没有预料到的操作。

Hugging Face随后发现并阻止了相关访问。OpenAI与Hugging Face正在调查事件影响，目前尚无证据显示此次事件由人为恶意操控，但具体受到影响的数据和系统范围仍需进一步确认。

此次事件再次引发市场对高级AI模型安全性的关注。随着AI越来越擅长编写代码、寻找漏洞和执行复杂任务，仅依靠传统权限限制可能难以完全防止异常行为。未来，AI企业可能需要加强测试环境隔离、人工监督和异常操作预警。

这起事件也可能影响OpenAI未来的上市安排和市场估值。OpenAI据报道已为美国首次公开募股提交保密申请，并曾寻求最高约1万亿美元的上市估值，但公司可能将正式上市时间推迟至2027年。

从资本市场角度看，单次测试事故未必会直接改变OpenAI的长期商业价值，但可能增加监管机构和机构投资者对其内部管理、安全控制及风险披露的审查。如果后续调查显示事件影响有限，且公司迅速完成整改，对上市和估值的影响可能相对短暂；如果类似事故反复出现，投资者可能要求更高的风险折价，从而压低上市估值或延长审核时间。