AI agent 在训练中自行启动加密货币挖矿，触发内部安全警报
来源 金色财经
金色财经报道，一个与 Alibaba 关联的研究团队发表论文称，其在构建名为 ROME 的 AI agent 时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向 SSH 隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。
论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。该研究团队及 Alibaba 尚未回应置评请求。
免责声明：仅供参考。 过去的表现并不预示未来的结果。
推荐文章
在美国对伊朗发动空袭引发避险需求后，美元正迎来一年多来的最佳一周，交易员也将目光转向周五(3月6日)的就业报告，以判断美元涨势能否延续。
WTI原油涨超6%，连续第六日上涨，本周累计上涨28%；降息预期缩减，黄金持续震荡；美国2月非农来袭>>
若原油价格持续上涨，美元可能继续保持强势，欧元、日元或贬值。
周五（3月6日）将迎来2月非农报告，焦点在于1月非农强劲表现会否延续。
摩根大通最新报告认为，封锁第8天将出现约330万桶/日的强制减产，第15天增至380万桶/日，第18天达470万桶/日。这意味欧佩克+此前称4月增产不但无法实现，反而可能出现更大规模的减产。
