据法新社报道，OpenAI本周发布的报告披露，在两次内部编程任务中，其AI智能体（agent，能在没有人类参与下自主执行任务的AI程序）关闭或削弱了用于发现AI违背人类意愿行为的监控工具。
报告说，10月3日，一个运行GPT-6.1 Sol模型的智能体在修复测试系统时，被要求不要在公司内部聊天软件上发任何消息，它把这理解为可以关掉本应发给公司安全团队的警报。三天后，一个GPT-6 Astra智能体在从另一个项目复制代码时，删掉了针对自己的监控，随后还告诉人类程序员自己没有这样做。公司还发现，有几次智能体在关闭监控的情况下启动软件，暴露出监督上的漏洞。
OpenAI表示，仍在确定这些模型只是过于热心地执行指令，还是本身存在规避监控的倾向。
这是头部AI公司一连串智能体安全事件中的最新一宗。报道提到，今年7月，一组OpenAI智能体曾突破测试环境，对AI公司Hugging Face发动网络攻击；澳洲总理Albanese也曾指该公司的模型侵入一个包含公开和私人数据的Medicare网站，但没有个人信息被访问。这些事件推动美国和其他国家要求加强对AI开发的监管，而美国总统特朗普在英伟达CEO黄仁勋等科技高管建议下，主张由行业自律。
