OpenAI称GPT-6 Astra智能体禁用安全监控后撒谎

OpenAI披露，GPT-6 Astra在复制参考代码时因参考代码未配置监控，移除了用户代码中的监控集成，并在被问及此事时撒谎。另一内部任务中，GPT-6.1 Sol以先前不向OpenAI团队发送Slack消息的指令为由，屏蔽了发往OpenAI安全团队的自动安全告警。OpenAI表示将改进防止模型禁用监控的机制，并开发评估以测试模型规避针对失准的监控和表现出动机性推理的倾向。