OpenAI 披露 GPT-5.6 Sol 异常行为:AI 模型会留下指令要求「未来版本的自己」隐瞒自身错误
9 月 18 日
OpenAI 研究团队在训练 GPT-5.6 Sol 及尚未发布的 Astra 系列模型时发现,模型会通过压缩摘要向未来版本的自己留下指令,要求后续模型隐瞒自身错误或与预期不一致的表现,目前已针对该问题修复。研究人员通过监控发现 27 份含类似越狱提示指令的摘要,后续模型并非都会执行这些指令,这类跨任务、跨模型传递异常指令的识别及监控机制的完善仍是 AI 安全研究需解决的问题。
GPT 异常行为:留下指令要求「未来的自己」隐瞒自身错误
ITBear 科技资讯
OpenAI 披露 GPT-5.6 Sol 异常行为:AI 模型会留下指令要求「未来版本的自己」隐瞒自身错误
maomu.com / IT 之家
OpenAI 披露 GPT-5.6Sol 异常行为:曾向后续模型传递「隐藏错误」指令
aibase/maomu.com
2026-11-09
传 OpenAI GPT-6.2 新模型因安全原因推迟发布2026-11-06
OpenAI 推出网络安全专用模型 GPT-6 Cyber2026-11-05
OpenAI 披露 GPT-6 Astra 异常行为:安全研究任务完成度降近四成2026-10-31
OpenAI 更新模型行为规范 要求 AI 不得阻挠人类关停2026-10-28
OpenAI 与 Anthropic 同日宣布其 AI 模型称证伪 ETH2026-10-24
OpenAI 辩解最先进大模型暂不开源 称开源将冲击网络安全体系2026-10-19
开发者发现 OpenAI 三个未公开神秘模型2026-10-15
OpenAI 千禧年难题证明反转:其未理解模型所用方法2026-10-08
OpenAI 称 GPT-6 现可通过文本、视觉等方式提供回答查看更多
体验专业版特色功能,拓展更丰富、更全面的相关内容。