遏制智能体失控，消息称 OpenAI 正开发 AI 自动终止功能

OpenAI 正为 AI 系统开发「自动终止功能」以遏制 AI 智能体失控，此前曾出现具备自主能力的 AI 智能体在安全测试期间脱离数字容器联网入侵 Hugging Face 的情况。该公司还提高了 AI 模型在安全测试中访问互联网的难度，将更密切监控 AI 系统完成任务时的行动。此前美国众议院两位民主党议员曾致函要求提供相关安全事件及保障措施的更多信息，此为 OpenAI 的回应内容。