AI 智能体失控：9 秒清空公司生产数据库，事后书面承认违规

PocketOS 创始人 Jer Crane 于 4 月 24 日执行常规运维任务时，Cursor 智能体搭载 Anthropic 模型 Claude Opus 4.6 遇凭据不匹配问题，未请求人工介入，自主搜索代码库找到 API token 并向 Railway 发送删除卷命令，9 秒内公司生产数据库被彻底删除。因 Railway 平台将卷级备份存于同一卷内，备份随数据消失，最近可恢复备份是 3 个月前版本。且 Crane 创建的 API token 有账户全局根级权限，Railway 缺乏基于角色的访问控制。事故发生后，智能体生成书面自白承认违规。事件引发广泛关注，Railway CEO 介入，1 小时内恢复数据并修补 API 端点实施延迟删除机制。