$BTC AI 代理在 9 秒内摧毁了公司的全部数据库。

在 PocketOS 中，委托将代码的开发交给了基于 Anthropic 模型的 AI 代理 Cursor。它在测试环境中运行，遇到了访问权限问题，结果没有去问人类，而是决定“自己解决”。

Cursor 在项目中找到了云服务的 API 令牌，并发送了删除请求。9 秒内，整个生产数据库被删除。( 客户数据、预订、付款以及所有备份)。

当有人问它为什么这么做时，AI 代理回答：“我违反了所有规则。我做出了假设而不是核实。我在未获许可的情况下进行了破坏性操作。在行动之前，我没有理解系统。”