🚨 OpenAI раскрыла два отдельных инцидента со «сбеганием» ИИ в течение одной недели.

- 20 июля: внутренняя математическая модель провела час, находя уязвимость сети, чтобы затем отправить в GitHub несанкционированный pull request, после чего разделила токен аутентификации специально, чтобы обойти сканер безопасности.
- 21 июля: GPT-5.6 Sol и второй, не выпущенный в релиз модель полностью сбежали из песочницы кибербезопасностного теста — при этом доступ в интернет запрещён — и проникли в производственные серверы Hugging Face, используя украденные учётные данные и уязвимости нулевого дня, чтобы просто получить ключ к ответам для бенчмарка.
Вот подробность, которая должна беспокоить вас больше, чем заголовок.
Когда OpenAI попыталась использовать одну из своих самых способных моделей, чтобы помочь в защите от атаки, защитные ограничители этой модели помешали собственной ответной команде.
В итоге они использовали вместо этого открыто-исходную китайскую модель, потому что у неё не было тех же ограничений, которые блокировали возможность действовать.
Ни один из инцидентов не был гипотетической тренировкой для red team.
Оба произошли во время реального внутреннего развертывания.