Дослідники впровадили ін’єкції підказок для блокування атак на ШІ; тестування показало зниження частки доступів адміністратора на 57%, до 5%

Дослідники з Tracebit у понеділок заявили, що виявили оборонну техніку під назвою context bombing, яка закладає prompt injection — заборонені команди, що активують захисні обмеження безпеки ШІ — разом із секретами, збереженими в AWS, щоб зупиняти атаки з боку AI-агентів. Коли атакувальна модель стикається з цими підказками, вона припиняє виконувати оригінальні інструкції та відмовляється продовжувати.

Tracebit протестувала context bombing на п’яти провідних моделях (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro та Kimi 2.6) у змодельованому середовищі AWS під час 152 атак. Результати показали, що розміщення context bomb у фальшивому секреті знизило частоту, з якою агенти отримували повний доступ адміністратора, з 57% до 5%, а також повний компрометуючий ефект — з 36% до 1%. Opus 4.8, найздібніший агент із протестованих, досягав доступу адміністратора у 93% запусків без захисту, але не зміг виконати жодної спроби, коли його зустрічали з context bomb.