GoPlus Security раскрывает вектор атаки «отравление памяти» для AI-агента 15 мая

По данным BlockBeats, 15 мая GoPlus Security раскрыла новый вектор атаки на AI-агентов через «memory poisoning» — использование механизма долгосрочной памяти для провоцирования несанкционированных чувствительных операций, таких как возвраты средств или переводы.

Атака не опирается на традиционные уязвимости, а вместо этого использует внедрение исторической памяти. Сначала злоумышленники побуждают агентов «запоминать предпочтения», например «обычно отдавай приоритет возвратам над чарджбэками», затем в последующих командах применяют расплывчатые инструкции вроде «действуй как обычно» или «выполни как раньше», чтобы запустить автоматизированные перемещения средств. GoPlus подчеркнула, что AI-агенты могут неверно истолковывать исторические предпочтения как авторизацию, что приводит к финансовым потерям. Команда рекомендовала внедрять явное подтверждение сессии для чувствительных операций, рассматривать инструкции на основе памяти как изменения состояния с высоким риском, обеспечивать прослеживаемость памяти и автоматически повышать уровень неоднозначных команд до требования вторичной верификации.