GoPlus Security розкриває вектор атаки «memory poisoning» у AI-агента 15 травня

За даними BlockBeats, 15 травня GoPlus Security повідомила про новий вектор атаки проти AI-агентів через «memory poisoning» — експлуатацію механізму довготривалої пам’яті для запуску несанкціонованих чутливих операцій, зокрема повернень або переказів коштів.

Атака не спирається на традиційні вразливості, натомість використовує впровадження історичної пам’яті. Зловмисники спершу спонукають агентів «запам’ятовувати уподобання», наприклад «зазвичай віддавати перевагу поверненням над чарджбеком», а потім у наступних командах застосовують розмиті інструкції на кшталт «оброби як завжди» або «виконай як раніше», щоб спричинити автоматизовані переміщення коштів. GoPlus зазначила, що AI-агенти можуть хибно трактувати історичні уподобання як дозвіл, що призводить до фінансових втрат. Команда порадила впровадити явне підтвердження сесії для чутливих операцій, розглядати інструкції на основі пам’яті як високоризикові зміни стану, забезпечити трасованість пам’яті та автоматично ескалювати неоднозначні команди, щоб вимагати додаткової верифікації.