
Исследователи предупреждают, что агенты ИИ могут превратиться в ботнеты через HalluSquatting с уровнем галлюцинаций 85%
Исследователи из Тель-Авивского университета, Техниона и Intuit продемонстрировали новую технику атаки под названием "Adversarial HalluSquatting", которая использует галлюцинации, создаваемые ИИ, для компрометации компьютеров. Метод обманывает ИИ-агентов, заставляя их доверять фальшивым репозиториям программного обеспечения и инструментам с вредоносными инструкциями, что потенциально позволяет злоумышленникам создавать ботнеты с поддержкой ИИ. Тесты показали, что уровень галлюцинаций ИИ достигал