За моніторингом Beating нещодавній вірусний меседж стверджував, що введення спеціальних токенів на кшталт <|begin_of_sentence|> у вікно чату DeepSeek може розкрити розмови інших користувачів, що називають P0-рівнем збоєм ізоляції в багатокористувацькому середовищі (multi-tenant). Насправді це явище не пов’язане з ізоляцією даних. Якщо спровокувати такими токенами, модель переходить до форматних патернів, що використовуються під час тренування, і генерує вигаданий діалог на основі власної пам’яті та системних підказок, а не через отримання даних у реальному часі з інших сесій. Це Training Data Extraction — спільна вразливість для всіх великих мовних моделей, а не щось унікальне для DeepSeek. У 2023 році Google DeepMind опублікувала дослідження, яке показує, що спеціальні вхідні дані можуть витягувати навчальні дані з GPT і PaLM. Робота ICLR 2025 Magpie безпосередньо використовує цей механізм. Заяви про те, що витеклий контент містить сьогоднішню дату, не доводять збій ізоляції в багатокористувацькому середовищі, оскільки DeepSeek включає поточну дату в свій системний промпт, і моделі природно вбудовують її у згенерований вивід.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

05-15 06:51

Tezos запускає квантово-стійку приватну платіжну тестову мережу TzEL 14 травня

05-15 05:00

OpenAI підтверджує, що атака на ланцюжок постачання вкрала сертифікати для підпису коду; користувачам macOS потрібно оновитися до 12 червня

05-14 23:11

Партнерство Apple і OpenAI опинилося під загрозою розколу, оскільки OpenAI готується до судових дій

05-14 21:02

Tezos запускає систему TzEL для постквантового приватності в тестовій мережі, доки засновник критикує бездіяльність індустрії

05-14 02:38

Акції PreStocks компаній Anthropic і OpenAI впали на 38–46% на тлі попереджень компаній щодо несанкціонованих переказів

Поглиблений аналіз