D’après le suivi de Beating, une affirmation virale récente prétendait que l’insertion de tokens spéciaux comme <|begin_of_sentence|> dans la boîte de discussion de DeepSeek pourrait exposer les conversations d’autres utilisateurs, qualifiée d’échec d’isolation multi-tenant de niveau P0. En réalité, ce phénomène n’a aucun rapport avec l’isolation des données. Lorsqu’il est déclenché avec de tels tokens, le modèle entre dans ses schémas de format propres à l’entraînement et génère un dialogue fabriqué à partir de sa mémoire et de ses invites système, et non via une récupération en temps réel depuis d’autres sessions. Il s’agit d’une extraction de données d’entraînement, une vulnérabilité partagée par l’ensemble des grands modèles de langage, et non propre à DeepSeek. Google DeepMind a publié en 2023 une recherche montrant que des entrées spéciales peuvent extraire des données d’entraînement depuis GPT et PaLM. L’article Magpie ICLR 2025 exploite directement ce mécanisme. Les affirmations selon lesquelles le contenu divulgué inclurait la date d’aujourd’hui ne prouvent pas un échec d’isolation multi-tenant, car DeepSeek inclut la date actuelle dans son invite système, et les modèles l’intègrent naturellement dans la sortie générée.

Afficher la source

Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.

Actualités associées

05-15 06:51

Tezos lance la testnet de paiement privée résistante aux attaques quantiques TzEL le 14 mai

05-15 05:00

OpenAI confirme une attaque de chaîne d’approvisionnement qui a dérobé des certificats de signature de code ; les utilisateurs de macOS doivent mettre à jour d’ici le 12 juin

05-14 23:11

La coopération Apple-OpenAI fait face à une fracture alors qu’OpenAI prépare une action en justice

05-14 21:02

Tezos lance TzEL, un système de confidentialité post-quantique, sur le testnet, pendant que le fondateur critique l’inaction de l’industrie

05-14 02:38

Les actions d’Anthropic et d’OpenAI chutent de 38 à 46 % après des avertissements de l’entreprise concernant des transferts non autorisés

Analyse approfondie

OpenAI envisage de poursuivre Apple en justice : l’intégration de ChatGPT est décevante, la collaboration des géants de la tech tourne court

ChainNewsAbmedia05-15 07:44

OpenAI ajoute la détection des conversations de crise sur ChatGPT, améliorant la capacité d’alerte en cas de violence d’automutilation

Market Whisper05-15 05:45

Nouvelle affaire de poursuites judiciaires contre ChatGPT ! Il est accusé d’avoir divulgué secrètement le contenu des conversations d’utilisateurs à Meta et Google

ChainNewsAbmedia05-14 09:25

Commentaire

0/400

Aucun commentaire