Kalshi Traders Price Fable 5 Retour à 68 % Avant le 1er juillet Après l'interdiction historique de l'IA

Il a été rapporté que le PDG d'Amazon, Andy Jassy, aurait alerté des hauts responsables de l'administration Trump sur des découvertes de sécurité issues de l'équipe de recherche interne de son entreprise, déclenchant une série d'événements qui ont abouti à ce que le Département du Commerce américain ordonne à Anthropic de fermer ses deux modèles d'intelligence artificielle (IA) les plus avancés pour tous les clients de la planète.

  • Points clés :
    • Le PDG d'Amazon, Andy Jassy, aurait signalé aux responsables Trump la découverte d'une faille de jailbreak de Fable 5 le 12 juin, provoquant une fermeture mondiale.
    • Les traders de Polymarket évaluent à 71 % la probabilité qu'Anthropic restaure l'accès à Fable 5 d'ici le 1er juillet 2026.
    • Anthropic a qualifié la directive du Département du Commerce de « malentendu », promettant de rétablir l'accès dès que possible.

Que s'est-il passé

Le 12 juin 2026, le Département du Commerce a publié une directive de contrôle des exportations exigeant qu'Anthropic suspende l'accès à Claude Fable 5 et Claude Mythos 5 pour tout ressortissant étranger, qu'il soit à l'intérieur ou à l'extérieur des États-Unis. Étant donné que l'accès via API ne peut pas filtrer de manière fiable les utilisateurs par nationalité, Anthropic a désactivé ces deux modèles pour tous les clients dans le monde entier. D'autres modèles d'Anthropic sont restés opérationnels.

La directive est arrivée vers 17h21 HE. Le soir même, Anthropic a confirmé la fermeture dans un communiqué public.

La connexion avec Amazon

Selon des personnes familières avec l'affaire citées par le Wall Street Journal, Jassy aurait informé le secrétaire du Trésor Scott Bessent, le secrétaire au Commerce Howard Lutnick, et le directeur national du cyberespace Sean Cairncross que des chercheurs d'Amazon avaient utilisé des prompts élaborés sur Fable 5 pour extraire des informations sur des vulnérabilités logicielles que le modèle était censé refuser.

La recherche a identifié des prompts qui contournaient certains des classificateurs de sécurité intégrés à Fable 5 dans au moins quatre programmes. Les chercheurs ont découvert que le modèle pouvait identifier des bugs logiciels et, en théorie, aider à les convertir en code d'exploitation, bien que les garde-fous aient empêché une réalisation complète dans les cas testés. Aucune preuve n'indique qu'Amazon ait utilisé ou accédé à des capacités offensives.

L'initiative de Jassy s'inscrivait dans des discussions plus larges entre les dirigeants technologiques et l'administration sur les risques liés à l'IA. L'administration a ensuite décidé d'imposer le contrôle à l'exportation, le président Trump ayant apparemment approuvé malgré ses réserves sur l'impact sur l'innovation.

Ce que signifie le « jailbreak » d’un modèle d’IA

Le « jailbreaking » traditionnel, rendu célèbre par George Hotz lorsqu'il a déverrouillé l'iPhone original en 2007, consiste à trouver et exploiter des vulnérabilités de bas niveau dans le firmware ou le matériel pour supprimer les restrictions du fabricant. Le jailbreaking par prompt dans l'IA fonctionne différemment.

Le jailbreaking par prompt consiste à créer des entrées textuelles conçues pour tromper un grand modèle de langage (LLM) afin qu'il ignore ses règles de sécurité. Au lieu d'exploiter du code, les chercheurs utilisent le langage. L'un des premiers exemples était le prompt « DAN » (Do Anything Now) qui s'est répandu sur Reddit fin 2022, demandant à ChatGPT de jouer un rôle sans restriction. Les techniques varient des scénarios de jeu de rôle et du cadrage hypothétique aux méthodes automatisées qui optimisent les chaînes de texte adversariales.

Dans le cas de Fable 5, les chercheurs d'Amazon ont utilisé des techniques basées sur des prompts pour inciter le modèle à révéler des informations sur des vulnérabilités qu'il était censé refuser.

Le désaccord d’Anthropic

Anthropic a respecté la directive mais a réagi fermement. La société a examiné la démonstration d'Amazon et a conclu qu'elle ne produisait qu'un petit nombre de vulnérabilités mineures déjà connues, détectables par d'autres modèles accessibles au public sans contournement. Anthropic a affirmé qu'il n'existe pas de jailbreak universel pour Fable 5 ou Mythos 5 malgré de nombreux tests avec le gouvernement américain, l'Institut de sécurité de l'IA du Royaume-Uni et des tiers.

L'entreprise a soutenu que l'application de cette norme à l'échelle de l'industrie « arrêterait essentiellement tous les déploiements de nouveaux modèles ». Anthropic a qualifié l'action de « malentendu » et a indiqué qu'elle travaillait à restaurer l'accès tout en maintenant une politique de conservation des données de 30 jours à des fins de recherche.

L'ancien conseiller de la Maison Blanche pour l'IA et Czar de la Crypto, David Sacks, a déclaré que la restriction avait été émise « à contrecœur » et a exprimé l'espoir qu'Anthropic résolve le problème afin que le contrôle à l'exportation puisse être levé.

Selon Sacks, un « partenaire de confiance hautement crédible » aurait découvert une faille dans les garde-fous de Fable et en aurait informé à la fois Anthropic et le gouvernement américain. Il affirme que l'administration aurait demandé au PDG d'Anthropic, Dario Amodei, de corriger la vulnérabilité ou de retirer le modèle, mais qu'Anthropic aurait refusé.

« La balle est dans le camp d'Anthropic », a écrit Sacks sur X, ajoutant que l'administration espère qu'Anthropic résoudra le problème pour que les restrictions puissent être levées et que Fable puisse redevenir accessible au public. Erik Voorhees, fondateur de Venice AI et ShapeShift, a contesté la version officielle du gouvernement.

Dans le fil de Sacks, Voorhees a suggéré que le prétendu jailbreak était probablement un problème de sécurité routinier plutôt qu'une menace majeure, et a estimé qu'Anthropic aurait pu considérer les demandes d'arrêt du déploiement du modèle comme excessives. Voorhees a également spéculé que des responsables fédéraux auraient utilisé la controverse pour pénaliser Anthropic en raison de désaccords antérieurs avec Washington, ajoutant qu'il faisait davantage confiance à l'évaluation d'Anthropic sur la sécurité de l'IA qu'à celle du gouvernement fédéral.

La chercheuse en sécurité Katie Moussouris de Luta Security, qui a examiné les découvertes d'Amazon, a qualifié la réponse du gouvernement d'« réaction excessive complète », notant que ces informations aident principalement les défenseurs plutôt que les attaquants.

Ce que disent les marchés de prédiction

Les traders ont rapidement évalué le calendrier d’un retour de Fable 5.

Sur Polymarket, trois contrats basés sur des dates ont été ouverts le 13 juin avec un volume total de 18 263 $ en trading :

  • Résolution le 15 juin : 22 % de probabilité, 13 975 $ de volume
  • Résolution le 22 juin : 54 % de probabilité, 4 011 $ de volume
  • Résolution le 1er juillet : 71 % de probabilité, 1 595 $ de volume

Les traders de Kalshi proposent des contrats similaires totalisant 6 419 $ en volume sur 24 heures :

  • Avant le 15 juin : 14 % de probabilité
  • Avant le 20 juin : 51 % de probabilité
  • Avant le 1er juillet : 68 % de probabilité

L'opinion générale penche vers une résolution dans la seconde moitié de juin, avec une forte conviction que la restauration dans la même semaine est peu probable.

Pourquoi cela importe

Ceci constitue l'une des applications les plus directes à ce jour des contrôles à l'exportation américains pour limiter l'accès mondial à un modèle d'IA de pointe d'une entreprise américaine, distincte des restrictions sur les puces et le matériel qui ont jusqu'ici défini la politique. La mesure concerne les chercheurs étrangers travaillant aux États-Unis, les opérations de cybersécurité mondiales dépendant des outils d'Anthropic, ainsi que le calendrier commercial et IPO d'Anthropic. Amazon est à la fois investisseur dans Anthropic et principal partenaire de distribution cloud pour ses modèles via Amazon Bedrock.

Le débat sur l’‘IA contrôlée’

Certains observateurs estiment que cette directive marque le début d'une ère d’« IA contrôlée », où les modèles de pointe ne seraient plus largement accessibles mais rationnés par approbation gouvernementale, vérification d’identité, nationalité et licences vérifiées. Le public aurait accès à des versions plus anciennes ou dégradées, tandis que les partenaires agréés auraient accès à la gamme complète, notamment Fable et Mythos.

Un utilisateur de X a décrit l'incident comme un moment charnière pour l'IA, affirmant que « le modèle d'IA le plus puissant sur terre a été en vie pendant 3 jours » avant que l'action gouvernementale ne le ferme effectivement. Le post soutenait que qu’Anthropic, une entreprise qui avait « supplié pour une régulation », voyait « le gouvernement la réguler » en perturbant l’accès à son modèle phare. L’utilisateur a également avancé que cet épisode révélait que l’IA avancée possède un « interrupteur » et que « l’entreprise ne le détient pas. »

La préoccupation porte moins sur cet incident que sur ce qu’il signale. Si une simple démonstration de jailbreak étroite suffit à bloquer un modèle déployé commercialement utilisé par des centaines de millions de personnes, les critiques affirment que la barre pour de futures restrictions est plus basse que ce que l’on pensait.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé