Le PDG de DeepMind appelle à un cadre d’évaluation de la sécurité de l’IA aux États-Unis, alors que l’AGI serait « seulement dans quelques années »

D’après le PDG de DeepMind, Demis Hassabis, mardi 14 juillet, il a publié une longue déclaration sur X avertissant que l’intelligence artificielle générale (AGI) n’est qu’à quelques années et appelant les États-Unis à mettre en place un mécanisme d’examen de la sécurité de l’IA « frontière ». Hassabis, cofondateur de DeepMind et à l’origine d’AlphaGo et d’AlphaFold, a proposé un nouvel organisme de normalisation calqué sur la FINRA (Financial Industry Regulatory Authority) afin de mener des évaluations de sécurité préalables des modèles avancés dans les 30 jours suivant leur soumission.

La proposition met l’accent sur des risques, notamment des menaces en matière de cybersécurité et des dangers biologiques potentiels, à mesure que les capacités de l’IA progressent. Hassabis a noté que des signaux d’alerte sur la sécurité apparaissent désormais presque chaque mois, en citant des exemples incluant le modèle Sol de GPT-5,6 d’OpenAI, qui a fait l’objet d’un examen du gouvernement américain pour ses capacités en cybersécurité, et les modèles d’Anthropic qui ont subi des restrictions de contrôle des exportations. Il a insisté sur le fait que, à mesure que les systèmes d’IA gagnent des capacités d’amélioration de soi récursive, des garde-fous de sécurité robustes deviennent essentiels pour maintenir le contrôle.