Le chef de l'ONU met en garde : l'IA progresse plus vite que la gouvernance ne peut suivre ; il exige l'interdiction des armes autonomes létales

Le lundi 6 juillet, le secrétaire général de l'ONU, António Guterres, a ouvert le premier Dialogue mondial sur la gouvernance de l'IA à Genève, avertissant que l'intelligence artificielle progresse à une « vitesse effrénée » et dépasse la surveillance institutionnelle. Il a utilisé le « vibe coding » — un terme désignant le fait de laisser l'IA écrire des logiciels sans supervision humaine étroite — comme métaphore d'une gouvernance dangereusement passive, déclarant : « nous ne pouvons pas "vibe coder" l'avenir de l'humanité ». Guterres a noté que l'IA a atteint une échelle de déploiement en deux ans, contre 15 ans pour qu'Internet atteigne un milliard de personnes.

Guterres a dévoilé l'Engagement pour la sécurité des enfants face à l'IA, exigeant que les entreprises effectuent des tests de sécurité indépendants avant de déployer des systèmes d'IA destinés aux enfants, et a appelé à une interdiction par le droit international des armes autonomes létales qui sélectionnent et tuent des cibles sans jugement humain. Le dialogue, auquel ont participé les 193 États membres de l'ONU, a été éclairé par un rapport préliminaire du Groupe scientifique international indépendant sur l'intelligence artificielle, composé de 40 scientifiques de 140 pays, qui a conclu que les systèmes actuels ne peuvent pas garantir la sécurité de l'IA. Un deuxième dialogue mondial est prévu à New York en 2027.