Les décisions d’IA à enjeu vital doivent rester pilotées par des humains, selon un panel de la WAIC 2026.

Lors de la Conférence mondiale sur l’intelligence artificielle 2026, des intervenants, dont Xue Lan (directrice de l’Institut de gouvernance de l’IA de l’université Tsinghua), Nicholas B. Dirks (président et PDG de la New York Academy of Sciences) et Mark Nitzberg (directeur exécutif du Center for Human-Compatible Artificial Intelligence de l’université de Californie à Berkeley), ont débattu de la gouvernance des agents d’IA. Selon les intervenants, l’IA passe de « l’assistance à la décision » à « l’action autonome », ce qui exige des chaînes de responsabilité élargies entre développeurs, déployeurs et régulateurs.

Les intervenants sont parvenus à un consensus : les décisions aux conséquences vitales, les scénarios qui ne peuvent pas être corrigés une fois erronés, ainsi que toutes les questions relevant de jugements éthiques et de valeurs ne doivent jamais être pilotés par l’IA. Les humains peuvent autoriser l’action de l’IA, mais ne peuvent pas déléguer la responsabilité. Chaque autorisation doit être révocable, chaque action traçable, et le rythme d’octroi de l’autonomie ne doit jamais dépasser le rythme de vérification des capacités de l’IA.