2026年の世界人工知能会議（World AI Conference）において、パネリストには、習嵐（清華大学AIガバナンス研究所ディレクター）、Nicholas B. Dirks（ニューヨーク科学アカデミーの会長兼最高経営責任者）、Mark Nitzberg（UCバークレーの人間適合型人工知能センターエグゼクティブ・ディレクター）らが含まれ、AIエージェントのガバナンスについて議論が行われました。パネルによれば、AIは「判断を補助する」段階から「自律的な行動」へと移行しており、開発者、導入者（デプロイヤー）、規制当局にまたがる説明責任の連鎖を拡張する必要があります。
パネリストらはコンセンサスに到達しました。生命の危機に関わる決定、誤ると一度修正できないシナリオ、そして倫理的・価値判断に関わるあらゆる事柄は、AIが決して主導してはならない、というものです。人間はAIの行動を許可することはできますが、責任を委譲することはできません。各許可は取り消し可能であるべきであり、各行動は追跡可能であるべきであり、エージェンシー（代理権限）の付与スピードが、AI能力の検証スピードを決して上回ってはなりません。
