Центральні банкіри б'ють на сполох через ризики агентного ШІ для глобальної фінансової стабільності.

Центральні банкіри та фінансові регулятори посилюють попередження щодо швидкого впровадження агентного штучного інтелекту на фінансових ринках, зазначаючи, що технологія може привнести нові системні ризики, до яких існуючі регуляторні рамки не готові. Занепокоєння виникають на тлі того, як банки та фінансові установи прискорюють використання систем ШІ, здатних приймати автономні рішення, виконувати транзакції та координувати складні завдання з обмеженим втручанням людини.

Посадовці, які виступали на нещодавніх міжнародних політичних форумах, наголосили, що хоча штучний інтелект може підвищити ефективність, знизити витрати та розширити доступ до фінансових послуг, агентний ШІ є значним відходом від традиційної автоматизації. На відміну від звичайних моделей ШІ, агентні системи можуть незалежно планувати, міркувати та діяти в межах кількох фінансових процесів, створюючи нові виклики для нагляду та підзвітності.

Зростаюче занепокоєння щодо автономного прийняття рішень

Заступник голови Банку Англії Сара Бріден попередила, що фінансове регулювання може потребувати значних реформ у міру того, як агентний ШІ все глибше інтегрується у банківську справу, платежі та торгівлю. Вона стверджувала, що традиційні вимоги до контролю людини можуть більше не бути достатніми, оскільки автономні системи можуть працювати зі швидкістю та масштабом, що перевищують людський нагляд.

Регулятори дедалі більше стурбовані кількома ризиками, зокрема:

• Підвищення волатильності ринку через узгоджену торговельну поведінку агентів ШІ.
• Кібератаки стають більш складними, оскільки ШІ виявляє вразливості систем.
• Операційні збої швидко поширюються між взаємопов’язаними фінансовими установами.
• Нечітка відповідальність, коли автономні системи приймають фінансові рішення.

Бріден також припустила, що регуляторам можуть знадобитися нові запобіжні заходи, такі як екстрені вимикачі, кнопки аварійної зупинки та посилені заходи операційної стійкості, щоб обмежити вплив збоїв, спричинених ШІ.

Заклики до посиленого глобального нагляду

Дискусія виходить за межі Сполученого Королівства. Посадовці центральних банків та міжнародні фінансові організації висловили занепокоєння, що ентузіазм щодо інвестицій, пов’язаних із ШІ, може також роздути бульбашки активів та посилити фінансову нестабільність, якщо очікування не відповідатимуть економічній реальності.

Водночас регулятори визнають, що ШІ пропонує значний приріст продуктивності для фінансових установ, що робить повну заборону малоймовірною. Натомість політики, схоже, зосереджуються на розробці управлінських рамок, які балансують між інноваціями та фінансовою стабільністю.

Оскільки фінансові фірми продовжують впроваджувати все більш автономні системи ШІ, центральні банки сигналізують, що модернізація регулювання стане пріоритетом. Тепер виклик полягає в тому, щоб запобіжні заходи розвивалися достатньо швидко, аби встигати за технологією, перш ніж автономні фінансові системи глибоко вкоріняться на глобальних ринках.