Монетарне управління Сінгапуру представило правила ризиків ШІ

Згідно з документом, опублікованим 13 листопада, усі регульовані фінансові установи, включно з банками, страховими компаніями та біржовими посередниками, мають налагодити належне управління й контроль за використанням штучного інтелекту.

Рекомендації охоплюють увесь спектр застосування ШІ у фінансовій сфері – від клієнтських сервісів і внутрішньої аналітики до автономних систем, що працюють зі складними процесами. Вони поширюються на банки, страхові компанії, учасників ринків капіталу та інших ліцензіатів, які перебувають під наглядом MAS.

MAS визначило очікування щодо нагляду з боку рад директорів, рамок управління ризиками та контролю на всіх етапах життєвого циклу систем ШІ, включно з генеративними моделями та ІІ-агентами. Регулятор зазначає, що стандарти є принциповими й співмірними ризикам, тому вимоги змінюватимуться залежно від розміру організації та рівня ризику кожного сценарію використання ШІ.

Серед актуальних ризиків MAS попередило, що неправильна оцінка ризиків ШІ може призвести до значних фінансових втрат, а непередбачувана поведінка систем – порушити ключові операції або завдати шкоди клієнтам. Окремо виділено ризики генеративного ШІ, зокрема «галюцинації» та нестабільну поведінку моделей.

До інших проблем MAS відносить ризики безпеки: зокрема атаки із підміною запитів (prompt injection), витоки й втрату конфіденційності даних під час роботи зі сторонніми сервісами, а також можливі порушення авторських прав під час навчання моделей на захищених матеріалах. MAS також застерігає від небезпечної залежності від кількох великих постачальників ШІ та від того, що працівники дедалі частіше надмірно покладаються на такі інструменти у повсякденній роботі.

Щоб упоратися з кадровими викликами, три найбільші банки Сінгапуру впродовж найближчих одного–двох років проведуть навчання для близько 35 000 місцевих працівників, щоб вони змогли адаптуватися до змін у своїх ролях і процесах через впровадження ШІ.

Заступниця керуючого директора MAS Хо Херн Шин заявила, що запропоновані рекомендації встановлюють «зрозумілі наглядові очікування, які допомагають фінансовим установам використовувати ШІ», водночас зберігаючи захист від нових ризиків. Зацікавлені сторони можуть надсилати відгуки щодо документа до 31 січня 2026 року.

У жовтні Рада з фінансової стабільності (FSB) попередила, що розширення використання ШІ у фінансах підвищує ризики, насамперед через залежність від кількох великих постачальників моделей та інфраструктури. Регулятор також закликав посилити контроль за зовнішніми ІІ-сервісами та налагодити обмін даними про інциденти.