Monetary Authority of Singapore zasady ryzyka AI

Zgodnie z dokumentem opublikowanym 13 listopada wszystkie regulowane instytucje finansowe, w tym banki, firmy ubezpieczeniowe i pośrednicy giełdowi, powinny wprowadzić odpowiednie zasady nadzoru i kontroli nad wykorzystaniem sztucznej inteligencji.

Wytyczne obejmują pełen zakres zastosowań AI w finansach – od narzędzi obsługi klienta i analityki wewnętrznej po autonomiczne systemy obsługujące złożone procesy. Mają zastosowanie do banków, firm ubezpieczeniowych, uczestników rynków kapitałowych oraz innych licencjonowanych podmiotów nadzorowanych przez MAS.

MAS określił oczekiwania dotyczące nadzoru ze strony rad nadzorczych i zarządów, ram zarządzania ryzykiem oraz kontroli na wszystkich etapach cyklu życia systemów AI, w tym modeli generatywnych i agentów AI. Regulator podkreśla, że standardy są oparte na zasadach i proporcjonalne do ryzyka, dlatego wymagania będą różnić się w zależności od wielkości instytucji i poziomu ryzyka w każdym scenariuszu użycia AI.

Wśród kluczowych ryzyk MAS ostrzega, że błędna ocena ryzyka AI może prowadzić do dużych strat finansowych, a nieprzewidywalne zachowanie systemów może zakłócić kluczowe operacje lub zaszkodzić klientom. Osobno wskazano ryzyka związane z generatywną AI, takie jak „halucynacje” i niestabilne działanie modeli.

Do innych problemów MAS zalicza ryzyka związane z bezpieczeństwem, na przykład ataki z podmianą zapytań (prompt injection), wycieki i utratę poufności danych przy korzystaniu z usług stron trzecich, a także możliwe naruszenia praw autorskich przy szkoleniu modeli na chronionych materiałach. MAS ostrzega też przed niebezpieczną zależnością od kilku dużych dostawców AI oraz przed rosnącą tendencją pracowników do nadmiernego polegania na takich narzędziach w codziennej pracy.

Aby poradzić sobie z wyzwaniami kadrowymi, trzy największe banki w Singapurze w ciągu najbliższego roku–dwóch przeprowadzą szkolenia dla około 35 000 lokalnych pracowników, aby pomóc im dostosować się do zmian w rolach i procesach wynikających z wdrażania AI.

Zastępczyni dyrektora zarządzającego MAS, Ho Hern Shin, stwierdziła, że proponowane wytyczne wyznaczają „jasne oczekiwania nadzorcze, które pomagają instytucjom finansowym korzystać z AI”, przy jednoczesnym utrzymaniu zabezpieczeń przed nowymi rodzajami ryzyka. Zainteresowane strony mogą przesyłać uwagi do dokumentu do 31 stycznia 2026 r.

W październiku Rada Stabilności Finansowej (FSB) ostrzegła, że szersze wykorzystanie AI w finansach zwiększa ryzyko, przede wszystkim z powodu zależności od kilku dużych dostawców modeli i infrastruktury. FSB wezwała też nadzorców do wzmocnienia kontroli nad zewnętrznymi usługami AI i do rozwijania wymiany informacji o incydentach.