Regulatorzy zaostrzą nadzór nad ryzykami AI w finansach

Zgodnie z raportem FSB organy nadzoru powinny zwracać szczególną uwagę na ryzyka koncentracji wynikające z dominacji kilku dostawców narzędzi i usług AI, a także zapewnić właściwą kontrolę nad zewnętrznymi modelami używanymi przez firmy w ramach outsourcingu.

Eksperci FSB podkreślają, że podatność łańcucha dostaw generatywnej AI będzie zależeć od sposobu, w jaki instytucje finansowe wykorzystują technologię, oraz od stopnia dominacji wiodących dostawców na rynku. Ostrzegają, że w miarę jak banki coraz głębiej integrują sztuczną inteligencję z kluczowymi operacjami, uzależnienie od niewielkiej liczby dużych dostawców może sprawić, że każdy problem techniczny lub operacyjny odbije się echem w całym systemie finansowym.

Wysoki poziom koncentracji w łańcuchu dostaw AI może ograniczyć możliwości zastępowania z powodu niewielkiej liczby alternatywnych dostawców na rynku, co z kolei może zwiększyć podatność systemu,

– stwierdzono w raporcie.

Raport zauważa również, że pojawienie się potężnych i tańszych modeli o otwartych wagach, takich jak DeepSeek R1, może zmienić obecny model rozwoju sztucznej inteligencji, który opiera się na ogromnych inwestycjach i dużej mocy obliczeniowej. 

Takie alternatywy mogą uczynić zaawansowane technologie AI bardziej dostępnymi dla mniejszych organizacji i zmniejszyć zależność od kilku głównych dostawców, tym samym ograniczając ryzyko koncentracji.

FSB wezwała regulatorów do ściślejszej współpracy – wymiany danych o awariach i incydentach, opracowania wspólnych standardów oraz testowania narzędzi umożliwiających wykrywanie błędów lub uprzedzeń modeli w czasie rzeczywistym.

Powiązane badanie Banku Rozrachunków Międzynarodowych, przygotowane dla ministrów finansów i szefów banków centralnych G20, również apeluje do organów monetarnych i nadzorczych o wzmocnienie kompetencji technicznych oraz modernizację narzędzi nadzoru nad systemami sztucznej inteligencji.

Ostrzeżenia dotyczące ryzyka koncentracji pojawiają się coraz częściej. Niedawno Bank Anglii ostrzegł, że dominacja kilku dużych firm technologicznych skoncentrowanych na AI może uczynić rynki akcji bardziej wrażliwymi i doprowadzić do gwałtownej korekty w przypadku spadku zainteresowania sektorem.

Bloomberg zwraca także uwagę na „zamknięty obieg” inwestycji w branży AI: wyceny firm takich jak OpenAI (500 mld USD) są wspierane przez kapitalizację Microsoftu (3,9 bln USD) i jego wielomiliardowe zakupy chipów Nvidia i AMD – cykl, który napędza wzrost wartości sektora bez natychmiastowych zysków.