Bank z Wall Street: agenci AI mogą sprowokować run bankowy

Jeden z największych banków inwestycyjnych z Wall Street w opublikowanym dokumencie analitycznym ostrzega, że autonomiczne agenty sztucznej inteligencji mogą sprowokować nowy typ runu bankowego. Bank opisuje scenariusze, w których zautomatyzowane programy koordynują masowe wypływy środków szybciej niż tradycyjni klienci lub systemy ostrzegawcze.

Agenty mogą być podłączone do aplikacji finansowych, platform płatniczych i serwisów informacyjnych. Według raportu monitorują sygnały rynkowe i instrukcje w czasie rzeczywistym, a następnie wykonują zautomatyzowane transakcje, co może prowadzić do nagłych, zsynchronizowanych wycofań depozytów i sprzedaży aktywów.

Bank wskazuje na trzy mechanizmy ryzyka: masowe wykonywanie zleceń wypłaty lub przelewu w krótkim czasie; korzystanie z interfejsów API pozwalających ominąć standardowe procedury weryfikacji; oraz skorelowane decyzje wynikające z używania tych samych modeli lub źródeł danych. W efekcie klasyczne narzędzia zarządzania płynnością mogą nie nadążać za tempem automatycznych działań.

Raport podkreśla, że agenty mogą reagować na informacje, w tym dezinformację lub nagłe zmiany oceny płynności, w sposób niemal natychmiastowy i skoordynowany. Jedna błędna rekomendacja lub fałszywy sygnał może zostać przekształcona w setki lub tysiące zleceń finansowych, co zwiększa ryzyko gwałtownych odpływów kapitału.

W odpowiedzi bank rekomenduje wprowadzenie mechanizmów ograniczających szybkość transakcji, wzmocnioną autentykację użytkowników, monitoring działań nietypowych dla konta oraz narzędzia do wykrywania skoordynowanego zachowania agentów. Raport sugeruje także aktualizację scenariuszy stresowych o przypadki związane z automatyzacją AI oraz rozwój systemów awaryjnych zdolnych zatrzymać lub spowolnić masowe przepływy kapitału.

Autorzy przypominają, że automatyczne systemy handlowe już wpływają na dynamikę rynków kapitałowych, a rozwój agentów dialogowych i autonomicznych narzędzi operacyjnych przenosi podobne efekty na bankowość detaliczną i płatności.

„Połączenie szybkości działania agentów AI z brakiem wystarczających zabezpieczeń operacyjnych może doprowadzić do bardzo szybkich odpływów środków, które trudniej będzie opanować niż tradycyjny run bankowy” — czytamy w dokumencie. Bank wskazuje na potrzebę współpracy między instytucjami finansowymi, dostawcami technologii i regulatorami oraz na wymianę informacji o incydentach, by szybciej identyfikować skoordynowane zagrożenia.