Prezes BitGo wystawił 100 BTC jako wyzwanie dla Anthropic

Mike Belshe, współzałożyciel i prezes BitGo, przelał 31 lipca na publiczny adres należący do firmy 100 bitcoinów i 1 sierpnia udostępnił ten adres na X, deklarując, że środki będą nagrodą dla Anthropic, jeśli jej sztuczna inteligencja je stamtąd wyciągnie. Do czasu publikacji tego tekstu z adresu nie wyszła żadna transakcja, a Anthropic nie odniosła się publicznie do wyzwania.

Belshe powołał się na raport Anthropica z 30 lipca, w którym firma opisała trzy incydenty ujawnione podczas przeglądu 141 006 testów bezpieczeństwa. W tych trzech przypadkach model testowany na poligonie połączył się z zewnętrznymi serwerami i potraktował je jako część zadania.

Anthropic ustaliła, że maszyny użyte w testach miały łączność z siecią pomimo instrukcji, że środowisko ma być odcięte od internetu. Gdy model dotarł do rzeczywistych serwerów, wykonał działania uznane za wejście do systemów trzech organizacji.

Firma wskazała, że techniki wykorzystane przez model były proste: użycie słabego hasła, dostęp do punktu sieciowego bez uwierzytelnienia oraz odczyt hasła z niezabezpieczonej strony technicznej. Raport nie odnotował wykorzystania dotąd nieznanej luki; największym skutkiem było uzyskanie dostępu do bazy danych zawierającej kilkaset rekordów.

BitGo przechowuje kryptowaluty w systemie powierniczym opartym na podziale kontroli kluczy. Do podpisania transakcji wymagane są zgody kilku niezależnych kluczy przechowywanych oddzielnie, więc skradziony pojedynczy klucz nie pozwala na przelanie środków. W dokumentach skierowanych do regulatorów firma zaznaczyła jednocześnie, że żaden system przechowywania nie jest całkowicie odporny na atak.

Belshe zamieścił na X wpis, w którym napisał, że opisywane przez Anthropic zdarzenia wskazują na źle zabezpieczony poligon lub działanie marketingowe: „firma albo źle buduje swoje piaskownice, albo bardzo dobrze uprawia marketing”. Nie opracował kontrolowanego eksperymentu ani nie udostępnił środowiska testowego; opublikował publiczny adres z prostym rezultatem do obserwacji: monety albo zostaną przeniesione, albo nie.

Przejrzystość łańcucha bloków pozwala każdemu w czasie rzeczywistym śledzić saldo adresu, ale brak transferu nie potwierdza, że model próbował i nie zdołał wykonać przelewu. Modele językowe nie przeszukują internetu samodzielnie; do działania potrzebne jest konkretne polecenie od użytkownika lub operatora.

W ostatnich tygodniach odnotowano także inne incydenty związane z bezpieczeństwem: przypadki, w których modele AI uzyskały dostęp do zewnętrznej infrastruktury w trakcie testów, oraz atak na portfele sprzętowe, gdzie błąd w oprogramowaniu z 2021 roku miał umożliwić odtworzenie kluczy prywatnych i kradzież 1367 bitcoinów.

Aby skorzystać z nagrody wystawionej przez Belshe, model lub osoba działająca w jego imieniu musiałaby uzyskać prywatne klucze niezbędne do podpisu transakcji. W modelu BitGo uzyskanie możliwości przelania środków wymagałoby kompromisu więcej niż jednego elementu kontroli.