Anthropic omyłkowo wystawił fakturę 16,6 mln USD

Na początku lipca system rozliczeniowy Anthropic wysłał deweloperowi z Korei Południowej fałszywe żądania płatności: 7 lipca fakturę na 1 669 875 USD, a mniej niż dobę później kolejne żądanie niemal dziesięciokrotnie wyższe — 16 627 739 USD. E-maile pochodziły z oficjalnej domeny firmy i korzystały z infrastruktury płatniczej Stripe.

Na koncie dewelopera, który używa pseudonimu remy_notes, w panelu nie odnotowano użycia API, nie było aktywnych płatnych kluczy ani dodanej metody płatności. Użytkownik sprawdził własne skrypty automatyzacji i agentów AI i nie znalazł działań tłumaczących wystawienie faktur.

8 lipca bank odrzucił dwie próby obciążenia z powodu limitów transakcji zagranicznych. Kolejne, nieudane próby doprowadziły jednak do zablokowania głównej karty kredytowej właściciela konta.

Anthropic potwierdziło błąd 12 lipca i przekazało, że „nie pobrano żadnych pieniędzy”. Firma przypisała problem nieprawidłowym ustawieniom automatycznego doładowania kredytu i tymczasowo wyłączyła funkcję auto-topupu. W komunikacie zaznaczono również, że „nie doszło do nieautoryzowanego dostępu”. Spółka nie podała szczegółów wyjaśniających, w jaki sposób wartość doładowania osiągnęła taką sumę.

Przez cztery dni poszkodowany prowadził korespondencję z zespołem wsparcia, wysyłając około 18 wiadomości e-mail i domagając się pisemnego potwierdzenia unieważnienia faktur. W początkowej fazie otrzymywał głównie automatyczne odpowiedzi. Użytkownik opublikował zrzuty ekranu w serwisach społecznościowych, co przyczyniło się do rozpowszechnienia sprawy.

W osobnym badaniu startup audytorski Vaudit przeanalizował 34 mln USD faktur za usługi AI wystawionych 60 klientom korporacyjnym i wykrył około 1,7 mln USD nadpłat, co stanowi około 5 proc. skontrolowanej kwoty. Audyt wskazał, że większość błędów wiązała się z systemami rozliczeniowymi usług AI; wśród firm, których billing wykazywał nieprawidłowości, wymieniono m.in. Panasonic, HP i Honda.

Sprawa obejmowała techniczne i operacyjne aspekty automatycznych mechanizmów rozliczeń w usługach chmurowych oraz wymiany z zespołem wsparcia klientów w sytuacji błędu finansowego.