Anthropic błędnie obciąża użytkownika darmowego planu na 16,6 mln USD: co się stało?

Anthropic potwierdziło ogromny błąd rozliczeniowy po tym, jak system próbował obciążyć użytkownika z Korei Południowej na darmowym planie kwotą 16,6 mln USD, mimo braku użycia API i niezarejestrowanej karty.

Fałszywe faktury zablokowały jego kartę kredytową i uruchomiły czterodniową walkę z supportem, zanim firma odpowiedziała.

Kulisy 16,6 mln USD fałszywej faktury Anthropic

Fałszywa faktura to żądanie zapłaty wygenerowane przez system rozliczeniowy bez żadnej transakcji lub użycia. Dokładnie coś takiego otrzymał koreański developer znany jako remy_notes od Anthropic na początku lipca. Historia gwałtownie stała się viralem, gdy udostępnił zrzuty ekranu na Threads.

Pierwsza faktura pojawiła się 7 lipca i opiewała na 1 669 875 USD. Mniej niż 24 godziny później druga faktura niemal dziesięciokrotnie zwiększyła sumę do 16 627 739 USD. Do eskalacji doszło bez żadnej aktywności na koncie.

Śledź nas na X, aby być na bieżąco z najnowszymi wiadomościami.

Początkowo developer podejrzewał phishing. Jednak e-maile pochodziły z oficjalnej domeny Anthropic i korzystały z prawdziwej infrastruktury Stripe firmy.

Na jego dashboardzie widniało zero użycia API, brak odpłatnych kluczy i brak dodanej metody płatności. Sprawdził własne skrypty automatyzacji i agentów AI, nie znalazł nic, co by to tłumaczyło.

Bank odrzucił dwie próby obciążenia zagranicznego 8 lipca, bo kwoty przekraczały limit transakcji na karcie. Powtarzające się próby doprowadziły jednak do zablokowania jego głównej karty kredytowej.

Co według Anthropic spowodowało błąd rozliczeniowy

Anthropic potwierdziło błąd 12 lipca i zapewniło, iż nie pobrano żadnych pieniędzy. Firma przypisała problem nieprawidłowym ustawieniom automatycznego doładowania kredytu, które prewencyjnie wyłączyła.

Wyjaśniła też, iż nie doszło do nieautoryzowanego dostępu. Anthropic nie wyjaśniło jak wartość doładowania osiągnęła taką sumę.

Jednak rozwiązanie nie było proste. Użytkownik przez cztery dni wymienił ok. 18 maili, domagając się pisemnego potwierdzenia unieważnienia faktur. W tym czasie zamiast odpowiedzi człowieka, otrzymywał automatyczne odpowiedzi. Ostatecznie poprosił firmę o odpowiedź do poniedziałku po południu, czasu koreańskiego.

Sprawa pokazała też szerszy branżowy problem. Startup audytorski Vaudit sprawdził 34 mln USD faktur za AI od 60 klientów korporacyjnych i wykrył ok. 1,7 mln USD nadpłat. To daje ok. 5% błędów, z czego większość powstaje przez systemy rozliczeniowe AI. Wśród poszkodowanych firm znaleźli się tacy giganci jak Panasonic, HP i Honda.

Dla użytkowników wniosek jest prosty. Sprawdzaj dashboardy rozliczeń, monitoruj powiadomienia z banku i gwałtownie zgłaszaj nietypowe obciążenia. Pozwoli to uniknąć finansowych problemów przez błąd systemu.

Subskrybuj nasz kanał na YouTube, aby oglądać ekspertów i dziennikarzy dzielących się analizami.

BeInCrypto Polska - Anthropic błędnie obciąża użytkownika darmowego planu na 16,6 mln USD: co się stało?