TRM Labs: kyc dla agentów AI musi zaczynać się od człowieka stojącego za nimi

Północnokoreańscy hakerzy ukradli około 6,3 mld USD z Binance w zeszłym tygodniu. Oszukali pracowników przy użyciu fałszywej rozmowy o pracę. Wykorzystali choćby wewnętrzne narzędzie AI. Większość środków zniknęła w ciągu 20 minut.

Atak na Binance pokazał, jak gwałtownie przestępcy potrafią przesuwać miliardy. Tymczasem, gdy agenci AI zaczynają sami wykonywać płatności, instytucje finansowe mierzą się z nowym pytaniem: kto odpowiada, gdy o pieniądzach decyduje oprogramowanie?

Podczas Merge Madrid, przedstawiciel TRM Labs Guillaume Rodenas udzielił zaskakująco prostej odpowiedzi.

Uważam, iż dopóki można faktycznie zweryfikować zleceniodawcę, czyli tego, kto kontroluje agenta posiadającego upoważnienie, to jesteśmy w dobrej pozycji.

W praktyce musisz zweryfikować osobę lub firmę, która kontroluje agenta AI. Historia transakcji tego agenta może później wykazać, co zrobił w imieniu zleceniodawcy.

A kto płaci, gdy AI popełni błąd?

To oczywiście rodzaj pytania za milion USD, prawda? — przyznał Rodenas.

Według niego odpowiedzialność za błędy w oprogramowaniu mogą ponosić deweloperzy. Użytkownicy również powinni rozumieć protokoły finansowe, z których korzystają.

Zdecentralizowane autonomiczne organizacje (DAO) bardzo utrudniają wyegzekwowanie odpowiedzialności. Rodenas wiąże tę niepewność z powodem, dla którego w Europie przepisy MiCA w dużej mierze pominęły w pełni zdecentralizowane finanse.

W międzyczasie przestępcy działają już szybciej niż tradycyjne zespoły bezpieczeństwa.

Szacunki TRM Labs wskazują, iż w tym roku Korea Północna odpowiada za 85% wartości skradzionej w atakach na kryptowaluty. Całkowite straty osiągnęły rekordowe 8,7 mld USD, głównie z powodu Binance.

Guillaume Rodenas podczas wywiadu z Luísem de Magalhãesem, szefem Ameryki Łacińskiej w BeInCrypto

Czy stuletnie banki są gotowe na ryzyka on-chain?

Rodenas mówi, iż przestępcy coraz częściej używają autonomicznych agentów do obsługi protokołów i inicjowania transakcji przez całą dobę. Sztuczna inteligencja pojawiła się też w atakach na tradycyjne banki.

Jeśli przestępstwo trwa non stop, obrońcy także muszą pracować non stop.

TRM już dziś wykorzystuje AI do monitorowania portfeli i wykrywania podejrzanych aktywności w sposób ciągły. Rodenas widzi jednak inne wyzwanie wśród europejskich banków: ich gotowość do zmian.

Są pewne różnice w przygotowaniu, ale głównie różni je chęć do adaptacji.

Niektóre banki już mają własne zespoły blockchain. Inne wciąż walczą, by przekonać kadrę zarządzającą, iż cyfrowe aktywa mają znaczenie.

Rodenas uważa, iż różnica między kryptowalutami a tradycyjnymi pieniędzmi w końcu zniknie.

Sądzę, iż za kilka lat po prostu przestaniemy mówić na to krypto, aktywa cyfrowe czy podobnie. To będzie po prostu nowa forma aktywa i wszyscy będziemy mówić po prostu: pieniądz, prawda?

Dla banków ta przyszłość oznacza wyzwanie tu i teraz: przygotować się na świat finansów, w którym oprogramowanie może przesuwać pieniądze bez czekania na polecenia od człowieka.

BeInCrypto Polska - TRM Labs: kyc dla agentów AI musi zaczynać się od człowieka stojącego za nimi