4 godzin temu
Największe banki w USA zauważyły na kontach klientów działania zewnętrznych agentów AI i zaczęły ograniczać im dostęp. Część z tych agentów miała podejmować działania, o które użytkownik ich nie prosił. Informację podał w czwartek 22 października portal Axios, a w mediach społecznościowych gwałtownie rozeszła się w jeszcze ostrzejszej wersji. Fakty są nieco spokojniejsze niż nagłówki, ale problem jest prawdziwy.
Co wykryły banki
Według Axiosa Morgan Stanley, Bank of America, JPMorgan, Wells Fargo i inne banki próbują ograniczyć ryzyko związane z agentami AI. Część z nich wie o przypadkach nieuprawnionego dostępu do kont. W większości chodzi jednak nie o włamania, tylko o sytuacje, w których klient sam podaje agentowi lub asystentowi AI login i hasło. choćby za zgodą użytkownika narusza to zasady większości banków, które wymagają, żeby klient logował się sam. W innych przypadkach agenci kontaktowali się z infolinią albo podejmowali działania, których użytkownik nie zlecił.
Bankowcy, z którymi rozmawiał Axios, opisują sytuację jako „przerażającą”. Najbardziej obawiają się przypadków, w których klient dał agentowi prawo do zakupów albo przelewów.
Jak podaje Reuters, banki zwykle wykrywają i blokują takie transakcje. Agencja zaznacza też, iż skoro klient sam udostępnił dane logowania, trudno mówić o nieautoryzowanym dostępie w sensie prawnym. Morgan Stanley blokuje zewnętrznych agentów, ale według rzecznika banku nie zaobserwował żadnych przypadków „zbuntowanych agentów AI” na swoich platformach.
Dimon: to zbyt ryzykowne
Branża zaczęła mówić o tym problemie wcześniej. Na konferencji wynikowej 13 października prezes JPMorgan Chase Jamie Dimon zapowiedział, iż bank nie wpuści zewnętrznych agentów do kont klientów.
„Nie pozwolimy, żeby byle jaki zewnętrzny agent wszedł do firmy, bo to zbyt ryzykowne dla klientów i dla JPMorgan. Nie chcemy zbuntowanych agentów, a mogą ich być tysiące” – mówił Dimon.
Jak relacjonuje CNBC, Chase pozwala agentom jedynie odczytywać dane, na przykład saldo konta, przez pośredników typu Plaid. Agent nie może jednak wysłać przelewu ani zapłacić rachunku. Dimon dodał, iż klient, który upoważnia zewnętrznego agenta, bierze na siebie odpowiedzialność za skutki jego działań. Podobnie postępują Citi, Bank of America i dom maklerski Charles Schwab. Jego prezes Richard Wurster codziennie dostaje raport o liczbie zablokowanych agentów.
Bezpieczeństwo, ale też depozyty
Bankom chodzi nie tylko o cyberbezpieczeństwo. Agenci AI popularyzują się bardzo szybko. We wrześniu agent Muse od Meta trafił na szczyt list pobrań, a niedługo później OpenAI wprowadziło własnego agenta Dots. Wtedy kursy banków spadły, bo rynek obawiał się, iż klienci zaczną masowo przenosić pieniądze z nisko oprocentowanych rachunków tam, gdzie zarobią więcej. Na to ryzyko dla taniego finansowania banków zwracał uwagę m.in. główny ekonomista Apollo Torsten Slok. Gdy agenci nie mogą swobodnie działać na kontach, takie ryzyko jest mniejsze. Jednocześnie JPMorgan testuje własne narzędzie Smart Cash, które ma prognozować przepływy klienta i przenosić środki tam, gdzie przyniosą wyższy zysk.
Banki zgadzają się, iż całkowity zakaz nie wystarczy na dłużej. Większość z nich zezwala już albo chce zezwolić na dostęp tylko do odczytu, podobny do tego, z którego korzystają aplikacje budżetowe. Branża szuka kompromisu, ale nie wiadomo, kiedy agenci AI będą mogli bezpiecznie wykonywać operacje na kontach. JPMorgan nie podaje żadnego terminu. To kolejny przykład tego, iż inwestycje w sztuczną inteligencję wiążą się nie tylko z wielkimi możliwościami, ale też z ryzykiem, którego regulatorzy i instytucje finansowe dopiero się uczą.
