1 godzina temu
Według Joachima Nagela, prezesa Bundesbanku, branża finansowa stanęła przed dylematem, w którym zaawansowana sztuczna inteligencja przestaje być asystentem, a staje się autonomicznym narzędziem zdolnym do destabilizacji globalnej infrastruktury.
Obawy szefa niemieckiego banku centralnego koncentrują się na bezprecedensowych zdolnościach Mythos w zakresie kodowania i identyfikacji luk w zabezpieczeniach. Model ten wykazuje niemal instynktowną biegłość w znajdowaniu błędów w oprogramowaniu, co w rękach cyberprzestępców może oznaczać koniec bezpieczeństwa opartego na „legacy systems”. Wiele instytucji finansowych wciąż operuje na architekturze IT budowanej dekady temu, która choć stabilna, nie była projektowana z myślą o odpieraniu ataków generowanych przez maszynę myślącą szybciej niż jakikolwiek zespół ekspertów od cyberbezpieczeństwa.
Nagel argumentuje, iż obecna strategia Anthropic, polegająca na udostępnianiu Mythos jedynie wąskiej, wyselekcjonowanej grupie firm i organizacji, tworzy niebezpieczną asymetrię. Zamiast chronić rynek, ograniczony dostęp może pogłębić ryzyko systemowe. jeżeli tylko nieliczni posiadają tarczę o skuteczności Mythos, reszta sektora pozostaje wystawiona na strzał, co z perspektywy nadzorcy bankowego jest niedopuszczalnym zakłóceniem konkurencji. Postulat jest jasny: wszystkie istotne instytucje muszą mieć dostęp do tych samych narzędzi obronnych, aby uniknąć technologicznego rozwarstwienia, które mogłoby doprowadzić do efektu domina w przypadku udanego ataku na słabsze ogniwo.
Perspektywa Bundesbanku wykracza jednak poza samo cyberbezpieczeństwo, uderzając w fundamenty polityki monetarnej. Nagel podważa powszechny optymizm, jakoby sztuczna inteligencja miała być lekiem na inflację poprzez wzrost produktywności. Wręcz przeciwnie, ostrzega przed presją cenową wynikającą z ogromnego zapotrzebowania na inwestycje w infrastrukturę AI oraz drastycznego wzrostu kosztów energii elektrycznej niezbędnej do zasilania centrów danych.
Najbardziej intrygujące jest jednak ostrzeżenie przed „milczącą zmową algorytmów”. Istnieją dowody sugerujące, iż zaawansowane modele potrafią autonomicznie uczyć się optymalizacji zysków poprzez utrzymywanie cen powyżej poziomów konkurencyjnych, robiąc to bez bezpośredniej komunikacji między firmami.
Dla banków centralnych, których zadaniem jest utrzymanie stabilności cen, ta nowa forma algorytmicznego ustalania stawek stanowi wyzwanie, które wymagać będzie zupełnie nowych narzędzi regulacyjnych. W świecie zdominowanym przez modele takie jak Mythos, czujność bankierów centralnych musi teraz obejmować nie tylko arkusze kalkulacyjne, ale i same linie kodu.