Banki uczą się mówić językiem AI – nowe czasy wymagają nowych reguł

Europejskie prawo dotyczące sztucznej inteligencji niedługo stanie się codziennością dla sektora finansowego. Banki, jako jedne z najbardziej zaawansowanych technologicznie instytucji, muszą sprostać nowym regulacjom, ale także nauczyć się tłumaczyć ich założenia na praktyczne działania. Podczas dorocznej konferencji IBM „Put AI to Work” zaprezentowano raport przygotowany przez grupę roboczą ds. AI przy Forum Technologii Bankowych Związku Banków Polskich. Debata, w której udział wzięli przedstawiciele IBM i ZBP, pokazała, iż sektor nie czeka biernie, ale aktywnie buduje fundamenty pod wdrażanie odpowiedzialnej AI.

„Zbudowaliśmy unikalny w skali Europy ekosystem współpracy, zarówno między bankami, jak i dostawcami technologii. AI Act był impulsem, by tę współpracę pogłębić i przetłumaczyć język prawa na język praktyki” – podkreśliła Agnieszka WACHNICKA, Wiceprezes Związku Banków Polskich.

Podczas debaty eksperci zwrócili uwagę na potrzebę nowego podejścia do klasyfikowania ryzyka. Zamiast etykietować technologie, na przykład duże modele językowe jako z definicji wysokiego ryzyka, należy skupić się na analizie konkretnych zastosowań w procesach bankowych. To otwiera drogę do wdrażania AI w sposób elastyczny i dostosowany do kontekstu.

„Nie wystarczy stwierdzić, iż LLM to system wysokiego ryzyka. To prowadziłoby do sytuacji, w której żadna nowoczesna usługa nie mogłaby być dostępna dla klientów” – wyjaśniła Aleksandra KASZUBA, AI Governance squad leader, IBM NCCE Europe. „Zamiast tego analizujemy funkcję: czy model wspiera decyzje kredytowe, czy jedynie odpowiada na ogólne pytania? To robi różnicę” – dodała.

W praktyce oznacza to, iż chatbot udzielający informacji o godzinach pracy oddziałów banku może być uznany za rozwiązanie niskiego ryzyka, podczas gdy ten sam model wspierający decyzje kredytowe musi podlegać znacznie bardziej rygorystycznym wymogom zgodności i wyjaśnialności.

Wdrażanie AI nie kończy się na wyborze technologii. najważniejsze staje się ciągłe monitorowanie działania systemów AI, walidacja wyników oraz zapewnienie ich odporności na zmieniające się dane. Jak podkreślił Sławomir KUMKA, dyrektor laboratorium systemu IBM w Krakowie, modele AI mogą z czasem tracić trafność, generować BIAS (uprzedzenia/stronniczość) lub być podatne na manipulacje.

„Każdy model uczy się i zmienia. Musimy wiedzieć, kiedy przestaje działać prawidłowo i jak na to zareagować. Potrzebujemy narzędzi, które wychwycą nieprawidłowości zanim pojawią się realne ryzyka” – powiedział Kumka. „To nie opcja. To obowiązek wpisany w regulacje i konieczność z punktu widzenia bezpieczeństwa danych oraz reputacji instytucji”.

Dyskusja na konferencji IBM porusza także istotny problem „prawa do bycia zapomnianym” w kontekście dużych modeli językowych. Ich zdolność do zapamiętywania danych, na których się uczyły, stawia pod znakiem zapytania realną możliwość usunięcia wiedzy z systemu.

„Z dużymi modelami jest trochę jak z plotką. Możesz poprosić, by ktoś jej nie powtarzał, ale to nie znaczy, iż już jej nie pamięta” – zaznaczyła Kaszuba.

Wniosek z raportu jest jasny: same technologie nie determinują ryzyka, bo decydują o nim konkretne sposoby użycia. To podejście pozwala sektorowi bankowemu zachować zdolność do wdrażania innowacji bez blokowania rozwoju usług cyfrowych.

Eksperci uznali również, iż przyszłość AI w finansach zależy nie tylko od zgodności z przepisami, ale też od zaufania klientów i międzysektorowej współpracy. Użytkownicy oczekują przejrzystości, informacji o tym, iż decyzje są wspierane przez AI, i iż ich dane nie są wykorzystywane w sposób niejawny. Z kolei realne bezpieczeństwo procesów, np. w obszarze przeciwdziałania cyberoszustwom, wymaga wymiany danych między bankami, operatorami telekomunikacyjnymi czy administracją publiczną. Dane są dziś dobrem wspólnym. jeżeli nie nauczymy się ich bezpiecznie wymieniać, nie zbudujemy skutecznych systemów prewencji.

Autorzy raportu zastrzegają, iż dokument nie jest zbiorem sztywnych rekomendacji. To punkt wyjścia do dalszej pracy, w której celem jest nie tylko zgodność z prawem, ale również budowanie nowego modelu odpowiedzialnego rozwoju technologii w sektorze bankowym.

Źródlo: ZBP