Revolut uruchomił Revolut Research — własną jednostkę badawczą zajmującą się sztuczną inteligencją. Jednym z jej głównych projektów jest PRAGMA, autorski foundation model rozwijany wspólnie z NVIDIA.
Zamiast budować osobne modele do wykrywania fraudów, oceny ryzyka kredytowego czy rekomendacji produktów, Revolut chce oprzeć te systemy na jednej wspólnej warstwie AI.
PRAGMA to rodzina modeli opartych na architekturze Transformer. Została wytrenowana na około 24 mld zdarzeń pochodzących z 26 mln kont użytkowników z ponad 100 krajów. Dane obejmują m.in. transakcje i inne zdarzenia związane z korzystaniem z usług finansowych.
Według wyników opublikowanych przez NVIDIA, PRAGMA wypada lepiej od dotychczasowych modeli produkcyjnych Revoluta. Firma podaje m.in. o 65% więcej wykrytych przypadków fraudu, 17% wyższą precyzję alertów fraudowych oraz 41% bardziej trafne rekomendacje produktów. W przypadku przewidywania ryzyka kredytowego poprawa jednego z kluczowych wskaźników jakości modelu wyniosła 2,3×.
Nowe podejście ma też przyspieszyć pracę zespołów ML. Według NVIDIA cykl tworzenia modeli skrócił się 3–5 razy, ponieważ zespoły mogą korzystać ze wspólnych reprezentacji generowanych przez PRAGMA zamiast za każdym razem manualnie budować zestawy cech.
Do trenowania modelu Revolut wykorzystuje GPU NVIDIA H100 działające w chmurze Nebius. Najmniejszy wariant PRAGMA ma około 10 mln parametrów i był trenowany przez około dwa dni na 16 GPU. Większe wersje wymagały około dwóch tygodni i od 16 do 32 GPU.
Revolut Research ma rozwijać kolejne własne modele oraz współpracować z uczelniami i firmami technologicznymi. Firma zapowiada również publikowanie wyników badań i udostępnianie części swoich frameworków jako open source.
