Anthropic opracowuje sposób na weryfikację modeli AI

Anthropic rozwija technologię, która pozwoli użytkownikom sprawdzić, czy odpowiedź sztucznej inteligencji rzeczywiście pochodzi z modelu, za którego korzystanie zapłacili.

Firma zaprezentowała FlashProve, otwartoźródłowy projekt wykorzystujący kryptografię do potwierdzania pochodzenia odpowiedzi generowanych przez AI. Rozwiązanie ma ograniczyć ryzyko sytuacji, w której dostawca usługi potajemnie zastępuje droższy model tańszym lub zmienia jego wersję bez wiedzy klienta.

Mechanizm opiera się na technologii zkSNARK, umożliwiającej matematyczne potwierdzenie wykonania określonych obliczeń. Dostawca publikuje cyfrowy „odcisk palca” modelu, a następnie generuje dowód, iż konkretna odpowiedź powstała przy jego użyciu. Weryfikacja odbywa się bez ujawniania parametrów modelu, które stanowią istotną część własności intelektualnej producentów AI.

Rozwiązanie może mieć znaczenie dla rozwijającego się rynku usług opartych na modelach językowych. Przedsiębiorstwa coraz częściej korzystają z AI za pośrednictwem zewnętrznych platform, integratorów i interfejsów API, gdzie identyfikacja rzeczywiście wykorzystywanego modelu opiera się przede wszystkim na deklaracjach dostawcy. FlashProve mógłby umożliwić niezależne sprawdzenie tych informacji, zwiększając przejrzystość rozliczeń i audytów technologicznych.

Potencjalne zastosowania obejmują również cyberbezpieczeństwo. Firmy mogłyby potwierdzać, iż analiza podatności systemu została rzeczywiście przeprowadzona przez wskazany model. Podobne mechanizmy mogłyby wspierać kontrolę zgodności z wymaganiami regulacyjnymi.

Technologia pozostaje jednak na etapie badań. W testach przeprowadzonych na modelu Llama 4 Maverick, liczącym 400 mld parametrów, generowanie dowodów wymagało około 70–95 razy więcej czasu obliczeniowego GPU niż samo uruchomienie modelu. Pojedynczy dowód zajmował około 19 MB, co pokazuje skalę wyzwań związanych z komercjalizacją rozwiązania.

Anthropic udostępnił kod i dokumentację na otwartej licencji, ale nie ogłosił planów produkcyjnego wdrożenia FlashProve.

Projekt wskazuje jednak kierunek zmian na rynku AI. Wraz ze wzrostem wartości usług opartych na zaawansowanych modelach znaczenia nabiera możliwość niezależnego potwierdzania jakości świadczonej usługi. Kryptograficzna weryfikacja nie gwarantuje poprawności odpowiedzi, ale może dostarczyć dowodu, iż została wygenerowana przez adekwatny model. W przyszłości taka funkcjonalność może stać się dodatkowym kryterium wyboru dostawców AI.