ONZ chce zwiększyć zaufanie do agentów AI

Zdjęcie: sztuczna inteligencja, automatyzacja, technologia

Agenci AI coraz częściej przestają jedynie odpowiadać na pytania i zaczynają wykonywać działania w imieniu użytkowników. Międzynarodowa Unia Telekomunikacyjna chce stworzyć techniczne podstawy, które pozwolą sprawdzić, kto stoi za takim agentem, jakie ma uprawnienia i kiedy człowiek może zatrzymać jego działanie.

ITU, będąca agencją ONZ ds. technologii cyfrowych, powołała grupę Focus Group on Trust and Identity for Humans and Agentic AI, w uproszczeniu FG-TIDA. Jej zadaniem będzie przygotowanie ram dotyczących cyfrowej tożsamości, wiarygodności i odpowiedzialności autonomicznych systemów. Inicjatywę ogłoszono 9 lipca podczas szczytu AI for Good w Genewie.

„Agenci AI niedługo będą negocjować, dokonywać transakcji i podejmować decyzje w naszym imieniu” – powiedziała Debora Comparin, współprzewodnicząca grupy fokusowej, dodając, iż potrzebne są wspólne międzynarodowe fundacje, aby ⁠ustanowić, kim są agenci, jak i kiedy można im zaufać.

Problem staje się pilny, ponieważ agenci mogą już korzystać z zewnętrznych narzędzi, interfejsów API i systemów firmowych. W praktyce oznacza to możliwość zatwierdzania zakupów, inicjowania płatności czy uruchamiania procesów bez każdorazowego polecenia człowieka. ITU wskazuje przy tym na ryzyko podszywania się pod osoby lub organizacje oraz wykonywania działań wykraczających poza udzielone uprawnienia.

Grupa ma opracować wspólne definicje, architektury tożsamości, mechanizmy wykrywania agentów oraz kryteria oceny bezpieczeństwa, odporności i rozliczalności. Istotnym elementem będzie też zarządzanie cyklem życia agenta, w tym możliwość przyznawania, ograniczania i cofania jego uprawnień.

Nie są to jeszcze obowiązujące standardy ani nowe regulacje. FG-TIDA prowadzi prace poprzedzające standaryzację, których wyniki mogą jednak wpłynąć na przyszłe wymagania stawiane dostawcom agentów AI i firmom wdrażającym je w procesach biznesowych. Pierwsze spotkanie grupy odbędzie się w Paryżu w listopadzie 2026 roku, a kolejne w Genewie w styczniu 2027 roku.

Wraz ze wzrostem autonomii AI samo badanie jakości modelu przestanie wystarczać. Równie ważne staną się kontrola dostępu, rejestrowanie decyzji, jasne zasady odpowiedzialności oraz możliwość szybkiego przejęcia działania przez człowieka.