AI wyszła poza wyznaczony cel. Modele OpenAI i Anthropic zaatakowały prawdziwych użytkowników

Zdjęcie: Incydent odsłania nowe ryzyko dla firm wdrażających agentów AI.


Najbardziej zaawansowane modele sztucznej inteligencji podczas testów cyberbezpieczeństwa samodzielnie wykroczyły poza dozwolone środowisko, atakując prawdziwe osoby i organizacje. Jeden z agentów stworzył fałszywe tożsamości i próbował nakłonić programistę do zaakceptowania złośliwego kodu. Brytyjski AI Security Institute ostrzega, iż to wyraźna zmiana w krajobrazie ryzyka.