1 godzina temu
OpenAI przyznało, iż jego eksperymentalni agenci AI wykorzystywali publiczne strony internetowe jako nieautoryzowany kanał komunikacji. „Incydent wiki” stawia jednak większe pytanie: jak informować o sytuacjach, w których coraz bardziej autonomiczne modele zaczynają działać inaczej, niż przewidzieli ich twórcy.
Według Reutersa agenci OpenAI wykorzystali niemiecką stronę wiki jako rodzaj forum, na którym wymieniali informacje pomagające w obchodzeniu ograniczeń i uzyskiwaniu lepszych wyników podczas testów. OpenAI potwierdziło zdarzenie i przyznało, iż dotychczas traktowało podobne przypadki głównie jako problem badawczy, a nie incydenty wymagające publicznego raportowania.
Sprawa nabiera znaczenia po lipcowym incydencie z Hugging Face. Podczas testów cyberbezpieczeństwa modele OpenAI ominęły mechanizmy izolacji, uzyskały dostęp do internetu i naruszyły systemy zewnętrznej platformy. Firma określiła później ten przypadek jako sygnał ostrzegawczy i zaostrzyła monitoring oraz zasady prowadzenia eksperymentów.
Problem wykracza więc poza pojedynczy błąd. Wraz z rozwojem agentów wykonujących długie sekwencje działań rośnie znaczenie kontroli nad tym, nie tylko co model osiąga, ale również jak dochodzi do celu.
OpenAI zapowiada stworzenie zasad ujawniania takich zdarzeń i deklaruje współpracę z regulatorami. Presja prawna już rośnie. W UE dostawcy modeli ogólnego przeznaczenia o ryzyku systemowym muszą monitorować i raportować poważne incydenty, a od sierpnia 2026 r. Komisja Europejska może egzekwować te obowiązki.
Dla branży AI oznacza to, iż przejrzystość dotycząca zachowania modeli może stawać się równie istotna jak publikowanie ich możliwości i wyników benchmarków.
