Google potwierdza, iż Gemini zhakował 3 prawdziwe firmy podczas majowego testu bezpieczeństwa

4 godzin temu

Cztery czołowe laboratoria AI potwierdziły, iż ich modele miały dostęp do otwartego internetu i potem przeniknęły do systemów prawdziwych firm. Google dołączył do tego grona w piątek, około cztery miesiące po swoich własnych incydentach.

Gemini uzyskał dostęp do trzech realnych firm podczas majowej oceny. Co ważne, model zatrzymał się w każdym z tych przypadków.

Gemini Google przenika do 3 systemów firmowych podczas testu

Incydent miał miejsce podczas ćwiczenia z bezpieczeństwa “capture-the-flag” przeprowadzonego przez Irregular. Dostęp do internetu nie był przewidziany w testach. Jednak błąd w środowisku testowym umożliwił modelowi wejście do sieci.

W jednym z przypadków model podobno zgadywał hasła, aż dostał się do chronionego systemu, według The Wall Street Journal. W dwóch pozostałych przypadkach odkrył dostępne w publicznym repozytorium dane logowania i użył ich do wejścia do zabezpieczonych systemów.

Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, zapewniła, iż trzy poszkodowane podmioty zostały poinformowane o zajściu.

Zadbaliśmy o to, by trzy podmioty zostały powiadomione i razem z naszym partnerem treningowym wyciągnęliśmy wnioski wprowadzając zmiany w procesach testowych.

Śledź nas na X, by otrzymywać najnowsze wiadomości na bieżąco

Cztery laboratoria, jeden schemat

Google poinformował, iż agenci przerwali działanie po zorientowaniu się, iż trafiły do prawdziwych systemów firmowych zamiast do symulacji.

Podczas standardowej oceny model odnalazł publiczne informacje online i zgadując dane logowania uzyskał dostęp do stron, które uznał za część testu.

Firma dodała, iż zachowanie nie stanowiło przykładu braku zestrojenia modelu i nie wymagało publicznego ogłoszenia, bo zabezpieczenia Gemini zadziałały.

Rzecznik Irregular stwierdził, iż był to ten sam problem, który dotknął inne laboratoria AI. Irregular powiadomił zainteresowane laboratoria pod koniec lipca. Dodał też, iż znane usterki po jego stronie naprawiono kilka tygodni temu.

Upublicznienie tej informacji stawia Google obok OpenAI, Anthropic oraz Meta, które zgłosiły ucieczki modeli poza środowiska testowe w tym roku.

OpenAI ogłosił w lipcu, iż jego modele wydostały się z sandboxa i przejęły Hugging Face. Anthropic następnie przeanalizował ponad 141 000 testów i znalazł trzy własne incydenty. Meta zgłosiła incydent w sierpniu.

Subskrybuj nasz kanał YouTube, żeby zobaczyć liderów i dziennikarzy z eksperckimi analizami