Dlaczego wyjście Anthropic sprawia, iż Kongres rozważa wstrzymanie rozwoju AI

Amerykańscy ustawodawcy zareagowali na rezygnację badacza Anthropic nową falą prób zatrzymania rozwoju zaawansowanej sztucznej inteligencji (AI), w tym ustawą Senatu, która zakazywałaby superinteligencji.

Jacob Coxon zrezygnował 9 września i powiedział, iż zarówno Anthropic, jak i OpenAI ryzykują ludzkim życiem.

Dlaczego rezygnacja badacza Anthropic dotarła do Kapitolu

Ponad 20 członków Kongresu odpowiedziało na wpis, większość domagała się nowych przepisów dotyczących AI. Senator Bernie Sanders zapowiedział, iż przedstawi ustawę zakazującą superinteligencji i wstrzymującą rozwój AI.

BeInCrypto informuje, iż wcześniej w tym miesiącu Sanders oraz poseł Greg Casar zaproponowali „Ustawę o zakazie Sztucznej Superinteligencji”. Ustawa ma na stałe zabronić tworzenia i wdrażania superinteligentnej AI. Zatrzyma też zaawansowany rozwój AI do czasu ustalenia przez federalnego regulatora standardów bezpieczeństwa.

W międzyczasie Casar również uznał sytuację za nagły wypadek i zaapelował o kongresowe przesłuchania. Posłanka Lori Trahan przypomniała politykom o swoim ponadpartyjnym projekcie FRONTIER Act, wprowadzonym w lipcu z posłem Jayem Obernolte.

„Ustawa FRONTIER ustanawia wymagania warstwowe w zależności od wielkości twórcy AI frontier, w tym karty modeli, ramy zarządzania ryzykiem, niezależne audyty, zgłaszanie incydentów oraz ciągłe oceny. Tworzy także jednolity krajowy standard transparentności, audytu i raportowania katastroficznego ryzyka, by zapobiec mozaice przepisów stanowowych,” czytamy w ogłoszeniu.

Senator Chris Van Hollen domaga się obowiązkowych zabezpieczeń i pilnych rozmów z Chinami. Poseł Ted Lieu naciska na kierownictwo republikanów, aby ruszyło z ustawą AI Kill Switch, którą przedstawił w tym roku.

Republikańska posłanka Anna Paulina Luna wyłamała się z podziału partyjnego i zaapelowała o specjalną sesję Kongresu dotyczącą AI.

Śledź nas na X, by otrzymywać najnowsze wiadomości na bieżąco

Jacob Coxon twierdzi, iż laboratoria chcą zasad

Presja nie wynika tylko z polityki. Firmy AI także apelują o regulacje. Coxon powiedział CNN, iż dyrektorzy proszący Kongres o regulacje są szczerzy. Tłumaczył jednak, iż nikt nie ufa rywalom na tyle, by zwolnić jako pierwszy.

„Ci ludzie naprawdę szczerze błagają o uregulowanie… zostali postawieni w takiej sytuacji, iż są zmuszeni ścigać się w budowaniu śmiercionośnej technologii,” stwierdził.

Anthropic osobno napisał w poście z września, iż branża skorzystałaby z legalnego, weryfikowalnego mechanizmu koordynowanego tempa rozwoju.

Gdzie zaczyna się ryzyko wyginięcia

Tempo ma znaczenie tylko dlatego, iż Coxon wierzy, iż nadchodzi coś gorszego. Wyjaśnił, iż jeżeli AI dostanie problem prowadzenia badań nad AI, zaczyna się sama ulepszać.

Wskazał wtorek, gdy systemy AI OpenAI podobno samodzielnie rozwiązały tysiącletni problem matematyczny.

Przerażające według niego jest to, iż ten mechanizm można skierować na AI. Modele ulepszają kolejne modele bez udziału człowieka. Coxon nazywa to „eksplozją inteligencji”.

„Obecnie nie istnieje ryzyko wyginięcia. Obecne modele, w najgorszym razie, mogą włamać się gdzieś, potencjalnie doprowadzić do poważnych szkód w infrastrukturze… nie są jednak wystarczająco inteligentne, żeby przechytrzyć nas na takim poziomie, który prowadzi do wyginięcia,” powiedział.

Coxon ostrzegł jednak, iż ta sama niezależność w połączeniu z wielką mocą może spowodować ekstremalne szkody. Wskazał na włamania do krytycznej infrastruktury i tworzenie broni biologicznej grożącej wyginięciem.

Zasubskrybuj nasz kanał YouTube, by oglądać liderów i dziennikarzy dzielących się ekspercką wiedzą

BeInCrypto Polska - Dlaczego wyjście Anthropic sprawia, iż Kongres rozważa wstrzymanie rozwoju AI