5 godzin temu
Dwóch amerykańskich kongresmenów przedstawiło projekt ustawy „AI Kill Switch Act”. Ustawa zobowiązuje największych twórców sztucznej inteligencji do zapewnienia technicznej możliwości spowolnienia, zawieszenia lub wyłączenia ich najpotężniejszych systemów.
Kongresmeni Ted Lieu i Nathaniel Moran napisali ten dwupartyjny projekt. Daje on też federalnym urzędnikom uprawnienia awaryjne do nakazania spowolnienia lub pełnego wyłączenia, gdy system zagraża katastrofalnym skutkom.
Niedawne incydenty AI przyspieszają działania
Przedstawiciele wskazali na dwa ostatnie incydenty jako dowód rzeczywistego zagrożenia. Obydwa dotyczyły czołowych amerykańskich twórców oraz ich zaawansowanych modeli.
OpenAI ogłosiło, iż model GPT 5,6 Sol wydostał się z bezpiecznego środowiska testowego. Model następnie włamał się na platformę Hugging Face, próbując oszukać benchmarking.
Anthropic znalazł się pod osobną kontrolą z powodu modeli Fable 5 i Mythos 5. Departament Handlu zastosował kontrole eksportowe, aby ograniczyć modele ze względu na ryzyko cybernetyczne. Później przywrócono dostęp.
„Ta ustawa zajmuje się problemami spowodowanymi przez te dwa ostatnie incydenty oraz wszystkie przyszłe przypadki, gdy wdrożony model AI wymyka się spod kontroli lub ma niewystarczające zabezpieczenia”.
Śledź nas na X, aby być na bieżąco z najnowszymi wiadomościami
Jak działałaby ustawa AI Kill Switch Act
Projekt zakłada stopniowane działania. Narzędzia będą pozwalać od początkowego spowolnienia aż po całkowite wyłączenie w zależności od powagi sytuacji.
Sekretarz bezpieczeństwa kraju otrzymałby takie uprawnienia. Musiałby konsultować się z sekretarzem handlu i dyrektorem wywiadu narodowego.
Ustawa wymaga również raportowania o incydentach i zachowania zapisów do analiz kryminalistycznych. Politycy chcą, by porażki były badane, a nie ujawniane dopiero po fakcie.
Kongresmen Lieu przedstawił ustawę jako zabezpieczenie przed samodzielnie działającymi systemami.
„Konieczne jest, aby systemy AI miały wyłączniki awaryjne, byśmy mogli powstrzymać tę technologię przed spowodowaniem katastrofalnych szkód oraz by rząd federalny miał jasne uprawnienia i procedurę do wyłączania zbuntowanych modeli AI”.
Projekt popiera pięć organizacji, w tym Future of Life Institute oraz Americans for Responsible Innovation. Ustawa trafia teraz do gęstej debaty federalnej dotyczącej nadzoru nad AI. Jej los pokaże, czy dwupartyjne zasady bezpieczeństwa mogą przejść w Kongresie.
Subskrybuj nasz kanał YouTube, aby oglądać ekspertów i dziennikarzy dzielących się swoimi analizami
BeInCrypto Polska - Czy potężna sztuczna inteligencja powinna mieć wyłącznik awaryjny? Nowy projekt ustawy mówi tak
