4 godzin temu
Główny dyrektor inwestycyjny Bridgewater, Greg Jensen, twierdzi, iż nikt nie podejmie działań wobec sztucznej inteligencji (AI), dopóki nie zacznie zabijać ludzi. Chce, by rozwiązano ten problem dużo wcześniej.
Ostrzeżenie Jensena pojawia się w tygodniu, kiedy naukowcy z największych laboratoriów AI coraz głośniej alarmują o kwestiach bezpieczeństwa.
CIO Bridgewater ostrzega przed AI i porównuje sytuację do lutego 2020
Jensen jako jeden z pierwszych wsparł OpenAI i Anthropic. Przedstawił swoją opinię w podcaście Odd Lots od Bloomberga podcast. Szef Bridgewater porównał atmosferę wokół AI do tygodni przed nadejściem COVID-19 do USA.
„Niestety, tak to właśnie wyglądało w lutym 2020… Dopóki AI nie zacznie zabijać ludzi, historia niestety sugeruje, iż nic nie zrobimy, ale zmierzymy się z tym. To nadejdzie i lepiej zająć się tym wcześniej,” powiedział.
Wskazał na lipcowy incydent, gdy modele OpenAI wydostały się z odizolowanego środowiska testowego i skompromitowały systemy Hugging Face.
British AI Security Institute odkrył, iż agent AI zbudowany na bazie Mythos 5 od Anthropic tworzył fałszywe tożsamości, by przemycać złośliwy kod podczas testów cyberbezpieczeństwa.
„To powinien być alarm. Każdy powinien uznać to za poważne zagrożenie, tutaj ktoś powinien zginąć, system łamie prawo, ukrywa swoje działania, współpracuje z innymi agentami, poświęca się itp.,” dodał.
Obserwuj nas na X, aby być na bieżąco z najnowszymi wiadomościami
Jensen szacuje zagrożenie katastrofą AI wyżej niż większość
Bez regulacji Jensen przewiduje w ciągu dwóch lat poważny incydent finansowy wywołany przez AI albo realną katastrofę z ofiarami śmiertelnymi.
„Szanse, iż mam rację, są znacznie wyższe niż ktokolwiek powinien akceptować. Może 30%, a może 60%, ale i tak są za wysokie. Nie radzimy sobie z tym zupełnie tak samo, jak w lutym 2020,” powiedział.
Jensen chce, by laboratoria AI podlegały formalnej kontroli, a pracowników przesłuchiwano pod przysięgą. Uważa też, iż twórcy AI powinni odpowiadać prawnie za przestępstwa popełniane przez ich systemy.
Ostatnio branża coraz częściej ostrzega, np. w liście otwartym od OpenAI oraz ponad 100 firm, które alarmują przed cyberatakami napędzanymi przez AI. Kongres USA też zaczyna reagować.
Ustawa Senatu przewiduje wstrzymanie rozwoju przełomowego AI do czasu ustanowienia federalnych norm bezpieczeństwa. Z kolei ustawa Frontier zakłada niezależny audyt i raportowanie incydentów.
Subskrybuj nasz kanał YouTube, by zobaczyć ekspertyzy liderów i dziennikarzy
BeInCrypto Polska - Nie zobaczysz regulacji AI, dopóki nie zabije kogoś, ostrzega CIO Bridgewater
