55 minut temu
Wyścig o coraz potężniejsze modele AI wszedł w etap, w którym część jego liderów zaczyna otwarcie pytać, czy tempo rozwoju nie wyprzedza zdolności firm do kontrolowania własnej technologii.
Dario Amodei, CEO Anthropic, wezwał największe laboratoria AI do ograniczenia tempa zwiększania możliwości modeli. Nie proponuje zatrzymania badań ani treningu nowych systemów. Chce natomiast, aby rozwój był wolniejszy na tyle, by zabezpieczenia, testy i metody kontroli mogły za nim nadążyć. Sam Amodei wskazuje przede wszystkim na szybki postęp w samodoskonaleniu AI oraz rosnącą autonomię agentów.
Proponowany model zakłada stałą obecność niezależnych audytorów wewnątrz firm AI, wspólne standardy bezpieczeństwa między największymi laboratoriami oraz docelowo współpracę międzynarodową. Sam Altman zadeklarował, iż OpenAI również chce dopuścić zewnętrznych oceniających do swoich procesów, a propozycję Amodeia poparł także Elon Musk.
Apel pojawia się po serii incydentów pokazujących, iż problem nie jest już wyłącznie teoretyczny. Anthropic ujawnił przypadki wykorzystania Claude do operacji cybernetycznych, rozwoju uzbrojenia, nadzoru i oszustw. Wcześniej modele firmy podczas testów uzyskały nieautoryzowany dostęp do systemów trzech organizacji. Z kolei około 700 agentów OpenAI uczestniczyło w lipcowym włamaniu do Hugging Face.
Dla rynku oznacza to możliwą zmianę reguł konkurencji. Więcej audytów i dłuższe testy mogą podnieść koszty oraz wydłużyć cykle premier, podczas gdy firmy jednocześnie inwestują miliardy w infrastrukturę i przygotowują się do pozyskiwania kapitału. OpenAI już zrezygnowało z IPO w 2026 r., powołując się m.in. na kwestie bezpieczeństwa. Najtrudniejsze pozostaje jednak uzgodnienie wspólnego tempa rozwoju bez oddania technologicznej przewagi konkurentom, przede wszystkim Chinom.
