2 godzin temu
W nadchodzących tygodniach OpenAI wdroży nową warstwę zabezpieczeń w ChatGPT, która fundamentalnie zmienia sposób zarządzania tożsamością użytkownika na platformie. Spółka uruchamia dedykowany model predykcyjny, którego zadaniem jest algorytmiczne szacowanie wieku osób korzystających z czatu. Ruch ten jest wyraźną odpowiedzią na rosnącą presję regulacyjną oraz konieczność stworzenia „bezpiecznego internetu” dla najmłodszych, co staje się kluczowym elementem strategii utrzymania zaufania do technologii Generative AI.
Nowy system nie opiera się wyłącznie na deklaracjach użytkownika. Model analizuje szereg sygnałów behawioralnych oraz metadanych konta, takich jak pory aktywności czy specyficzne wzorce interakcji z narzędziem. jeżeli algorytm sklasyfikuje użytkownika jako osobę poniżej 18. roku życia, automatycznie narzuci restrykcyjne ustawienia treści. To podejście „safety-first” ma na celu zminimalizowanie ryzyka ekspozycji nastolatków na materiały uznawane za szkodliwe, w tym graficzną przemoc, treści promujące zaburzenia odżywiania, ryzykowne wyzwania wirusowe czy seksualne odgrywanie ról (role-play).
Z perspektywy biznesowej i technologicznej najciekawszym elementem jest mechanizm weryfikacji błędów, który wprowadza zewnętrznego partnera do ekosystemu OpenAI. Użytkownicy, którzy zostaną błędnie sklasyfikowani jako nieletni, będą mogli odzyskać pełny dostęp jedynie poprzez weryfikację biometryczną. OpenAI zintegrowało w tym celu usługi firmy Persona, wymagając od użytkownika przesłania selfie. Jest to istotny krok w stronę deanonimizacji użytkowników w imię bezpieczeństwa, co może budzić dyskusje w kontekście prywatności, ale jednocześnie zdejmuje część odpowiedzialności prawnej z dostawcy modelu.
Oprócz automatyzacji, OpenAI rozbudowuje panel kontroli rodzicielskiej. Opiekunowie zyskują możliwość ustalania godzin ciszy oraz monitorowania interakcji pod kątem oznak niepokoju psychicznego u dziecka. Wdrożenie tych funkcji to sygnał dla rynku, iż OpenAI zamierza wyprzedzać regulacje prawne, zamiast na nie reagować. Skuteczność tego modelu behawioralnego będzie pilnie obserwowana przez konkurencję, wyznaczając prawdopodobnie nowy standard compliance dla całej branży sztucznej inteligencji.
