AI Chamber wskazuje na najważniejsze luki w rządowym projekcie ustawy o AI

AI Chamber (Izba AI), instytucja zrzeszająca już kilkadziesiąt startupów, firm, organizacji i ngos-ów AI w Polsce, w imieniu reprezentowanych podmiotów przedłożyła w Ministerstwie Cyfryzacji oficjalne stanowisko na temat projektu ustawy o systemach sztucznej inteligencji (SSI). Ustawa, skierowana od października br. do publicznych konsultacji, ma służyć zapewnieniu odpowiedniego stosowania w Polsce unijnego AI Act.

Przepisy krajowe powinny być uchwalone do 2 sierpnia 2025 r., w tym dotyczące organów notyfikujących i jednostek notyfikowanych, modeli SI ogólnego przeznaczenia, zarządzania, sankcji finansowych oraz reguł poufności.

Nadmierne regulacje tłumią konkurencyjność

Sztuczna inteligencja (SI, AI) ma potencjał przeobrażenia prawie każdej sfery gospodarki i życia społecznego, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, przyrównywanej skalą do pierwszej rewolucji przemysłowej. Zdaniem Izby AI w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje AI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny system kontroli przestrzegania przepisów Aktu AI, brakuje proinnowacyjnych rozwiązań. W opinii Izby to właśnie one powinny stanowić priorytetowy cel ustawy i regulacji dotykających sfery rozwoju i innowacji SI. W swoim stanowisku AI Chamber zwraca uwagę, iż próby regulowania AI ze strony UE, a więc ograniczenia rozwoju tak dynamicznie rozwijającej się technologii, są ryzykowne przede wszystkim z punktu widzenia konkurencyjności europejskiej gospodarki, która już teraz cierpi na deficyt innowacyjności i przeregulowanie.

Na niebezpieczeństwa płynące dla rozwoju europejskiego sektora sztucznej inteligencji z nadmiernej, skomplikowanych i wzajemnie nakładających się regulacji (w szczególności RODO i Aktu o SI) wskazuje także niedawno ogłoszony Raport Draghiego. Mario Draghi wzywa w nim, aby zminimalizować bariery regulacyjne, uprościć i ujednolicić wymagania prawne oraz przyjąć takie rozwiązania, aby podmioty rozwijające AI nie były dodatkowo penalizowane. Potrzebne są reformy, które umożliwią szybsze wprowadzenie nowych technologii na rynek, zwłaszcza w sektorach przyszłości, takich jak technologie cyfrowe i energetyka odnawialna. Państwo i jego instytucje powinny być z zasady nakierowane na pomoc i wspieranie prowadzenia działalności gospodarczej i badań naukowych, a nie na obarczanie podmiotów dodatkowymi wymogami i traktowanie ich tylko jako potencjalne źródła zagrożenia dla obywateli.

Innowacje hamowane już na starcie

Drugą kluczową luką w krajowym projekcie ustawy, na jaką zwraca uwagę AI Chamber, jest brak wśród przedstawionych przepisów realizujących wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności Izba wskazuje tu brak rozwiązań tworzących piaskownice regulacyjne (tzw. sandboxy), czyli „przestrzeni prawnej”, w ramach której przedsiębiorstwa mogą bezpiecznie testować nowe rozwiązania i innowacje AI bez ryzykowania poważną odpowiedzialnością. Według KE państwa członkowskie muszą ustanowić co najmniej jedną krajową piaskownicę regulacyjną SI do 2 sierpnia 2026. AI ACT priorytetowo traktuje wsparcie dla MŚP i start-upów, zapewniając im pierwszeństwo w dostępie do piaskownic i dostosowanych usług wsparcia. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE zdaniem Izby nie znajduje uzasadnienia.

– o ile chcemy, aby Polska była na czele rozwoju AI, to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju sztucznej inteligencji jest tak duże, iż za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej technologicznej rewolucji. Mamy przecież utalentowanych specjalistów i twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. – podkreśla Tomasz Snażyk, CEO AI Chamber.

Rozwój sektora AI w potrzasku regulacji

AI Chamber krytykuje rządową ustawę również za powielanie przepisów z innych aktów prawnych, co może wprowadzać niejasności i rozbudowywać bez potrzeby regulacje. Taka technika prawodawcza nie zawsze wydaje się być adekwatna i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych. Projekt resortu cyfryzacji czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływany organ nadzoru rynku, czyli Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), wzorowany jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost przeniesione z ustawy o nadzorze rynku finansowego.

Zdaniem Izby jednak tworzenie instytucji nadzoru AI wedle tych samych wzorców budzi poważne wątpliwości, w szczególności sama koncepcja organu kolegialnego, jego skład oraz forma prawna. W tym przypadku potrzeba bardziej elastycznego modelu nadzoru. Sztuczna inteligencja, jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej, usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami – czego w większości przypadków nie można powiedzieć o AI.

Rządowy skład KRiBSI do zmian

Izba postuluje bardziej reprezentatywny skład Komisji, w tym zwiększenie udziału przedstawicieli sektora gospodarczego i naukowego oraz przewidzenie bardziej precyzyjnych norm wyłączających konflikty interesów.

– Wbrew uzasadnieniu ustawy skład nie obejmuje “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”. Mowa tu chociażby o przedstawicielu MON, przedstawicielu Ministra ds. nauki czy przede wszystkim – Ministra do spraw gospodarki, który reprezentując aspekt gospodarczy i działania wspierające MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem adekwatnym do spraw informatyzacji. – zaznacza Adam Trojańczyk, członek AI Chamber i CEO Inwedo.

Kontrole podmiotów AI w gestii pracowników

Zdaniem Izby kontrolę podmiotów AI powinien wykonywać wyłącznie pracownik KRiBSI (jak w przypadku KNF czy UOKiK). Umożliwienie zlecania kontroli podmiotom trzecim – wskazane w projekcie ustawy – może prowadzić do istotnych nadużyć. Dodatkowo Izba sprzeciwia się wprowadzaniu niejasnych podstaw prawnych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do funkcjonariuszy organów ścigania bez wyraźnego celu i potrzeby.

– Ważne jest osiągnięcie równowagi pomiędzy solidnym prawodawstwem a umożliwieniem firmom odpowiedzialnego rozwoju technologii i osiąganie sukcesów w Europie. W obecnym zarysie ustawy wyraźnie brakuje progresywnego podejścia do innowacji. Liczymy, iż przedstawiony projekt będzie punktem wyjściowym do dalszej dyskusji, zmierzającej do ustanowienia w Polsce możliwie najlepszego otoczenia regulacyjnego dla rozwijania i stosowania SI w Europie. – podsumowuje Tomasz Snażyk.