AI Chamber (Izba AI) wskazuje na kluczowe luki w rządowym projekcie ustawy o AI. Potrzeba rozwiązań zwiększających konkurencyjność Polski
- AI Chamber (Izby AI), w imieniu kilkudziesięciu startupów, firm i organizacji AI w Polsce, przedstawiła w Ministerstwie Cyfryzacji oficjalne stanowisko na temat projektu ustawy o systemach AI. Izba wskazuje na kluczowe luki w rządowym projekcie, jak m.in.: nadmierne bariery regulacyjne, brak norm prawnych do piaskownic regulacyjnych, powielanie przepisów z innych aktów prawnych, niewłaściwy skład Komisji ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, czy niejasne regulacje o podmiotach nadzorujących i udzielaniu dostępu do informacji funkcjonariuszom organów ścigania.
- AI Chamber krytykuje projekt ustawy za brak proinnowacyjnych rozwiązań, zwiększających konkurencyjność europejskiej gospodarki, która już teraz cierpi na deficyt technologiczny i przeregulowanie.
Warszawa, 19 listopada 2024 – AI Chamber (Izba AI), instytucja zrzeszająca już kilkadziesiąt startupów, firm, organizacji i ngos-ów AI w Polsce, w imieniu reprezentowanych podmiotów przedłożyła w Ministerstwie Cyfryzacji oficjalne stanowisko na temat projektu ustawy o systemach sztucznej inteligencji (SSI). Ustawa, skierowana od października br. do publicznych konsultacji, ma służyć zapewnieniu odpowiedniego stosowania w Polsce unijnego AI Act. Przepisy krajowe powinny być uchwalone do 2 sierpnia 2025 r., w tym dotyczące organów notyfikujących i jednostek notyfikowanych, modeli SI ogólnego przeznaczenia, zarządzania, sankcji finansowych oraz reguł poufności.
Nadmierne regulacje tłumią konkurencyjność
Sztuczna inteligencja (SI, AI) ma potencjał przeobrażenia prawie każdej sfery gospodarki i życia społecznego, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, przyrównywanej skalą do pierwszej rewolucji przemysłowej. Zdaniem Izby AI w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje AI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny system kontroli przestrzegania przepisów Aktu AI, brakuje proinnowacyjnych rozwiązań. W opinii Izby to właśnie one powinny stanowić priorytetowy cel ustawy i regulacji dotykających sfery rozwoju i innowacji SI. W swoim stanowisku AI Chamber zwraca uwagę, że próby regulowania AI ze strony UE, a więc ograniczenia rozwoju tak dynamicznie rozwijającej się technologii, są ryzykowne przede wszystkim z punktu widzenia konkurencyjności europejskiej gospodarki, która już teraz cierpi na deficyt innowacyjności i przeregulowanie. Na niebezpieczeństwa płynące dla rozwoju europejskiego sektora sztucznej inteligencji z nadmiernej, skomplikowanych i wzajemnie nakładających się regulacji (w szczególności RODO i Aktu o SI) wskazuje także niedawno ogłoszony Raport Draghiego. Mario Draghi wzywa w nim, aby zminimalizować bariery regulacyjne, uprościć i ujednolicić wymagania prawne oraz przyjąć takie rozwiązania, aby podmioty rozwijające AI nie były dodatkowo penalizowane. Potrzebne są reformy, które umożliwią szybsze wprowadzenie nowych technologii na rynek, zwłaszcza w sektorach przyszłości, takich jak technologie cyfrowe i energetyka odnawialna. Państwo i jego instytucje powinny być z zasady nakierowane na pomoc i wspieranie prowadzenia działalności gospodarczej i badań naukowych, a nie na obarczanie podmiotów dodatkowymi wymogami i traktowanie ich tylko jako potencjalne źródła zagrożenia dla obywateli.
Innowacje hamowane już na starcie
Drugą kluczową luką w krajowym projekcie ustawy, na jaką zwraca uwagę AI Chamber, jest brak wśród przedstawionych przepisów realizujących wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności Izba wskazuje tu brak rozwiązań tworzących piaskownice regulacyjne (tzw. sandboxy), czyli „przestrzeni prawnej”, w ramach której przedsiębiorstwa mogą bezpiecznie testować nowe rozwiązania i innowacje AI bez ryzykowania poważną odpowiedzialnością. Według KE państwa członkowskie muszą ustanowić co najmniej jedną krajową piaskownicę regulacyjną SI do 2 sierpnia 2026. AI ACT priorytetowo traktuje wsparcie dla MŚP i start-upów, zapewniając im pierwszeństwo w dostępie do piaskownic i dostosowanych usług wsparcia. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE zdaniem Izby nie znajduje uzasadnienia.
– Jeżeli chcemy, aby Polska była na czele rozwoju AI, to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju sztucznej inteligencji jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej technologicznej rewolucji. Mamy przecież utalentowanych specjalistów i twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. – podkreśla Tomasz Snażyk, CEO AI Chamber.
Rozwój sektora AI w potrzasku regulacji
AI Chamber krytykuje rządową ustawę również za powielanie przepisów z innych aktów prawnych, co może wprowadzać niejasności i rozbudowywać bez potrzeby regulacje. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych. Projekt resortu cyfryzacji czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływany organ nadzoru rynku, czyli Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), wzorowany jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost przeniesione z ustawy o nadzorze rynku finansowego. Zdaniem Izby jednak tworzenie instytucji nadzoru AI wedle tych samych wzorców budzi poważne wątpliwości, w szczególności sama koncepcja organu kolegialnego, jego skład oraz forma prawna. W tym przypadku potrzeba bardziej elastycznego modelu nadzoru. Sztuczna inteligencja, jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej, usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami – czego w większości przypadków nie można powiedzieć o AI.
Rządowy skład KRiBSI do zmian
Izba postuluje bardziej reprezentatywny skład Komisji, w tym zwiększenie udziału przedstawicieli sektora gospodarczego i naukowego oraz przewidzenie bardziej precyzyjnych norm wyłączających konflikty interesów.
– Wbrew uzasadnieniu ustawy skład nie obejmuje “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”. Mowa tu chociażby o przedstawicielu MON, przedstawicielu Ministra ds. nauki czy przede wszystkim – Ministra do spraw gospodarki, który reprezentując aspekt gospodarczy i działania wspierające MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. – zaznacza Adam Trojańczyk, członek AI Chamber i CEO Inwedo.
Kontrole podmiotów AI w gestii pracowników
Zdaniem Izby kontrolę podmiotów AI powinien wykonywać wyłącznie pracownik KRiBSI (jak w przypadku KNF czy UOKiK). Umożliwienie zlecania kontroli podmiotom trzecim – wskazane w projekcie ustawy – może prowadzić do istotnych nadużyć. Dodatkowo Izba sprzeciwia się wprowadzaniu niejasnych podstaw prawnych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do funkcjonariuszy organów ścigania bez wyraźnego celu i potrzeby.
– Ważne jest osiągnięcie równowagi pomiędzy solidnym prawodawstwem a umożliwieniem firmom odpowiedzialnego rozwoju technologii i osiąganie sukcesów w Europie. W obecnym zarysie ustawy wyraźnie brakuje progresywnego podejścia do innowacji. Liczymy, że przedstawiony projekt będzie punktem wyjściowym do dalszej dyskusji, zmierzającej do ustanowienia w Polsce możliwie najlepszego otoczenia regulacyjnego dla rozwijania i stosowania SI w Europie. – podsumowuje Tomasz Snażyk.
Jeśli chcesz znać pełną treść Stanowiska AI Chamber ws ustawy o SI
– możesz pobrać je TUTAJ.
The AI Chamber has presented its official position on the draft Artificial Intelligence Systems Act to the Ministry of Digital Affairs.
AI Chamber Criticizes Polish AI Law Draft
The AI Chamber, representing dozens of startups, companies, and organizations in Poland, has submitted its official position on the draft Artificial Intelligence Systems Act to the Ministry of Digital Affairs. The organization highlighted significant shortcomings in the draft, including excessive regulatory barriers, a lack of legal frameworks for regulatory sandboxes, duplication of existing laws, an inappropriate composition of the AI Development and Security Commission (Krajowa Rada i Bezpieczeństwo Systemów Informatycznych – KRiBSI), and unclear regulations regarding supervisory authorities and access to information by law enforcement.
Key Concerns:
Excessive Regulation Stifling Competitiveness
The Chamber criticized the lack of pro-innovation solutions in the draft, arguing that excessive controls on AI could undermine the competitiveness of European economies, which are already struggling with overregulation and innovation deficits.
Lack of Regulatory Sandboxes
The draft fails to include provisions for regulatory sandboxes—legal frameworks that allow startups and small- and medium-sized enterprises (SMEs) to safely test AI innovations. The Chamber called for swift action to implement such measures to prevent technological delays.
Redundant and Complex Regulations
The draft unnecessarily duplicates existing laws, which could lead to confusion. The proposed oversight body, KRiBSI (Krajowa Rada i Bezpieczeństwo Systemów Informatycznych – National Council for the Security of Information Systems), was criticized for adopting a model similar to the Polish Financial Supervision Authority (Komisja Nadzoru Finansowego – KNF). This model, while suitable for financial markets, is poorly suited to the diverse and rapidly evolving nature of AI technologies.
Reform Needed in KRiBSI Composition
The Chamber advocated for a more representative commission, including greater participation from economic and scientific sectors. It also suggested clearer conflict-of-interest rules and better alignment with objectives focused on fostering innovation.
Concerns About Supervisory Powers
The Chamber opposed provisions allowing third parties to conduct inspections, citing risks of abuse, and raised concerns over vague rules enabling unchecked data access by law enforcement. These regulations were compared to practices of the Polish Office of Competition and Consumer Protection (Urząd Ochrony Konkurencji i Konsumentów – UOKiK), which the Chamber deemed inappropriate for the AI sector.