Implementacja unijnego AI Act: pierwsze kary i regulacje

Unia Europejska wkroczyła w nową erę regulacji sztucznej inteligencji wraz z wejściem w życie AI Act. Ten przełomowy akt prawny ma na celu zapewnienie, że systemy AI rozwijane i stosowane w Europie będą bezpieczne, transparentne, etyczne i zgodne z prawami podstawowymi obywateli. Choć pełne wdrożenie i egzekwowanie przepisów zajmie jeszcze trochę czasu, pierwsze kroki w kierunku implementacji unijnego AI Act już się rozpoczęły, a wizja pierwszych kar i regulacji staje się coraz bardziej realna.

Geneza i cele AI Act

Akt o sztucznej inteligencji (AI Act) jest pierwszą na świecie kompleksową regulacją dotyczącą sztucznej inteligencji. Jego głównym celem jest stworzenie jasnych ram prawnych dla rozwoju i wykorzystania technologii AI, z jednoczesnym promowaniem innowacji. Unia Europejska dąży do tego, aby stać się globalnym liderem w dziedzinie odpowiedzialnej sztucznej inteligencji. Kluczowym założeniem AI Act jest podejście oparte na ryzyku, gdzie systemy AI są klasyfikowane według poziomu potencjalnego zagrożenia, co przekłada się na różne wymogi prawne.

Klasyfikacja systemów AI i ich konsekwencje regulacyjne

AI Act wprowadza czteropoziomowy system klasyfikacji systemów sztucznej inteligencji, od akceptowalnego ryzyka po ryzyko niedopuszczalne.

Niedopuszczalne ryzyko

Systemy AI uznane za niedopuszczalne ryzyko będą zakazane. Obejmuje to technologie takie jak: systemy scoringu społecznego stosowane przez rządy, manipulacyjne techniki podprogowe czy systemy identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa, z pewnymi ściśle określonymi wyjątkami. Naruszenie tych zakazów może skutkować surowymi karami finansowymi.

Wysokie ryzyko

Najwięcej uwagi w AI Act poświęcono systemom AI wysokiego ryzyka. Są to te systemy, których potencjalny negatywny wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe obywateli jest znaczący. Przykłady obejmują systemy AI stosowane w:

• Infrastrukturze krytycznej (np. zarządzanie ruchem drogowym)
• Edukacji i szkoleniach zawodowych (np. ocena kandydatów)
• Zatrudnieniu, zarządzaniu pracownikami i dostępie do samozatrudnienia (np. rekrutacja)
• Dostępie do podstawowych usług prywatnych i publicznych oraz ich korzystaniu (np. ocena zdolności kredytowej)
• Egzekwowaniu prawa
• Migracji, azylu i kontroli granicznej
• Wymiarze sprawiedliwości i procesach demokratycznych

Dla tych systemów przewidziano szereg obowiązków, w tym:

• Ocena zgodności przed wprowadzeniem na rynek.
• Systemy zarządzania ryzykiem.
• Jakość danych wykorzystywanych do trenowania modeli.
• Dokumentacja techniczna.
• Nadzór ludzki.
• Przejrzystość i informowanie użytkowników.

Ograniczone ryzyko i minimalne ryzyko

Systemy AI o ograniczonym ryzyku, takie jak chatboty, będą musiały spełniać podstawowe wymogi dotyczące przejrzystości, informując użytkowników, że wchodzą w interakcję z systemem AI. Systemy o minimalnym ryzyku, stanowiące większość obecnych aplikacji AI, nie będą podlegać specjalnym obowiązkom, jednak twórcy będą zachęcani do stosowania dobrowolnych kodeksów postępowania.

Mechanizmy egzekwowania i potencjalne kary

Kluczowym elementem AI Act są mechanizmy egzekwowania i przewidziane kary za nieprzestrzeganie przepisów. W każdym państwie członkowskim UE zostanie powołany organ nadzorczy odpowiedzialny za monitorowanie i egzekwowanie AI Act.

Rodzaje kar

Kary będą zróżnicowane w zależności od rodzaju naruszenia i wielkości przedsiębiorstwa. Mogą obejmować:

• Grzywny finansowe: w wysokości do 7% globalnego rocznego obrotu lub 30 milionów euro, w zależności od tego, która kwota jest wyższa, za poważne naruszenia, takie jak stosowanie zakazanych systemów AI.
• Niższe grzywny, np. 2% globalnego rocznego obrotu lub 10 milionów euro, za inne naruszenia, jak brak spełnienia wymogów dotyczących przejrzystości.
• Możliwe są również środki zaradcze, takie jak nakaz wycofania produktu z rynku.

Te sankcje finansowe mają na celu zniechęcenie firm do ignorowania przepisów i podkreślenie wagi, jaką Unia Europejska przywiązuje do bezpiecznego i etycznego rozwoju sztucznej inteligencji.

Harmonogram wdrażania i pierwsze kroki

AI Act wszedł w życie w czerwcu 2023 roku, jednak jego przepisy będą stopniowo wdrażane w ciągu najbliższych dwóch lat. Kluczowe etapy harmonogramu obejmują:

• Sześć miesięcy od wejścia w życie: wejdą w życie zakazy dotyczące systemów AI o niedopuszczalnym ryzyku.
• Dwanaście miesięcy: zaczną obowiązywać przepisy dotyczące systemów AI wysokiego ryzyka, w tym wymogi dotyczące oceny zgodności.
• Dwadzieścia cztery miesiące: pełne wdrożenie wszystkich przepisów AI Act.

W międzyczasie organy regulacyjne i przemysł pracują nad szczegółowymi wytycznymi i standardami, które ułatwią implementację unijnego AI Act. Firmy rozwijające i wdrażające systemy AI muszą już teraz zacząć analizować swoje produkty i procesy pod kątem zgodności z nowymi regulacjami, aby uniknąć potencjalnych pierwszych kar i regulacji.