[VIDEO] Kolejny etap wdrażania AI Act. Firmy muszą oznaczać treści wygenerowane przez sztuczną inteligencję

Nowe regulacje związane z wdrożeniem unijnego AI Act, które wchodzą w życie 2 sierpnia 2026 roku, oznaczają szereg obowiązków dla wielu przedsiębiorców. Dotyczą one m.in. przejrzystości stosowania sztucznej inteligencji i odpowiedniego jej oznaczania. Zdaniem prawników te zmiany w połączeniu z obowiązkami, które pojawią się w przyszłym roku, wymuszą na firmach zmianę podejścia do AI, a przede wszystkim uporządkowania kwestii wykorzystania tej technologii przez pracowników.

– 2 sierpnia wchodzi w życie główny trzon obowiązków wynikających z unijnego AI Act. Przede wszystkim są to obowiązki dotyczące przejrzystości, które będą dotyczyć najprawdopodobniej największej liczby przedsiębiorców, ponieważ chodzi głównie o odpowiednie oznaczanie materiałów interakcji ze sztuczną inteligencją – wyjaśnia w rozmowie z agencją Newseria Michał Jeleń z kancelarii LEGALLY.SMART.

Artykuł 50 aktu w sprawie sztucznej inteligencji (AI Act) określa obowiązki w zakresie przejrzystości dla dostawców i podmiotów wdrażających niektóre systemy sztucznej inteligencji, w tym generatywne i interaktywne systemy AI oraz deepfake.

– W przypadku generowania treści takich jak obraz, dźwięk czy wideo wszystkie muszą być oznaczone – albo w sposób jednoznaczny na tej treści, albo dodatkowo metadanymi, które umożliwią ich identyfikację w sposób maszynowy – żeby odbiorca wiedział, z czym ma do czynienia. Na przykład nagrywamy wideo, ale dodajemy wygenerowany przez AI dźwięk. Taka treść już musi zostać oznaczona – wyjaśnia Michał Jeleń.

Podmioty wdrażające systemy sztucznej inteligencji muszą informować osoby fizyczne, kiedy są narażone na narzędzia do rozpoznawania emocji i kategoryzacji biometrycznej, deepfaki, publikacje tekstowe w sprawach leżących w interesie publicznym bez przeglądu przez człowieka lub kontroli redakcyjnej.

– Obowiązek ten dotyczy też deepfake’ów, czyli wszystkich przeróbek, treści wygenerowanych, które wyglądają tak, jakby były prawdziwe. W tym zakresie wyłączenie dotyczy treści, które są w oczywisty sposób satyryczne – podkreśla przedstawiciel kancelarii LEGALLY.SMART. – Obowiązek oznaczania dotyczy także tekstów wygenerowanych przez sztuczną inteligencję, ale możemy ich nie oznaczać, jeśli przejdą gruntowną i dogłębną analizę przez człowieka, czyli tak zwane human review, i człowiek bierze za nie odpowiedzialność.

2 sierpnia br. miały zacząć obowiązywać także przepisy AI Act dotyczące systemów AI wysokiego ryzyka, jednak przyjęty przez instytucje unijne Cyfrowy Omnibus przesunął ten termin na 2 grudnia 2027 roku. Chodzi o obowiązki dotyczące wybranych systemów wysokiego ryzyka, m.in. wykorzystywanych w rekrutacji czy sektorze bankowym.

– Te obowiązki są nakładane zarówno na dostawców takich systemów, czyli tak zwanych providerów, jak i na klientów, czyli deployerów, którzy tylko je wykorzystują – wyjaśnia Michał Jeleń. – Systemy wysokiego ryzyka to będą wysoko wyspecjalizowane systemy wykorzystywane w konkretnych obszarach, czyli na przykład HR i opiece zdrowotnej. Krąg dostawców, do których będzie się to stosować, będzie mały. W głównej mierze będzie dotyczył albo AI-owych gigantów, albo podmiotów, które same budują lub bardzo mocno modyfikują istniejące systemy.

Z kolei obowiązki nakładane na użytkowników tych systemów obejmą już znacznie szerszy krąg podmiotów.

– Aby nie odpowiadać za naruszenie, muszą wykorzystywać systemy wysokiego ryzyka tylko zgodnie z instrukcjami przekazanymi przez dostawcę. Możemy to porównać do stosowania przez lekarzy produktów leczniczych niezgodnie z zaleceniami. Wtedy mamy zastosowanie off-label i to lekarz za nie odpowiada. Tak samo podmiot, który wykorzystuje system wysokiego ryzyka niezgodnie z instrukcją, może ponosić odpowiedzialność na zasadzie analogicznej do providera – tłumaczy przedstawiciel kancelarii LEGALLY.SMART.

Od 2 grudnia 2027 roku systemy AI wysokiego ryzyka będą podlegać rygorystycznym obowiązkom, zanim będą mogły zostać wprowadzone do obrotu. Mowa m.in. o systemach oceny i ograniczania ryzyka, wysokiej jakości zbiorów danych zasilających system, jasnych i odpowiednich informacjach dla podmiotu wdrażającego czy też odpowiednich środkach nadzoru przez człowieka.

– Podmioty, które wykorzystują takie systemy, powinny przeprowadzić ich audyt. Muszą zweryfikować, czy są certyfikowane, bezpieczne, wpisane na listę prowadzoną przez powołane do tego organy Unii Europejskiej, a także zapewnić sobie w dokumentach umownych, takich jak np. SLA czy umowa wdrożeniowa, że odpowiednio adresowane będą kwestie na przykład podatności czy uaktualnień – tłumaczy Michał Jeleń.

Ten obowiązek w dużym stopniu dotknie firmy z obszaru HR, który w ostatnich latach dynamicznie się automatyzował. Z raportu HR Tech Changer 2025, przygotowanego przez Polskie Forum HR, wynika, że 53 proc. badanych specjalistów HR regularnie korzysta z rozwiązań opartych na AI. Najczęściej dotyczy to pozyskiwania i rekrutacji kandydatów, ich selekcji i oceny kompetencji, a także zarządzania bazą kandydatów.

– Decyzje podejmowane przez AI w tym zakresie nie tylko kwalifikują takie systemy AI jako wysokiego ryzyka, ale również nakładają dodatkowe warunki dotyczące staranności – zaznacza przedstawiciel kancelarii LEGALLY.SMART. – Tak samo może mieć to wpływ na branżę finansową czy ubezpieczeniową. Jeśli wykorzystujemy system AI do tego, aby przetwarzać wnioski ubezpieczeniowe czy kredytowe, to już jest to system wysokiego ryzyka. Nie mówiąc już o ich wykorzystywaniu w celu diagnozowania chorób, gdzie często systemy te będą musiały być wykorzystane pod silną kuratelą lekarza czy osoby uprawnionej, a w niektórych przypadkach wręcz nie powinny być wykorzystywane.

Z raportu „Barometr rynku pracy 2026” przygotowanego przez Gi Group Holding wynika, że 42,2 proc. polskich firm deklaruje, że korzysta z automatyzacji i rozwiązań AI. Najczęściej są to wdrożenia częściowe, a nie szerokie stosowanie tych technologii w całej organizacji. 12,2 proc. pracodawców wskazuje, że używa ich na szeroką skalę, podczas gdy 30 proc. jedynie w wybranych obszarach i nadal dostrzega przestrzeń do rozwoju. Szerokie wykorzystywanie automatyzacji i AI najczęściej deklarują duże firmy (14,1 proc.). Dla porównania wśród średnich podmiotów odsetek ten wynosi 11,8 proc., a małych – 10,6 proc.

Z AI korzystają niemal wszystkie obszary organizacji: od HR i marketingu, przez sprzedaż i obsługę klienta, po działy prawne i finansowe. Zdaniem ekspertów LEGALLY.SMART nowy etap AI Act sprawi, że sztuczna inteligencja przestanie być wyłącznie zagadnieniem technologicznym, a stanie się strategicznym. Wyzwaniem dla biznesu będzie ustalenie, gdzie sztuczna inteligencja już działa w organizacji. Tym bardziej że w wielu firmach pracownicy zaczęli korzystać z AI oddolnie i dziś nikt nie ma pełnego obrazu jej wykorzystania.

– Po wejściu w życie kolejnej partii wymogów nakładanych przez AI Act firmy będą musiały mocno zmienić swoje podejście do narzędzi wykorzystujących sztuczną inteligencję. Konieczne będzie przeszkolenie pracowników. Dodatkowo każda z takich firm będzie musiała przeprowadzić analizę wykorzystywanych narzędzi i przygotować listę dopuszczanych narzędzi oraz tych, z których pracownicy nie mogą korzystać – wylicza przedstawiciel kancelarii Legally Smart.

Dodaje, że konieczne będzie wprowadzenie procedur stosowania AI, z uwzględnieniem kwestii ochrony danych osobowych, poufności informacji czy ochrony własności intelektualnej.

– Odpowiedzialność za naruszenie przepisu AI Act spada na przedsiębiorcę. Na koniec dnia odpowiadają zawsze członkowie zarządów, w szczególności jeśli mówimy np. o odpowiedzialności karnej – tłumaczy Michał Jeleń.

Za najpoważniejsze naruszenia, w szczególności stosowanie zakazanych praktyk wykorzystania sztucznej inteligencji, rozporządzenie przewiduje administracyjne kary finansowe sięgające nawet 35 mln euro lub 7 proc. globalnego rocznego obrotu przedsiębiorstwa z poprzedniego roku obrotowego.

– Za naruszenia dotyczące zasad przejrzystości czy systemów wysokiego ryzyka te kary są odrobinę niższe, bo kształtują się na poziomie 3 proc. obrotu albo 15 mln euro. Tutaj ustawodawca zapewnił pewną ulgę małym przedsiębiorcom, ponieważ podmioty z obszaru MŚP powinny być karane nie w górnych widełkach, czyli nie do wyższych kwot, tylko do niższych, czyli w większości przypadków najprawdopodobniej do procentowego udziału w obrocie – mówi ekspert z kancelarii LEGALLY.SMART.

Źródło: newseria.pl