W poprzednich wpisach analizowaliśmy obowiązki tych, którzy wprowadzają sztuczną inteligencję do codziennej praktyki biznesowej, tj. wdrażających. Analizowaliśmy też prawne wymogi oznaczania treści, z którymi możesz zapoznać się w tym WPISIE oraz zasady dotyczące stosowania systemów rozpoznawania emocji i kategoryzacji biometrycznej – WPIS. Aby unijne standardy mogły zadziałać wobec wdrożeniowców w praktyce, odpowiednie mechanizmy muszą zostać wszyte także bezpośrednio w technologiczne DNA systemów.
Ten wpis dedykujemy zatem dostawcom systemów AI, na których barkach również spoczywa obowiązek wdrożenia zasad przejrzystości. To tych podmiotów, od 2 sierpnia br, dotyczy obowiązek zagwarantowania transparentności w bezpośrednim kontakcie z człowiekiem. Do 26 grudnia br dostawcy maja obwiązek znakowania treści.
Rozłożymy na czynniki pierwsze art. 50 ust. 1 oraz art. 50 ust. 2 AI ACT, opierając się na unijnych wytycznych Komisji Europejskiej w tym zakresie i Kodeksie postępowania zaproponowanym przez Urząd ds. AI przy Komisji Europejskiej.
Spis treści
Kim są dostawcy?
Dostawcą jest osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który opracowuje system sztucznej inteligencji lub zleca jego opracowanie, a następnie wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym. Status dostawcy jest również niezależny od tego, czy system jest odpłatny lub udostępniany za darmo.
Status dostawcy można uzyskać nie tylko poprzez budowę systemu od początku. Zgodnie z AI ACT za dostawcę traktowane są również podmioty dokonujące modyfikacji systemu generatywnej sztucznej inteligencji a następnie taki zmodyfikowany algorytm wprowadzają do obrotu pod własną nazwą lub znakiem towarowym.
Co więcej za dostawcę jest także traktowana organizacja, która opracuje system AI np. w postaci chatbota, we własnym zakresie dla celów tzw. in-house (wewnątrz organizacji) i oddaje to narzędzie do użytku w Unii Europejskiej na własne potrzeby pod swoim oznaczeniem.
Obowiązki dostawców, o których będzie mowa poniżej mają zastosowanie niezależnie od tego czy podmioty mają siedzibę na terytorium Unii Europejskiej lub w państwie trzecim. Kluczowym łącznikiem jest to, czy wyniki działania systemu sztucznej inteligencji są stosowane lub używane na terenie Unii Europejskiej. Wskazuje się, że przypadkowe lub nieautoryzowane użycie wyników działania systemu przez podmioty trzecie nie nakłada automatycznie obowiązków na dostawcę, jeśli jego system nie był celowo wprowadzony na rynek UE.[1]
Obowiązek informowania o interakcji z AI
Art. 50 ust 1 AI ACT nakłada na dostawców systemów AI obowiązek zagwarantowania transparentności w bezpośrednim kontakcie z człowiekiem. Głównym założeniem tej regulacji jest, aby osoba fizyczna wchodząca w interakcję z systemami AI miała pełną i wyraźną świadomość, że nie obcuje z drugim człowiekiem. Ma to zapobiegać manipulacji, oszustwom i nadmiernemu zaufaniu wobec technologii oraz ułatwić użytkownikom dostosowanie poziomu zaufania do treści generowanych przez systemy. Obowiązek ten wszedł w życie na początku sierpnia 2026 r.
Aby obowiązek informowania miał zastosowanie do danego systemu, to muszą zostać spełnione łącznie cztery warunki:
- musi to być system AI: regulacja wyklucza proste, oparte na sztywnych regułach mechanizmy automatycznych odpowiedzi jak np. proste autorespondery skrzynki e-mail;
- system musi być przeznaczony do interakcji: system musi umożliwiać dwukierunkową wymianę informacji na kształt konwersacji tekstowej, głosowej lub wideo;
- interakcja powinna odbywać się w sposób bezpośredni: komunikacja powinna następować w czasie rzeczywistym lub zbliżonym do rzeczywistego. Do systemów podlegających obowiązkowi nie zalicza się sytuacji np. gdy konsultant będący człowiekiem do przygotowania odpowiedzi korzysta z pomocy AI;
- odbiorcą treści z systemu jest człowiek: połączenia typu maszyna - maszyna lub interakcje pomiędzy dwoma agentami AI bez udziału człowieka są wyłączone.[2]
Jak należy realizować obowiązek informacyjny w praktyce?
Informacja o styczności ze sztuczną inteligencją powinna być przekazywana w sposób jasny i wyróżniający się, najpóźniej w momencie pierwszej interakcji.
W ramach wytycznych Komisja Europejska wskazała rekomendowane techniki informowania:
- informacje tekstowe: rekomendowane są wyraźne etykiety w interfejsie użytkownika, np. poprzez „Cześć! Jestem asystentem AI” lub poprzez stały baner nad polem wpisania tekstu;
- informacje dźwiękowe: rekomendowane są komunikaty słowne na początku interakcji np. „To jest asystent oparty na sztucznej inteligencji”, uzupełnione przypomnieniami podczas dłuższych interakcji, w szczególności w przypadku zmiany roli systemu AI w toku kontaktu z użytkownikiem;
- informacje graficzne: dla systemów AI, w których interakcja następuje poprzez zmysł wzroku rekomendowane jest wykorzystywanie stałych ikon, znaków wodnych, obramowań lub symboli AI jako uzupełnienie informacji tekstowej, o której mowa powyżej;
- połączone komunikaty: w przypadku, gdy jest to możliwe, rekomendowane jest łączenie komunikatów np. by chatbot wyświetlał jednocześnie informację tekstową jak i przekazywał komunikat głosowy, w celu zapewnienia dostępności oraz zwiększenia przejrzystości dla różnych grup użytkowników.[3]
Praktyki niewystarczające dla spełnienia obowiązku informowania
W wytycznych Komisja Europejska bezkompromisowo punktuje rozwiązania, które są niewystarczające, aby traktować je jako spełnienie obowiązku informowania na podstawie art. 50 ust. 1 AI ACT. Należą do nich:
- ujawnianie informacji o interakcji ze sztuczną inteligencją wyłącznie w regulaminie usługi lub w ramach informacji technicznych;
- stosowanie wyłącznie maszynowych oznaczeń np. metadanych, które nie są widoczne lub słyszalne dla użytkownika;
- stosowanie niejasnych pojęć, nie wprost informowanie o interakcji ze sztuczną inteligencją, np. „Cześć! Tu Twój asystent!”
- stosowanie ogólnych komunikatów rozproszonych na platformie, które nie są powiązane z konkretnym oknem interakcji;
- opisy związane z technologią np. ten system korzysta z LLM, bez wskazywania, że użytkownik wchodzi w bezpośrednią interakcję ze sztuczną inteligencją.[4]
Wyjątki od obowiązku informowania
Nie we wszystkich sytuacjach użytkownik musi czy powinien być informowany o interakcji z systemem AI.
Oczywistość interakcji:
Jeśli z perspektywy rozsądnego, dobrze poinformowanego i uważnego użytkownika sztuczny charakter interakcji wynikający z użycia AI nie budzi wątpliwości, to obowiązek oznaczania systemu nie ma zastosowania. Przy ocenie, czy system powinien zostać oznaczony należy wziąć pod uwagę grupę odbiorców, czy są nim profesjonaliści, ogół społeczeństwa czy dzieci lub osoby starsze.
Przykładami takich oczywistych interakcji są chatboty wspierające pisanie i przegląd kodu informatycznego, dostępne wyłącznie dla programistów; wewnętrzni asystenci przeznaczeni dla odpowiednio przeszkolonego personelu organizacji, który posiada kompetencje w zakresie AI i ma świadomość, że korzysta z automatycznych narzędzi do celów wewnętrznych; technologia typu ambient – AI zastosowana w sprzętach AGD, których funkcjonalności ograniczają się do obsługi i ułatwiania pracy danego urządzenia. Systemy AI mające na celu pomoc w diagnozowaniu chorób, do wykorzystania wyłącznie przez specjalistów.[5]
Dla kontrastu systemami, które nie posiadają oczywistej interakcji, zatem użycie AI powinno być komunikowane to np. chatboty zintegrowane z platformami internetowymi lub narzędziami pomocy technicznej, za pośrednictwem których użytkownicy bezpośrednio komunikują się z systemem i otrzymują wyniki generowane przez AI; systemy AI osadzone w środowiskach VR lub AR, wykorzystujące realistyczne awatary lub głosy przypominające ludzi.[6]
Interakcja z systemami organów ścigania:
Spod obowiązku informowania są wyłączone systemy AI, które wspierają organy publiczne zarówno Unijne jak i krajowe państw UE do zapobiegania, wykrywania, prowadzenia czynności dochodzeniowych i ścigania przestępstw, pod warunkiem, że systemy te stosują odpowiednie zabezpieczenia chroniące prawa i wolności osób trzecich.
Co istotne wyjątek nie ma zastosowania, jeśli systemy AI są dostępne publicznie oraz systemy te oferują osobom fizycznym funkcjonalności umożliwiające np. zgłaszanie przestępstw.[7]
Obowiązek znakowania i wykrywania treści AI
Art. 50 ust. 2 AI ACT nakłada na dostawców oprócz wyżej wskazanego obowiązku informowania, również obowiązek wdrożenia rozwiązań technicznych umożliwiających znakowanie i wykrywanie generowanych przez ten system AI treści.
Obowiązek ten ma charakter kumulatywny i powstaje, gdy system sztucznej inteligencji spełnia łącznie poniższe warunki:
- jest systemem AI;
- generuje lub manipuluje treściami, czyli samodzielnie tworzy dane wyjściowe na podstawie promptu lub w znaczny sposób modyfikuje pliki;
- tworzy dane wyjściowe w postaci obrazów, wideo, dźwięku lub tekstu, treści 3D lub technologii VR, AR, MR;
- system nie korzysta z żadnego z wyłączeń poniżej wskazanych, co do których obowiązek nie ma zastosowania
- system AI pełni funkcję pomocniczą do standardowej edycji;
- system dąży do wykrywania, zapobiegania, prowadzenia czynności dochodzeniowych lub ścigania przestępstw, co zostało opisane powyżej we wpisie;
- system AI nie powoduje istotnej modyfikacji danych wejściowych dostarczonych przez wdrażającego ani ich znaczenia.[8]
Co więcej pod obowiązek znakowania podlegają również Agenci AI, wyłącznie, jeśli ich autonomiczne działanie skutkuje wygenerowaniem treści, które mogą być bezpośrednio dostrzeżone przez osoby fizyczne. W przypadku gdy agent działa w ramach wewnętrznych procesów lub wewnątrz komunikacji z innym agentem obowiązek znakowania nie ma zastosowania.[9]
Zasady znakowania
Zgodnie z unijnym Kodeksem postępowania dotyczący przejrzystości treści generowanych przez sztuczną inteligencję, który ma charakter fakultatywny, rekomendowane jest, aby dostawcy do znakowania podeszli wielowarstwowo. Do 2 grudnia 2026 r. dostawcy, których systemy generatywne zostały wprowadzone do obrotu lub oddane do użytku przed 2 sierpnia 2026 roku są zobowiązani do dostosowania systemów względem obowiązków znakowania.
Po pierwsze rekomendowane jest, aby informacja o wykorzystaniu AI została zapisana w metadanych pliku np. nagłówku obrazu, w audio, czy w pliku typu PDF lub docs. Dane te powinny zostać podpisane kryptograficznie i opatrzone znacznikiem czasu w sposób uniemożliwiającym jego podrobienie lub modyfikację.
Pod drugie rekomendowane jest stosowanie niewidocznego znakowania wodnego. Marker powinien zostać trwale i nierozerwalnie wbudowany bezpośrednio w samą strukturę pliku np. w piksele obrazu lub fale dźwiękowe, aby nie dało się go łatwo usunąć poprzez wycięcie metadanych.[10]
W przypadku tekstów, ze względu na specyfikę techniczną formatów, wprowadzono progi:
- tekst wolny dłuższy niż 200 tokenów (stanowiących słowa lub części wyrazów) znakowanie wodne jest wymagane;
- teksty krótsze niż 200 tokenów są całkowicie zwolnione ze znakowania wodnego z uwagi na brak technicznej możliwości zapewnienia ich wiarygodności.
Co więcej opcjonalnie jako znakowanie uzupełniające rekomendowane są rozwiązania technologiczne w postaci cyfrowego odcisku palców, mającego polegać na indeksowaniu wygenerowanych treści do skróconych, skondensowanych skrótów, a także poprzez logowanie i rejestrowanie treści, tj. zapisowi treści wygenerowanych, aby w repozytorium logów można było zweryfikować czy dana treść pochodzi z danego systemu.[11]
Każde wdrożone rozwiązanie techniczne znakowania powinno spełniać cztery wymogi jakościowe, które dostawcy tych narzędzi powinni regularnie testować przed i po wprowadzeniu systemu na rynek:
- Efektywność: rozwiązanie powinno w rzeczywistości umożliwiać ludziom zidentyfikowanie syntetycznego pochodzenia treści i zrozumienie wyników weryfikacji;
- Wiarygodność: system powinien cechować się wysoką precyzją i niskim wskaźnikiem błędów;
- Wytrzymałość: znakowanie powinno być odporne na standardowe modyfikacje pliku (kompresję, zmianę formatu, kadrowanie, dodanie szumu, a nawet próbę nagrania ekranu drugim telefonem) oraz na celowe ataki hackerskie mające na celu usunięcie znaczników;
- Interoperacyjność: standardy znakowania powinny działać bezproblemowo na różnych platformach i u różnych dostawców.
Kodeks nakłada na dostawców obowiązek wdrożenia wspólnych rozwiązań interoperacyjnych do 2 lutego 2027 roku.[12]
Rozpoznawanie znakowania
Samo znakowanie nie będzie skuteczne, jeśli nie będą istniały narzędzia do ich wychwycenia, dlatego wskazuje się, że dostawcy są zobowiązani zapewnić narzędzia detekcyjne, które pozwolą zweryfikować treści, przełożą maszynowe znaczniki na wynik możliwy do zrozumienia przez człowieka.
Narzędzia te powinny być udostępnione bezpłatnie i bez limitów. Jeśli dany system AI generuje treści, na których ekspozycję narażony jest ogół społeczeństwa, dostawca ma obowiązek udostępniać narzędzie detekcyjne publicznie. Wyjątek dotyczy małych dostawców (poniżej 1 miliona użytkowników miesięcznie), którzy mogą pobierać proporcjonalne opłaty, ale wyłącznie od masowych użytkowników komercyjnych po przekroczeniu wysokich limitów zapytań.
Kodeks przewiduje natomiast sytuację, w których powszechny dostęp narzędzi detekcyjnych mógłby prowadzić do dezinformacji, fałszywych oskarżeń, np. w przypadku znakowania w tekstach, których oznaczanie może w wysokim stopniu generować błędne wyniki. W takich przypadkach dostęp powinien przysługiwać wyłącznie zweryfikowanym podmiotom i ekspertom np. organom nadzoru rynkowego, organizacjom fact-checkingowym, zaufanym podmiotom zgłaszającym czy badaczom.[13]
Detekcja zapewne będzie wiązała się z koniecznością przesłania materiału do weryfikacji. Zgodnie z Kodeksem, przesłana treść powinna być traktowana jako poufna, chroniona szyfrowaniem, a po zakończeniu analizy niezwłocznie i bezpowrotnie usuwana z takich systemów.[14]
Dostawcy nie muszą samodzielnie opracowywać i wdrażać własnych, autorskich systemów detekcji. Mogą w tym zakresie korzystać z technologii i narzędzi dostarczanych przez inne podmioty.
Wejście w życie art. 50 AI ACT w stosunku do dostawców to moment zwrotny dla rynku technologicznego. Wdrożenie zasad transparentności przez dostawców wymaga strategicznego podejścia, zarówno w stosunku do oznaczania systemów AI w przypadku interakcji z ludźmi jak i wprowadzenia technik wielowarstwowego znakowania, które powinny zostać wdrożone bezpośrednio w samej architekturze systemu. Pozostaje więc poczekać na efekty tych wdrożeń.
