Garść pytań w kontekście przepisywania przez prawnika, w piśmie procesowym, bzdetów zmyślonych przez sztuczną inteligencję: czy obowiązek oznaczania treści jako wygenerowanych przez AI dotyczy pozwów, skarg, odwołań, zażaleń i innych pism do urzędów? Czy adresat takiego dokumentu powinien otrzymać jednoznaczne wyjaśnienie, że treść sporządziła sztuczna inteligencja? Czy za nieujawnienie informacji, że pismo procesowe zostało sporządzone przy wykorzystaniu AI grozi kara?
Dalej będzie w punktach, bo tak prościej:
- począwszy od 2 sierpnia 2026 r. każdy podmiot stosujący system AI do generowania deepfake — obrazów, nagrań dźwiękowych lub wizualnych, które odbiorca mógłby wziąć za realne przedstawienie rzeczy — ma obowiązek oznakowania powstałych efektów jako zmyślonych lub sztucznie zmanipulowanych;
- (nieco na marginesie: „deepfake” to niewątpliwie słowo z języka polskiego, ponieważ w takiej formie zostało przywołane w polskim tekście rozporządzenia w/s sztucznej inteligencji; zgodnie z definicją pojęcie to oznacza „wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe”);
- konieczność ujawnienia deepfake AI Act tłumaczy trudnością odróżnienia „treści syntetycznych” od autentycznych, będących dziełem człowieka, która to niepewność ma negatywny wpływ na zaufanie do publikowanych informacji;
art. 50 ust. 2 rozporządzenia 2024/1689 w/s ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji
Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu.
Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna.
- zarazem motywy rozporządzenia tłumaczą, iż taka powinność nie może być interpretowana jako ograniczenie wolności wypowiedzi, sztuki i nauki, nawet jeśli wytwory stanowią element dzieła mającego wyraźnie charakter twórczy, artystyczny fikcyjny lub satyryczny;
- (i teraz mogłyby pojawić się tutaj co najmniej dwa akapity rozważań: czy sztuczna inteligencja to ledwie narzędzie w rękach człowieka, takie jak aparat fotograficzny i komputer z fotoszopem, których użycie nie zaprzecza „iskrze bożej” (tej, o której mowa w art. 1 pr.aut.)? a może autorstwo utworu należy przypisać samej AI? jej twórcom? ale kto jest dokładnie twórcą AI: ten, kto stworzył algorytm? czy ta bezimienna masa, która złożyła się na treści skarmiające Lewiatana?);
- analogiczny obowiązek oznaczania treści wygenerowanych lub zmanipulowanych przez AI dotyczy tekstów — publikowanych, informacyjnych, dotyczący „spraw leżących w interesie publicznym”;
- dla jasności: na podmiot stosujący, który narusza obowiązki w zakresie przejrzystości — nie informuje, że materiał został wygenerowany przy użyciu AI — może zostać nałożona administracyjna kara pieniężna w kwocie do 15 mln euro lub 3% obrotu;
- tak czy inaczej AI Act precyzuje obowiązku oznaczania sztucznie wygenerowanych treści nie można interpretować jako legalizacji dezinformacji — ani też ew. depenalizacji przestępstw, do których popełnienia wykorzystano taką technologię (por. „Karalność pornograficznego deepfake wytworzonego przy użyciu sztucznej inteligencji”);
- (paradoksalnie: użytkownika powinność taka obciąża od 2 sierpnia 2026 r. — ale dostawca modelu ogólnego przeznaczenia wprowadzonego do obrotu przed 2 sierpnia 2025 r. musi dostosować warunki świadczenia usługi do 2 sierpnia 2027 r., czyli jest roczna „dziura” (a może rozwojowa wersja AI oznacza „nowe” wprowadzenie do obrotu?));
- dorzucić w tym miejscu należy, że obowiązek oznaczania treści jako wygenerowanych przez AI nie obejmuje działalności organów ścigania prowadzonej w celu wykrywania, zwalczania i ścigania sprawców przestępstw, ale też treści informacyjnych, które przed publikacją zostały dotknięte okiem człowieczym;
- zbliżając się z wolna do konkluzji: oznaczać trzeba deepfake, ale nie każdy wygenerowany lub zmanipulowany obraz (ruchomy lub nieruchomy) czy dźwięk to deepfake — lecz tylko taki, który stwarza pozory autentyczności lub prawdziwości i może mylić odbiorcę;
- analogicznie obowiązek oznaczenia nie dotyczy każdego powstałego przy pomocy AI tekstu — trzeba ujawniać takie treści, acz tylko w przypadku ich publikacji, i to pod warunkiem określonej tematyki;
- pisma procesowe, pozwy, odwołania, wnioski, choćby zostały skompilowane przy użyciu sztucznej inteligencji, warunku tego nie spełniają: taki dokument zasadniczo nie służy informowaniu społeczeństwa i nie podlega publikacji — tedy nawet jeśli gapowaty prawnik halucynacje przepuści, to jest wstyd i obciach, ale nie naruszenie.
Wniosek jest prosty: złożone w sądzie czy urzędzie pismo nie musi zawierać informacji, iż zostało wygenerowane przy użyciu sztucznej inteligencji — co jednak nie oznacza, że nie powinien o tym wiedzieć klient.