Krótko i na temat: oto do laski marszałkowskiej wpłynął projekt nowelizacji prawa karnego przewidujący karalność wytwarzania treści stanowiących pornograficzny deepfake przygotowany z wykorzystaniem sztucznej inteligencji — i zwiększający ochronę dzieci przed zakusami pedofilów (poselski projekt ustawy o zmianie ustawy — Kodeks karny).
Rozwój technologii AI, deepfake, manipulacje i halucynacje — wszystko to sprawia, że właściwie nikt już nie wie, czy oglądane w internetach obrazki są prawdziwe. Jest to wyjątkowo niebezpieczne przy treściach pornograficznych i intymnych, bo przerobiony czy podrobiony filmik może być źródłem szczególnego naruszenia dóbr przedstawionych osób — skrajnie niebezpieczne w przypadku pornografii pedofilskiej.
Jako odpowiedź na te wyzwania wynikające z wykorzystania najnowszych technologii projektodawcy proponują:
- penalizację rozpowszechniania obrazków powstałych lub przerobionych przy wykorzystaniu technik cyfrowych, w tym sztucznej inteligencji, a prezentujących osobę w sytuacji intymnej;
art. 191a § 1a kodeksu karnego [projekt]
Tej samej karze [pozbawienia wolności od 3 miesięcy do lat 5] podlega, kto bez zgody rozpowszechnia wizerunek osoby nagiej lub osoby w trakcie czynności seksualnej, wytworzony lub przetworzony przy użyciu technik cyfrowych, w szczególności sztucznej inteligencji.
- zwracam uwagę, iż wymóg, by wizerunek był „przetworzony przy użyciu technik cyfrowych” oznacza jego każdą modyfikację, nie tylko klepanie promptów, ale też manualny fotomontaż w fotoszopie;
- na marginesie: przepis zawiera w sobie podwójny warunek zgody: po pierwsze samo rozpowszechnianie musi nastąpić bez zgody zainteresowanej osoby, po drugie ściganie sprawcy wymaga wniosku pokrzywdzonego;
- mało tego: już teraz przestępstwem jest namawianie przez sieć małoletniego poniżej lat 15 do spotkania w celu wykorzystania seksualnego, nagrywania treści pornograficznych…
- …projekt idzie tu znacznie dalej: odpowiedzialności karnej nie uniknie też sprawca przestępstwa, który „nie uświadamia sobie, że [jego] dokonanie jest niemożliwe ze względu na brak małoletniego do lat 15”;
art. 200a § 3 kodeksu karnego [projekt]
Karom określonym w § 1 i 2 podlega odpowiednio także ten, kto działając w sposób określony w tych przepisach nie uświadamia sobie, że dokonanie jest niemożliwe ze względu na brak małoletniego do lat 15.
- taka zmiana wykluczyć ma sytuację, w której pedofil miał nadzieję, że po drugiej stronie jest dziecko, a w rzeczywistości był drugi, taki sam wariat lub prowokator;
- natomiast od razu odpowiadam, że nie prowadzi to do kryminalizacji raczej nieszkodliwych działań konsensualnych, np. chyba nie tak wyimaginowanej gierki-przebieranki: jeden celowo udaje, drugi udaje, że tamten nie udaje — a tak naprawdę to wszystko jest za obopólną akceptacją (w wersji hard: płacącego za usługę mizdrzenia się do LLM);
- (choć i tak nie potrafię nie pamiętać o tym biegłym, który poszukiwacza pedofilii w sieci rozpoznał po frazie „12 y.o.” w historii wyszukiwania);
- ale to nie wszystko, bo oto przestępstwem miałoby stać się także generowanie, nie tylko przy użyciu AI, pornograficznych deepfake’ów pedofilskich;
art. 202 § 4aa kodeksu karnego [projekt]
Kto przy użyciu technik cyfrowych, w szczególności sztucznej inteligencji, wytwarza lub przetwarza treści pornograficzne mogące wywołać przekonanie o autentycznym udziale małoletniego,
podlega karze pozbawienia wolności od 3 miesięcy do lat 5
- ergo granicą dla tej kusicielskiej AI byłoby tworzenie grafik;
- (na marginesie dodam, że coś tu jakby nie zagrało z zagrożeniem, bo przecież temu, kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej grozi do trzech lat więzienia — a tu za ledwie wytwarzanie lub przetwarzanie jest aż do pięciu);
- a wszystko to już po 30-dniowym vacatio legis, licząc od nie wiadomo kiedy.
O tym, czy projekt oznacza przekroczenie zasady, zgodnie z którą sama pedofilia karalna nie jest — karalne są czyny pedofilskie — możemy sobie pogdybolić w komentarzach. Bo przyznam, że z jednej strony nie rozumiem, dlaczego wytwarzanie pornografii dziecięcej bez wykorzystania technik cyfrowych miałoby odpowiedzialności karnej umykać… no i trochę nie rozumiem, dlaczego kara ma być już za „wytwarza lub przetwarza” deepfake’i — bez zamiaru ich rozpowszechniania lub publicznego prezentowania.