Jeśli komuś brakowało informacji o nowych, jeszcze lepszych możliwościach nakładania kar przez kolejne ciała zajmujące się nadzorem i kontrolą — nowa ustawa o systemach sztucznej inteligencji oraz planowana Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinna poruszyć niejedną strunę (projekt ustawy o systemach sztucznej inteligencji).
A mianowicie, w znacznym skrócie:
- dla jasności: ustawa o systemach sztucznej inteligencji to kolejny krajowy akt prawny, którego zadaniem jest wyłącznie stosowanie prawa unijnego, w tym przypadku aktu w/s sztucznej inteligencji;
- definicja systemu AI obejmuje każdy samouczący się — obdarzony zdolnością do wnioskowania — system maszynowy (gdzie „termin „maszynowy” odnosi się do faktu, że systemy AI działają z wykorzystaniem maszyn”), mający na celu generowanie wyników opartych na logice i wiedzy;
art. 3 pkt 1 rozporządzenia 2024/1689 w/s ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji
„system AI” system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne
- polskim organem nadzoru nad rynkiem systemów AI będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji; w skład Komisji wchodzić będzie powoływany przez premiera przewodniczący, jego dwóch zastępców oraz 9 przedstawicieli m.in. ministra d/s informatyzacji, PUODO, UOKiK, KNF, RPO, RPD, UKE i KRRiTV; przy Komisji funkcjonować będzie Społeczna Rada do spraw Sztucznej Inteligencji (w składzie 9-15 członków);
art. 6 ust. 1 ustawy o systemach sztucznej inteligencji [projekt]
Komisja [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.
- ciekawe: przewodniczący i zastępcy nie mogą piastować żadnych innych godności politycznych i publicznych, ani też prowadzić innej działalności zarobkowej lub niezarobkowej, z wyjątkiem działaności naukowej (uczelnianej, etc.), zaś osoby pracujące w Biurze KRiBSI nie mogą być udziałowcami podmiotów nadzorowanych przez tę instytucję;
- ustawa o systemach sztucznej inteligencji precyzuje, iż w ramach kompetencji w zakresie nadzoru nad rynkiem KRiBSI ma m.in. sprawować kontrolę nad przestrzeganiem aktu w/s sztucznej inteligencji, wspierać i monitorować rozwój, innowacyjność i konkurencję w obszarze badań i stosowania systemów AI, podejmować działania mające na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów oraz przyjmować zgłoszenia poważnych incydentów AI, a także przyjmować i rozpatrywać skargi na naruszenie aktu w/s sztucznej inteligencji;
art. 50 ust. 1 ustawy o systemach sztucznej inteligencji [projekt]
Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej może złożyć do Komisji skargę, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia.
- w gestii Komisji będzie także leżało opiniowanie projektów dokumentów rządowych i aktów prawnych dotyczących sztucznej inteligencji, jak też opracowywanie wyjaśnień, opinii i interpretacji przepisów regulujących zasady funkcjonowania AI (ustawa przewiduje także możliwość wydawania interpretacji indywidualnych, za 150 zł od wniosku);
- nadzór nad systemami sztucznej inteligencji wiąże się z koniecznością przetwarzania danych osobowych — KRiBSI będzie miała prawo przetwarzać dane m.in. użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu prawa komunikacji elektronicznej, gromadzone przez operatorów usług kluczowych KSC oraz gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych; w ramach wykonywanych czynności pracownicy instytucji będą mieli także prawo wglądu w informacje stanowiące tajemnicę prawnie chronioną, w tym tajemnicę przedsiębiorstwa;
art. 61 ust. 1 ustawy o systemach sztucznej inteligencji [projekt]
Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji.
- kontrole, kary, sankcje i represje: za naruszenie przez podmiot obowiązany przepisów aktu w/s AI — operatora, dostawcę, importera, podmiot stosujący sztuczną inteligencję — KRiBSI będzie mogła nałożyć administracyjną karę pieniężną w wysokości do 35 mln euro lub 7% całkowitego rocznego światowego obrotu, przy czym odwołania od decyzji o nałożeniu kary mają trafiać do sądu ochrony konkurencji i konsumentów (w procedurze cywilnej pojawić ma się nowy dział IVFA, tj. art. 479(88a)- 479(88e) kpc);
- zarazem utrudnianie przeprowadzania kontroli czy też niedostarczanie danych niezbędnych do ustalenia podstawy wymiaru kary pieniężnej będzie przestępstwem zagrożonym karą więzienia do 2 lat lub grzywną do pół miliona złotych;
- a wszystko to po 14-dniowym vacatio legis — czyli w sumie nie wiadomo od kiedy.
Zamiast komentarza: jeśli kogoś zaskoczyło RODO, a zaskoczyć o tyle nie powinno, że regulacje odnoszące się do ochrony danych osobowych mieliśmy od końca XX wieku… to spodziewam się, że ustawa o systemach sztucznej inteligencji — jeśli się przyjmie, a przypuszczam, że ze względu na wspaniałość możliwości synekur w nowiutkiej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak też dość możliwość nakładania całkiem drakońskich kar, się przyjmie — będzie zbierać jeszcze lepsze żniwo. (Inna sprawa, że bez przetwarzania danych osobowych właściwie dziś się już nic nie da zrobić — a bez korzystania z AI? chyba jeszcze można funkcjonować, nawet w biznesie.)