Credit Manager Magazine 9/2024

Rozwiązanie to ma wywrzeć presje na podmiotach rynku finansów i nie tylko, aby nie nadużywały systemów sztucznej inteligencji, które niosą realne zagrożenie dla praw podstawowych człowieka. Podnoszone są w związku z tym głosy, że spowolni to możliwość wprowadzania do praktyki rynkowej, nowych systemów AI do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego. Uwaga ta dostrzega zatem pewien paradoks AI Actu, polegający na zbiegu jego wsparcia dla innowacji i jednoczesnym jej powstrzymywaniu. Moim zdaniem natomiast wstrzymywanie to nie dotyczy samej innowacji jako takiej a innowacji toksycznej, która działa kosztem praw człowieka, tak jak np. ta funkcjonująca w Chinach. Skargi i kary Zgodnie z treścią AI Act, jeżeli ktokolwiek uzna, że naruszone zostały przepisu AI Act, ma prawo wnieść skargę do organu nadzorczego, a te, w przypadku wykrycia faktycznej nieprawidłowości, nakładają na podmiot naruszający administracyjną karę pieniężną w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. AI Act wprowadza zatem mechanizmy ochrony swoich praw przez podmioty, wobec których stosowany jest system AI. Dostrzec można w tej procedurze pewną analogię z obroną swoich praw zapewnianą przez RODO, gdzie podmiot danych osobowych ma prawo wniesienia skargi do organu nadzorczego, jeżeli jego dane przetwarzane są z naruszeniem prawa. Aczkolwiek, warto zauważyć, że AI Act nie przyznaje tego prawa jedynie osobom, wobec których wykorzystywany jest system AI a przyznaje je każdemu, kto uzna, że podmiot wykorzystujący system AI narusza przepisy zawarte w tym akcie. Prawodawca unijny daje tym samym do zrozumienia, że podmioty stosujące systemy AI nie mogą podchodzić do oceny ryzyka w sposób lekceważący i muszą na bieżąco weryfikować aktualność tej oceny. Co ważne, sama procedura oceny skutków stosowania danego systemu AI wysokiego ryzyka dla praw podstawowych człowieka wymaga od tych podmiotów wykonania jej z uwzględnieniem: opisu procesów podmiotu stosującego (np. banku), w których system AI wysokiego ryzyka będzie wykorzystywany zgodnie z jego przeznaczeniem; Dlatego też Ministerstwo Cyfryzacji zapowiedziało powołanie Komisji ds. nadzoru nad sztuczną inteligencją, nad czym aktualnie trwają prace. Decyzja o powołaniu nowego organu podjęta została na podstawie przeprowadzonych prekonsultacji. Końcowo zaznaczyć należy, że Ministerstwo Cyfryzacji nie ma bardzo dużo czasu na wyznaczenie takiego organu, ponieważ zgodnie z treścią AI Act jego przepisy będą stopniowo wdrażane do stosowania już od 2 lutego 2025 r., od kiedy zastosowanie będzie miał zakaz stosowania systemów stwarzających niedopuszczalne ryzyko dla praw człowieka (tzw. „zakazane praktyki”) a od 2 sierpnia 2026 r. wdrożone zostaną prawie wszystkie przepisy AI Act, w tym przepisy dotyczące systemu AI wysokiego ryzyka wykorzystywane m.in . do przeprowadzania scoringu kredytowego lub oceny zdolności kredytowej osób fizycznych. Zgodnie z zapowiedzią Ministerstwa Cyfryzacji, Komisja Nadzoru Sztucznej Inteligencji powinna rozpocząć prace od początku 2026 r. opisu okresu, w którym każdy system AI wysokiego ryzyka ma być wykorzystywany i opis częstotliwości tego wykorzystywania; kategorii osób fizycznych i grup, na które może mieć wpływ wykorzystywanie systemu; szczególnego ryzyka szkody, które może mieć wpływ na kategorie osób fizycznych lub grupy osób zidentyfikowanych zgodnie z wcześniejszym punktem, z uwzględnieniem informacji przekazanych przez dostawcę zgodnie z art. 13 (zgodnie z tym przepisem, udostępniany system AI wysokiego ryzyka, wyposażony musi być w instrukcję obsługi, która stanowi komplet informacji na temat tego systemu, m.in . informację dotyczącą wszelkich dających się przewidzieć okoliczności wykorzystania tego systemu, które mogą powodować ryzyko dla praw podstawowych człowieka); opisu wdrożenia środków nadzoru ze strony człowieka, zgodnie z instrukcją obsługi; środków, jakie należy podjąć w przypadku urzeczywistnienia się tego ryzyka, w tym ustalenia dotyczące zarządzania wewnętrznego i mechanizmów rozpatrywania skarg. Wdrożenie przepisów AI Act Organ nadzorczy odpowiedzialny za nadzór w zakresie prawidłowego wykonywania AI Act, czuwanie nad podmiotami dokonujących eksploatacji systemów sztucznej inteligencji oraz rozpatrujący skargi na te podmioty, nie został jeszcze w Polsce wyłoniony. Aktualnie trwają prace w tym zakresie, ponieważ dotąd nie funkcjonował w Polsce organ, który spełniałby kryteria przewidziane dla swojej roli przez AI Act. Alicja Maciążka Absolwentka Wydziału Prawa Akademii Leona Koźmińskiego, aplikantka radcowska pierwszego roku OIRP w Warszawie, prawnik w kancelarii GKR Legal. Od 2020 roku pracuje w warszawskich kancelariach prawnych, gdzie zajmuje się prawem własności intelektualnej, w tym prawem autorskim, prawem ochrony danych osobowych, e- commerce oraz nowoczesnych technologii, w tym sztucznej inteligencji. Autorka serii artykułów „Sezon na AI”, w których porusza problematykę nowej regulacji Unii Europejskiej w dziedzinie sztucznej inteligencji oraz jej wpływ na poszczególne sektory gospodarki. www.creditmanagermagazine.pl WRZESIEŃ / SEPTEMBER 2024 42 PRAWO „Zgodnie z treścią AI Act, jeżeli ktokolwiek uzna, że naruszone zostały przepisu AI Act, ma prawo wnieść skargę do organu nadzorczego, a te, w przypadku wykrycia faktycznej nieprawidłowości, nakładają na podmiot naruszający administracyjną karę pieniężną w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.” „Organ nadzorczy odpowiedzialny za nadzór w zakresie prawidłowego wykonywania AI Act, czuwanie nad podmiotami dokonujących eksploatacji systemów sztucznej inteligencji oraz rozpatrujący skargi na te podmioty, nie został jeszcze w Polsce wyłoniony.”