Credit Manager Magazine 9/2024

PRAWO „Prawodawca dostrzega tutaj niebezpieczeństwo wykorzystania systemów AI, które ‘mogą prowadzić do dyskryminacji osób lub grup i mogą utrwalać historyczne wzorce dyskryminacji, takie jak dyskryminacja ze względu na pochodzenie rasowe lub etniczne, płeć, niepełnosprawność, wiek, orientację seksualną, lub mogą powodować powstawanie nowych rodzajów dyskryminacji’.” praw podstawowych człowieka: 1. niedopuszczalnego ryzyka; 2. wysokiego ryzyka; 3. ograniczonego ryzyka; oraz 4. minimalnego ryzyka (w tym braku ryzyka). Systemy wysokiego ryzyka stanowią główny przedmiot regulacji AI Act, ponieważ tak jak zaznaczyłam to na wstępie, dotyczą kluczowych dziedzin życia człowieka. Używanie systemów wysokiego ryzyka wiąże się w związku z tym również z licznymi obowiązkami nakładanymi na wszystkie podmioty uczestniczące w ich eksploatacji – dostawców, importerów, dystrybutorów i podmiotów je stosujących. Instytucje finansowe mają obowiązek badania ryzyka W świetle regulacji AI Act, jeżeli instytucja finansowa lub inny podmiot „Promowanie” rozumiane powinno być jako uszczelnienie systemu prawnego Unii Europejskiej, które wykluczy z rynku wewnętrznego systemy sztucznej inteligencji (AI), które stanowić mogą zagrożenie dla praw podstawowych człowieka. AI Act roztacza zatem ochronę nad godnością człowieka, jego prawem do życia, szeroko pojętą wolnością i równością oraz dostępem do podstawowych usług i świadczeń. Usługi te rozumiane są poprzez usługi opieki zdrowotnej, świadczeń z zabezpieczenia społecznego, ale również takie jak mieszkalnictwo, energia elektryczna i usługi telekomunikacyjne. Prawodawca unijny dostrzega decyzyjność rynku finansowego, a węziej – kredytodawców, o dostępie człowieka do tych ostatnich z w/w usług. Mianowicie przyznają lub odmawiają oni udzielenia kredytu, decydują o końcowym dostępie wnioskodawców do usług tak podstawowych, jak mieszkalnictwo czy energia elektryczna. Prawodawca dostrzega tutaj niebezpieczeństwo wykorzystania systemów AI, które „mogą prowadzić do dyskryminacji osób lub grup i mogą utrwalać historyczne wzorce dyskryminacji, takie jak dyskryminacja ze względu na pochodzenie rasowe lub etniczne, płeć, niepełnosprawność, wiek, orientację seksualną, lub mogą powodować powstawanie nowych rodzajów dyskryminacji.” (preambuła AI Act, pkt 58) Ze względu na powyższe, systemy AI wykorzystywane do przeprowadzania scoringu kredytowego lub oceny zdolności kredytowej osób fizycznych, zakwalifikowane zostały do systemów AI wysokiego ryzyka. Co oznacza system AI wysokiego ryzyka? AI Act rozumie system wysokiego ryzyka jako system, który niesie ze sobą wysokie prawdopodobieństwo wystąpienia szkody, której dotkliwość będzie dla człowieka wysoka. Oznacza to, że dany system AI niesie ze sobą realne ryzyko dla praw i wolności człowieka, natomiast prawdopodobieństwo wystąpienia w związku z tym dotkliwej szkody nie jest nadmiernie wysokie i dlatego jego wykorzystanie nie jest zabronione. Należy przy tym zaznaczyć, że AI Act rozróżnia łącznie cztery kategorie systemów AI, skategoryzowanych ze względu na niosące ze sobą ryzyka dla zdecyduje się na stosowanie sztucznej inteligencji do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, obowiązany będzie m.in. do badania ryzyka dla praw podstawowych człowieka. Badanie takie będzie wykonywane przy wykorzystaniu systemu AI po raz pierwszy w tym przedmiocie, co oznacza, że badanie takie będzie wykonywane jednorazowo a nie przed każdym jednostkowym użyciem. Nie zwalnia to natomiast tych podmiotów od zachowania stałej czujności. Jeżeli dojdzie do zmiany jakiegokolwiek czynnika, który brany był pod uwagę przy pierwszej ocenie ryzyka, np. zmienione zostaną kategorie osób fizycznych wobec których stosowany będzie system, to obowiązkiem tego podmiotu będzie zaktualizowanie tych informacji. AI Act, inaczej rozporządzenie Parlamentu Europejskiego i Rady (UE) w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie sztucznej inteligencji), to unijny akt prawny którego celem jest promowanie sztucznej inteligencji bezpiecznej dla człowieka, a przede wszystkim bezpiecznej dla jego praw. AI Act: kredytodawcy stosują systemy AI wysokiego ryzyka WRZESIEŃ / SEPTEMBER 2024 www.creditmanagermagazine.pl 41 Alicja Maciążka aplikantka radcowska, GKR Legal