W sierpniu 2026 roku wchodzi w życie zasadnicza część unijnego Rozporządzenia w sprawie sztucznej inteligencji, wprowadzająca surowe wymogi dla instytucji finansowych oraz pracodawców. Od tego momentu każda firma wykorzystująca algorytmy do oceny wniosków kredytowych lub selekcji kandydatów do pracy musi otwarcie o tym informować.
REKLAMA
Dotychczasowa praktyka ukrywania udziału maszyn w podejmowaniu istotnych decyzji życiowych przestaje być legalna. Podmioty stosujące te technologie mają obowiązek zapewnić nadzór człowieka nad każdym procesem. Oznacza to zakaz automatycznego odrzucania wniosków bez możliwości weryfikacji werdyktu przez kompetentnego pracownika.
Systemy sztucznej inteligencji zakwalifikowane jako te o wysokim ryzyku obejmują przede wszystkim obszary rekrutacji, zarządzania pracownikami oraz wyceny zdolności finansowej. Każde narzędzie wpływające na zatrudnienie lub dostęp do ubezpieczeń zdrowotnych wymaga teraz rejestracji w publicznej, unijnej bazie danych.
Przedsiębiorstwa muszą również prowadzić szczegółową dokumentację techniczną pozwalającą odtworzyć przebieg konkretnej operacji. Ma to ułatwić audyty nakierowane na wykrywanie ukrytych uprzedzeń. Modele matematyczne często powielają historyczne błędy i mogą dyskryminować wybrane grupy na podstawie płci czy wieku. Nowe prawo nakłada na firmy konieczność regularnego testowania algorytmów pod kątem ich bezstronności.
REKLAMA
Przepisy RODO
Niezależnie od wprowadzanych zmian, już teraz obowiązują zapisy RODO chroniące przed wyłącznie zautomatyzowanym przetwarzaniem danych. Osoba otrzymująca negatywną odpowiedź z banku lub od rekrutera ma prawo zażądać wyjaśnień dotyczących kryteriów oceny. Można również wnioskować o ponowne rozpatrzenie sprawy przez żywego operatora. W przypadku braku reakcji ze strony instytucji istnieje możliwość złożenia skargi do Urzędu Ochrony Danych Osobowych. Wkrótce do ochrony obywateli dołączy nowa instytucja o nazwie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Posiada ona uprawnienia do wglądu w systemy cyfrowe oraz nakładania kar finansowych na podmioty naruszające standardy bezpieczeństwa.
