Sztuczna inteligencja jest częścią codziennego życia na niezliczone sposoby, a sposób, w jaki zdecydujemy się ją regulować, będzie kształtował nasze społeczeństwa. Prawodawcy UE muszą skorzystać z tej okazji, aby stworzyć prawo, które wykorzysta te możliwości, nie podważając ochrony naszych praw ani praworządności, piszą Eva Simon i Jonathan Day.
Unijny akt prawny o sztucznej inteligencji – pierwsze na świecie kompleksowe ramy prawne dla sztucznej inteligencji – znajduje się w końcowej fazie negocjacji, zanim stanie się prawem.
Teraz, gdy uzgadniane są ostatnie szczegóły, europejscy prawodawcy muszą skorzystać z okazji, aby chronić prawa człowieka i zdecydowanie uregulować wykorzystanie sztucznej inteligencji.
Co jednak najważniejsze, w debacie wokół ustawy o sztucznej inteligencji nie poświęcono wystarczającej uwagi kluczowemu elementowi: ustawa musi ustanawiać jasno określony związek między sztuczną inteligencją a praworządnością.
Chociaż szeroko omawiano kwestię uwzględnienia w ustawie gwarancji praw człowieka, równie ważne jest ustanowienie powiązania z praworządnością.
Demokracja, prawa człowieka i praworządność są ze sobą powiązane, ale nadal stanowią odrębne pojęcia, które są od siebie zależne i których nie można rozdzielić bez wyrządzenia szkody społeczeństwu.
Szansa na wzmocnienie praworządności w Europie
Zasada praworządności ma fundamentalne znaczenie dla UE. Jest to warunek wstępny realizacji innych podstawowych wartości i korzystania z praw człowieka.
Choć niezwykle trudne do zdefiniowania, praworządność obejmuje zbiór wartości niezbędnych w społeczeństwie demokratycznym: przejrzysty i pluralistyczny proces stanowienia prawa; rozdział władzy oraz kontrola i równowaga; niezależne, bezstronne sądy i możliwość dostępu do nich; oraz niedyskryminacja i równość wobec prawa.
Biorąc pod uwagę coraz większą integrację sztucznej inteligencji z sektorem prywatnym i publicznym, potrzebujemy solidnych zabezpieczeń chroniących sam fundament, na którym stoi nasza Unia: niewłaściwe wykorzystanie systemów sztucznej inteligencji stanowi poważne zagrożenie dla praworządności i demokracji.
W państwach członkowskich, w których te zasady się wahają, luki regulacyjne można wykorzystać do osłabienia instytucji i procesów demokratycznych oraz praworządności.
Ustawa o sztucznej inteligencji daje szansę na stworzenie solidnego, bezpiecznego otoczenia regulacyjnego opartego na prawach podstawowych oraz rządach opartych na standardach i gwarancjach prawnych.
Właściwy nadzór nad sztuczną inteligencją wykorzystywaną w systemach wymiaru sprawiedliwości
Najważniejszym elementem tych zabezpieczeń jest włączenie obowiązkowych ocen skutków dla praw podstawowych.
Są one uwzględnione w uchwalonej przez Parlament Europejski wersji ustawy o sztucznej inteligencji i konieczne jest, aby znalazły się w ostatecznym tekście tej ustawy.
Te oceny wpływu na prawa podstawowe są niezbędne, aby zapewnić zgodność technologii sztucznej inteligencji i ich wdrażania z zasadami sprawiedliwości, rozliczalności i uczciwości.
Wykraczając jednak dalej, do ocen skutków należy dodać standardy w zakresie praworządności wraz z ustrukturyzowanymi ramami umożliwiającymi ocenę potencjalnego ryzyka, uprzedzeń i niezamierzonych konsekwencji wdrożenia sztucznej inteligencji.
Oprócz samej identyfikacji potencjalnych ryzyk, mogą one obejmować strategie łagodzenia, okresowe przeglądy i aktualizacje.
Umożliwia to również reagowanie na naruszenia praworządności wynikające ze stosowania sztucznej inteligencji przy użyciu wszelkich środków dostępnych UE – na przykład gdy mają one miejsce w systemach wymiaru sprawiedliwości w sprawach karnych, z których wiele wykorzystuje sztuczną inteligencję do zautomatyzowanych procesów decyzyjnych w celu ograniczenia obciążenie i presja czasowa sędziów.
Aby jednak zapewnić niezależność sądów, prawo do sprawiedliwego procesu i przejrzystość, sztuczna inteligencja wykorzystywana w systemach wymiaru sprawiedliwości musi podlegać odpowiedniemu nadzorowi i być zgodna z praworządnością.
Ryzyko profilowania i nielegalnej inwigilacji
Co ważne, prawodawcy powinni położyć podwaliny pod właściwą ochronę praworządności w ustawie o sztucznej inteligencji, pomijając ogólne wyłączenie dotyczące bezpieczeństwa narodowego.
Systemy sztucznej inteligencji opracowane lub wykorzystywane do celów bezpieczeństwa narodowego muszą być objęte zakresem ustawy; w przeciwnym razie państwo członkowskie mogłoby z łatwością je wykorzystać – na przykład do publicznego nadzoru lub analizy ludzkich zachowań – po prostu powołując się na wyjątek w zakresie bezpieczeństwa narodowego.
Skandal związany z oprogramowaniem szpiegowskim Pegasus, podczas którego dziennikarze, obrońcy praw człowieka i politycy byli inwigilowani przez własne rządy, pokazuje wyraźną potrzebę zadbania o to, aby systemy opracowane lub wykorzystywane do celów bezpieczeństwa narodowego nie były wyłączone z zakresu ustawy o sztucznej inteligencji.
Co więcej, bezpieczeństwo narodowe może oznaczać różne rzeczy w całej UE, w zależności od prawa państw członkowskich.
Profilowanie obywateli w oparciu o interesy rządów krajowych spowodowałoby nierówność w całej UE, stwarzając równe zagrożenie zarówno dla praworządności, jak i praw podstawowych.
Żadnych ogólnych wyjątków
W obliczu zbliżających się wyborów w Polsce i do Parlamentu Europejskiego nie ma wątpliwości, że sztuczna inteligencja może i będzie wykorzystywana do kierowania do indywidualnych osób spersonalizowanych komunikatów, w tym do szerzenia dezinformacji, co może zniekształcić skądinąd uczciwe wybory.
Z drugiej strony narzędzia sztucznej inteligencji zostaną wdrożone do sprawdzania faktów, blokowania botów i treści, a także identyfikowania farm trolli. Techniki te muszą być przejrzyste, aby zapobiec niewłaściwemu użyciu lub nadużyciu władzy.
Konieczność wyraźnego powiązania praworządności z ustawą o sztucznej inteligencji jest jasna, podobnie jak znaczenie nakazania ocen skutków uwzględniających zarówno prawa podstawowe, jak i praworządność – bez ogólnego wyjątku w przypadku zastosowań związanych z bezpieczeństwem narodowym.
Sztuczna inteligencja jest częścią codziennego życia na niezliczone sposoby, a sposób, w jaki zdecydujemy się ją regulować, będzie kształtował nasze społeczeństwa.
Prawodawcy UE muszą skorzystać z tej okazji, aby stworzyć prawo, które wykorzysta możliwości sztucznej inteligencji, nie podważając ochrony naszych praw ani praworządności.
