Czy unijna ustawa o sztucznej inteligencji mogłaby ulepszyć systemy masowej inwigilacji?

Stosowanie technologii rozpoznawania twarzy może wzrosnąć w całej Unii Europejskiej pomimo wysiłków zmierzających do uregulowania tej technologii na mocy obowiązującej w całym bloku ustawy o sztucznej inteligencji.

W grudniu ubiegłego roku unijni negocjatorzy osiągnęli wstępne porozumienie w sprawie ustawy o sztucznej inteligencji, która jest pierwszą na świecie próbą uregulowania powstającej technologii, która obejmuje nowe zasady stosowania systemów identyfikacji biometrycznej, takich jak rozpoznawanie twarzy.

Organizacje społeczeństwa obywatelskiego obawiają się jednak, że w planowanym prawie występują luki.

„Postawili policji bardzo szerokie warunki korzystania z tych systemów. Obawiamy się, że będzie to miało skutek legitymizujący” – powiedziała Ella Jakubowska z Reclaim Your Face, koalicji wzywającej do zakazania masowej inwigilacji biometrycznej.

Jakubowska twierdzi, że dotychczas „można było rzucić wyzwanie” tym systemom i argumentować, że nie są one pożądane „w społeczeństwie demokratycznym”. Obawia się, że teraz będzie trudniej je odrzucić i z większym prawdopodobieństwem zostaną przyjęte przez inne kraje na całym świecie pod wrażeniem, że uzyskały aprobatę UE.

Nowe rozporządzenie, które oczekuje na ostateczne zatwierdzenie przez Radę UE i Parlament Europejski, ustaliłoby inne warunki bezpośredniego lub zdalnego korzystania z systemów rozpoznawania twarzy. W obu przypadkach podlegałoby to zezwoleniu sądowemu i byłoby dostępne jedynie w określonych kontekstach.

Używanie na żywo powinno być ograniczone w czasie i przestrzeni oraz koncentrować się na zapobieganiu konkretnym zagrożeniom terrorystycznym, identyfikacji podejrzanych o przestępstwa takie jak terroryzm, handel ludźmi lub porwania, lub przewidywaniu ataku terrorystycznego.

W przypadku użycia zdalnego skupiałby się na lokalizacji osób skazanych lub podejrzanych o popełnienie poważnego przestępstwa.

Parlament i państwa członkowskie ścierają się

Parlament Europejski wzywał do całkowitego zakazu rozpoznawania twarzy, ale złagodził czerwoną linię w odpowiedzi na żądania takich krajów jak Francja.

Paryż należał do stolic, które najmocniej forsowały wyjątki umożliwiające szersze zastosowanie. Zapowiedziała nawet wykorzystanie sztucznej inteligencji do monitorowania podejrzanych działań podczas Igrzysk Olimpijskich w 2024 r., które odbędą się w tym kraju.

Organizacje zajmujące się prawami cyfrowymi potępiają ustawodawstwo za to, że nie położyło kresu masowej inwigilacji. „Możemy się spodziewać potencjalnego wzrostu wykorzystania systemów rozpoznawania twarzy w przestrzeni publicznej, zwłaszcza gdy systemy te są wykorzystywane na żywo” – powiedziała Jakubowska.

„Kiedy spacerujesz po przestrzeni publicznej, idziesz do sklepu, do szkoły, do lekarza, na demonstrację” – wyjaśniła – „mogą zostać zwiększone uprawnienia organów ścigania w zakresie korzystania z tej technologii rozpoznawania twarzy na żywo w celu śledzenia Cię w czasie i miejscu, gdziekolwiek się udasz.”

Jednak zdaniem niektórych posłów do Parlamentu Europejskiego ustawa o sztucznej inteligencji zapewnia właściwą równowagę między bezpieczeństwem a prawami obywatelskimi. „Myślę, że to bardzo dobry sposób na zrównoważenie integralności i bezpieczeństwa” – argumentowała Arba Kokalari, eurodeputowana z ramienia centroprawicowej Europejskiej Partii Ludowej (EPP).

„Gdybyśmy zakazali tej techniki, wydarzyłyby się dwie rzeczy. Dlaczego integralność terrorysty miałaby być ważniejsza niż bezpieczeństwo naszych obywateli? Po drugie, technika ta byłaby nadal rozwijana przez inne kraje, a zwłaszcza przez Chiny” powiedział Kokalari.

W piątek kraje UE będą głosować nad ostatecznym tekstem ustawy. Część z nich nie zdecydowała jeszcze, w jaki sposób będą głosować, ale obawy, że ustawodawstwo może upaść, rozwiały się we wtorek, gdy Niemcy ogłosiły, że będą głosować za przyjęciem ustawy. Parlament będzie wówczas musiał zatwierdzić tekst.