Chociaż działacze na rzecz praw obywatelskich od dawna wzywają do całkowitego zakazu, niektórzy prawodawcy UE mogą postrzegać ustawę o sztucznej inteligencji jako okazję do stwierdzenia, że postępują zgodnie z prawami (człowieka) – a w rzeczywistości postępują odwrotnie, pisze Ella Jakubowska.
W czerwcu 2023 r. Parlament Europejski przeszedł do historii, głosując za całkowitym zakazem rozpoznawania twarzy na żywo w przestrzeni publicznej.
Dzięki nowej ustawie o sztucznej inteligencji UE może powstrzymać firmy i władze przed traktowaniem nas wszystkich jak chodzących kodów kreskowych. Jednak presja ze strony rządów UE grozi przekształceniem tej możliwości w przedmiot koszmarów George’a Orwella.
Od późnego lata 2023 r. rządy i parlamentarzyści UE dążą do osiągnięcia porozumienia w sprawie ustawy o sztucznej inteligencji (AI). Ta przełomowa ustawa obiecała, że UE stanie się światowym liderem w zakresie równoważenia innowacji w zakresie sztucznej inteligencji z ochroną, ale rzeczywistość jest mniej optymistyczna.
Przez cały listopad prawodawcy UE debatują nad tym, jak dużą swobodę dać policji w zakresie korzystania z publicznego rozpoznawania twarzy.
Pomimo tego, że systemy te są powiązane z łamaniem praw człowieka na całym świecie i zostały niedawno potępione przez Amnesty International za ułatwianie izraelskiego systemu ucisku wobec Palestyńczyków, zaangażowanie Parlamentu Europejskiego na rzecz wprowadzenia rygorystycznego zakazu jest zagrożone.
Utowarowienie i nadużywanie naszych najbardziej wrażliwych danych
W ostatniej dekadzie informacje o każdym aspekcie naszej istoty fizycznej – twarzach, odciskach palców i oczach praktycznie każdej osoby na świecie – stały się powszechną walutą.
Informacje te — zwane danymi biometrycznymi — to matematyczna reprezentacja najdrobniejszych i najbardziej intymnych szczegółów oraz cech, które składają się na to, kim jesteśmy. Żywotność różnic międzyludzkich sprowadza nas zbiorowo do ciągu jedynek i zer.
W ostatnich latach dane biometryczne były wykorzystywane do inwigilacji i monitorowania ludzi, począwszy od prób tłumienia i zastraszania prodemokratycznych demonstrantów w Hongkongu i Rosji po prześladowanie społeczności czarnoskórych w USA.
Nawet pozornie przyziemne zastosowania, takie jak krajowe dokumenty tożsamości, w rzeczywistości okazały się świetnymi narzędziami dla systemów skanujących twarze i ciała ludzi bez uzasadnionej przyczyny – co jest równoznaczne z masową inwigilacją biometryczną.
Chociaż UE przedstawia się jako latarnia morska demokracji i praw człowieka, oczywiście nie jest odporna na praktyki równoznaczne z masową inwigilacją biometryczną.
Węzły komunikacyjne w Niemczech i Belgii, protestujący w Austrii, ludzie spędzający dzień w Czechach, śpiący pod gołym niebem we Włoszech i wiele, wiele innych osób zostało poddanych publicznemu inwigilacji opartej na rozpoznawaniu twarzy.
Niedawno Francja jasno wyraziła swoje aspiracje w zakresie masowej inwigilacji biometrycznej, uchwalając ustawę mającą na celu wprowadzenie zautomatyzowanych systemów nadzoru do użytku podczas nadchodzących igrzysk olimpijskich i paraolimpijskich.
Wilk w owczej skórze
Obrońcy praw człowieka od dawna argumentują, że wykorzystywanie twarzy i ciał ludzi do identyfikacji i śledzenia ich na dużą skalę jest już sprzeczne z unijnym prawem dotyczącym praw człowieka i ochrony danych.
Zarówno w trybie na żywo, jak i z mocą wsteczną, notorycznie zawodne i dyskryminujące publiczne rozpoznawanie twarzy w ogromnym stopniu narusza nasze prawa człowieka i podstawową godność.
Jednak stosowanie takich systemów – często pod niejasnymi twierdzeniami o „bezpieczeństwie publicznym” – jest powszechne, a zabezpieczenia prawne przed nimi są niejednolite i stosowane niekonsekwentnie.
Branża nadzoru AI prawie powiedziała prawodawcom: „Ze względów bezpieczeństwa narodowego nie możemy ujawnić dowodów na to, że te systemy działają, ale możemy zapewnić, że tak”. Co gorsza, wydaje się, że prawodawcy wierzą w to na słowo.
Chociaż działacze na rzecz praw obywatelskich od dawna wzywali do całkowitego zakazu, niektórzy prawodawcy UE mogą postrzegać ustawę o sztucznej inteligencji jako okazję do stwierdzenia, że postępują zgodnie z prawami (człowieka) – a w rzeczywistości postępują odwrotnie.
Według doniesień mediów z Brukseli, pomimo wcześniejszych zobowiązań do zakazania praktyk masowej inwigilacji biometrycznej, Parlament Europejski rozważa obecnie „wąskie” wyjątki od zakazu rozpoznawania twarzy i innych cech ludzkich na żywo.
Nie wystarczy całkowity zakaz w ustawie o sztucznej inteligencji
Ale sedno tej kwestii polega na tym, że nie można pozwolić na choćby odrobinę masowego nadzoru biometrycznego bez otwierania śluz.
Nie jest to hipotetyczne: korzystając z rzekomo „wąskich” wyjątków zapisanych w projekcie ustawy o sztucznej inteligencji przez organ wykonawczy UE, rząd Serbii dwukrotnie próbował zalegalizować wprowadzenie na rynek tysięcy kamer wyposażonych w funkcję rozpoznawania twarzy Huawei.
Jeśli unijna ustawa o sztucznej inteligencji dopuszcza wyjątki, które umożliwiłyby krajom UE korzystanie z nieukierunkowanego publicznego rozpoznawania twarzy, wkrótce będziemy walczyć z przepisami dotyczącymi masowej inwigilacji biometrycznej we wszystkich dwudziestu siedmiu krajach UE.
Jedną z podstaw użycia, która podobno jest uważana za wyjątek od zakazu, jest poszukiwanie osób podejrzanych lub skazanych za poważne przestępstwa. Jednak po prostu nie da się tego zrobić bez skanowania cech wszystkich osób w przestrzeni publicznej, co, jak wykazały badania, ma poważny wpływ mrożący na demokracje.
Istnieją również poważne pytania dotyczące konieczności. Jeśli naprawdę zachodzi pilna sytuacja, czy ryzykowna i zawodna technologia, taka jak rozpoznawanie twarzy, rzeczywiście pomoże?
Choć prasa brukselska zauważa, że Parlament Europejski chciałby dodania zabezpieczeń, niewiele mogą one zrobić, aby ludzie nie musieli oglądać się przez ramię, gdziekolwiek się udają. Nie można zagwarantować naruszenia podstawowego prawa człowieka.
Wolność czy masowa inwigilacja?
UE jest o krok od ogromnego osiągnięcia — ustawy o sztucznej inteligencji, która naprawdę stawia ludzi w centrum uwagi.
Jeśli jednak zostanie to zrobione źle, znajdziemy się nad przepaścią prawa, które mówi całemu światu, że UE przedkłada przemysł nadzoru nad ludzi i społeczności.
Władze będą mogły wykorzystywać wyjątki od publicznego rozpoznawania twarzy, aby uzasadnić niemal stałe korzystanie z tych systemów.
A infrastruktura masowej inwigilacji — rozległe sieci publicznych kamer i czujników wspieranych przez potężne procesory — będzie gotowa i będzie na nas czekać po naciśnięciu jednego przycisku.
Nie musisz już uśmiechać się do aparatu — zostaniesz uchwycony, czy ci się to podoba, czy nie.
