Technologia rozpoznawania twarzy powinna być regulowana, ale nie zakazana

W przeszłości Komisja Europejska udowodniła, że ​​jest skutecznym organem regulacyjnym. Całkowity zakaz FRT w organach ścigania przyniesie korzyści tylko przestępcom, piszą Tony Porter i dr Nicole Benjamin Fink.

Unijna ustawa o sztucznej inteligencji pokonała poważną przeszkodę w połowie czerwca, kiedy prawodawcy z bloku zapalili zielone światło na to, jakie będą pierwsze na świecie przepisy dotyczące sztucznej inteligencji.

Ale jedna propozycja się wyróżnia: całkowity zakaz technologii rozpoznawania twarzy lub FRT.

Jeśli ta zasada zostanie pozostawiona, zawiąże oczy stróżom prawa, którzy wykonują kluczową pracę, aby chronić najsłabszych w społeczeństwie. Ośmieli to grupy przestępcze, takie jak te, które handlują dziką fauną i florą oraz ofiarami ludzkimi, narażając w ten sposób życie.

Wszystkie możliwości inwigilacji naruszają w pewnym stopniu prawa człowieka. Pytanie brzmi, czy możemy skutecznie regulować korzystanie z FRT, aby złagodzić jakikolwiek wpływ na te prawa.

Ochrona prywatności a ochrona ludzi to równowaga, którą unijni prawodawcy mogą i muszą zachować. Całkowity zakaz jest łatwą, ale nie odpowiedzialną opcją.

Obawy dotyczące prywatności powinny zostać zweryfikowane w rzeczywistości

Posłowie do PE głosowali przeważającą większością głosów za zakazem używania FRT na żywo w miejscach publicznie dostępnych i podobnym zakazem używania FRT „po zakończeniu imprezy”, chyba że uzyskano nakaz sądowy.

Teraz uwaga przesunęła się bez wątpienia na gorące negocjacje trójstronne między Parlamentem Europejskim, Radą Europejską i państwami członkowskimi.

Zasadniczo FRT wykorzystuje kamery obsługiwane przez algorytmy sztucznej inteligencji do analizy rysów twarzy danej osoby, potencjalnie umożliwiając władzom dopasowanie osób do bazy danych z wcześniej istniejącymi obrazami w celu ich identyfikacji.

Działacze na rzecz ochrony prywatności od dawna argumentują, że potencjalne korzyści płynące z korzystania z takich technologii nie są warte negatywnego wpływu na prawa człowieka. Ale wiele z tych argumentów nie wytrzymuje kontroli. w rzeczywistości opierają się na ostatecznie obalonych mitach.

Po pierwsze, technologia jest niedokładna i nieproporcjonalnie niekorzystna dla osób kolorowych.

Mogło tak być w przypadku bardzo wczesnych iteracji tej technologii, ale z pewnością nie jest tak dzisiaj. Na przykład Corsight został porównany przez amerykański Narodowy Instytut Standardów i Technologii (NIST) z dokładnością na poziomie 99,8%.

Oddzielnie raport NIST z 2020 r. stwierdził, że FRT działa znacznie skuteczniej w grupach rasowych i innych grupach demograficznych niż powszechnie opisywane, przy czym najdokładniejsze technologie wyświetlają „niewykrywalne” różnice między grupami.

Fałszywie twierdzi się również, że FRT jest nieskuteczny. W rzeczywistości Interpol powiedział w 2021 r., że od 2016 r. był w stanie zidentyfikować prawie 1500 terrorystów, przestępców, zbiegów, osoby będące przedmiotem zainteresowania i osoby zaginione za pomocą FRT. Oczekuje się, że liczba ta wzrosła wykładniczo od tego czasu.

Ostateczny mit, że FRT narusza prawa człowieka zapisane w Europejskiej Konwencji o tej samej nazwie, został skutecznie obalony przez Sąd Apelacyjny w Londynie. W tej sprawie z 2020 r. sędziowie orzekli, że skanowanie twarzy i natychmiastowe usuwanie danych, jeśli nie można znaleźć dopasowania, ma znikomy wpływ na prawa człowieka.

Chodzi o zatrzymanie handlarzy

Z drugiej strony, jeśli jest używany zgodnie z surowymi przepisami, wysokiej jakości FRT może ocalić niezliczone życia i chronić ludzi i społeczności przed krzywdą.

Handel ludźmi to handel nieszczęściem, który umożliwia wykorzystywanie seksualne, pracę przymusową i inne haniebne przestępstwa. Szacuje się, że dotyka dziesiątki milionów osób na całym świecie, w tym dzieci.

Ale jeśli zdjęcia twarzy znanych ofiar lub handlarzy zostaną uchwycone przez kamerę, policja może zostać zaalarmowana w czasie rzeczywistym, aby wkroczyć.

Biorąc pod uwagę, że handlarze zwykle bardzo się starają, aby ukryć swoją tożsamość, a ofiary — zwłaszcza dzieci — rzadko posiadają oficjalne dokumenty tożsamości, FRT oferuje rzadką okazję, by coś zmienić.

Handel dziką fauną i florą jest podobnie tajny. Jest to globalny handel szacowany wiele lat temu na 20,9 miliarda euro – czwarta co do wielkości nielegalna działalność na świecie po handlu bronią, narkotykami i ludźmi.

Ponieważ większość handlu jest prowadzona przez syndykaty przestępcze online, istnieje potencjalny ślad dowodowy, jeśli śledczy mogą dopasować wizerunki twarzy zwierząt będących przedmiotem handlu do zdjęć opublikowanych później w mediach społecznościowych.

Kupujących można następnie zapytać, od kogo nabyli określone zwierzę. Pojawiają się już aplikacje, które pomagają w ten sposób śledzić handlarzy dziką fauną i florą.

Jest lepsza droga naprzód

Biorąc pod uwagę to, o co toczy się gra, europejscy prawodawcy powinni zastanowić się nad sposobami wykorzystania technologii, która okazała się pomocna w zmniejszaniu szkód społecznych – ale w sposób, który zmniejsza ryzyko dla praw człowieka.

Dobrą wiadomością jest to, że można to zrobić za pomocą odpowiednich poręczy regulacyjnych. W rzeczywistości unijna ustawa o sztucznej inteligencji zapewnia już do tego doskonałą podstawę, proponując standard doskonałości dla technologii sztucznej inteligencji, do którego można by zastosować FRT.

Opierając się na tym, FRT należy zachować jako narzędzie operacyjne wszędzie tam, gdzie istnieje „znaczące” ryzyko dla społeczeństwa i uzasadniona podstawa do ochrony obywateli przed krzywdą.

Jej stosowanie powinno zawsze być konieczne i proporcjonalne do tej pilnej potrzeby oraz podlegać rygorystycznej ocenie pod kątem przestrzegania praw człowieka.

Należy oczywiście zastosować niezależny nadzór etyczny i regulacyjny oraz ustanowić scentralizowany organ nadzorczy. Należy również opublikować jasne zasady określające szczegóły proponowanego wykorzystania.

Należy zasięgnąć opinii społeczności, których to dotyczy, i opublikować dane szczegółowo opisujące powodzenie lub niepowodzenie rozmieszczenia oraz oceny praw człowieka.

W przeszłości Komisja Europejska udowodniła, że ​​jest skutecznym organem regulacyjnym. Uporządkujmy więc FRT. Całkowity zakaz przyniesie korzyści tylko przestępcom.