Parlament Europejski przyjął we wtorek swój projekt stanowiska w sprawie planów zwalczania niegodziwego traktowania dzieci w celach seksualnych w internecie, wzywając, aby w nowych przepisach UE unikano „masowej inwigilacji” lub „skanowania” Internetu.
Przeważająca większość 51 z 54 członków Komisji Sprawiedliwości ze wszystkich grup politycznych poparła to stanowisko w następstwie procesu, który główny negocjator Javier Zarzalejos określił jako „delikatny, złożony i kontrowersyjny”.
Zanim będzie można rozpocząć negocjacje z państwami członkowskimi UE, stanowisko komisji musi zostać zatwierdzone na posiedzeniu plenarnym w przyszłym tygodniu.
W maju 2022 r. Komisja Europejska zaproponowała wykorzystanie nowych technologii do kompleksowego skanowania zaszyfrowanych wiadomości na platformach takich jak Whatsapp firmy Meta w celu wykrywania, zgłaszania i usuwania materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM).
Propozycja wywołała zawziętą awanturę, w której lobby zajmujące się ochroną prywatności wystąpiło przeciwko obrońcom praw dziecka, a komisarz UE do spraw wewnętrznych Ylva Johansson odpowiedziała na zarzuty dotyczące niewłaściwego wywierania wpływu.
Krytycy powoływali się na poważne naruszenie naszych podstawowych praw do prywatności w Internecie, a także obawiali się, że technologie nie są wystarczająco dojrzałe, aby wykryć CSAM bez fałszywego oznaczania milionów legalnych treści i niesłusznego obciążania użytkowników.
Projekt kompromisu parlamentu nakłada na platformy cyfrowe obowiązek ograniczania ryzyka związanego z wykorzystywaniem ich usług do wykorzystywania seksualnego w internecie i do uwodzenia dzieci. Umożliwia także organom sądowym wydawanie platformom cyfrowym tzw. „nakazów wykrycia”, zobowiązując je do korzystania z nowych technologii – takich jak tzw. wieczysta funkcja skrótu – w celu wykrywania materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM). Jednak w przeciwieństwie do propozycji Komisji nakazy te musiałyby być ukierunkowane, ograniczone w czasie i stosowane jako „ostatnia deska ratunku”, w przypadku gdy istnieją „uzasadnione podstawy do podejrzeń”.
W rozmowie z TylkoGliwice po głosowaniu Zarzalejos zapewnił, że parlamentowi udało się balansować na granicy między ochroną dzieci w Internecie a jednocześnie ochroną podstawowego prawa do prywatności cyfrowej.
„Chodzi o znalezienie właściwej równowagi między ochroną dzieci, a jednocześnie zapewnienie ram prawnych zapewniających prywatność i ochronę danych” – stwierdził Zarzalejos. „To wiąże się z pewną złożonością z prawnego punktu widzenia, ale także z uwagi na inwazyjność technologii, które należy zastosować w celu wykrywania i usuwania materiałów przedstawiających wykorzystywanie seksualne dzieci”.
„Ta równowaga została osiągnięta. Myślę, że szerokie poparcie, jakie uzyskał ten dokument, bardzo mówi o duchu kompromisu i wadze, jaką wszystkie grupy polityczne przywiązały do tego wniosku” – dodał.
Parlament poparł także propozycję utworzenia UE Centrum Ochrony Dziecka, które miałoby pomóc we wdrażaniu nowych przepisów we współpracy z właściwymi organami krajowymi i Europolem, unijnym organem ścigania z siedzibą w Hadze.
Centrum pomagałoby w opracowywaniu technologii wykrywania, prowadzeniu dochodzeń i, w razie potrzeby, nakładaniu kar na platformy.
Posłowie do PE zaproponowali także utworzenie nowego forum konsultacyjnego, aby zapewnić, że głosy ofiar zostaną wysłuchane.
„Centrum UE będzie niezwykle ważne jako instytucja kluczowa i po raz pierwszy ofiary i osoby, które przeżyły, zostaną uznane na forum konsultacyjnym w Centrum Europejskim. Myślę zatem, że ogólnie rzecz biorąc, niniejsze dossier zapewni niezbędne narzędzia aby było ono zgodne z prawem i jednocześnie skuteczne” – stwierdził Zarzalejos.
„Ukierunkowane” rozkazy wykrywania
Bardzo kwestionowane nakazy wykrywania zawarte we wniosku Komisji zobowiązałyby usługi przesyłania wiadomości cyfrowych do wdrożenia technologii skanowania po stronie klienta (CSS) w celu uzyskania dostępu do zaszyfrowanych wiadomości użytkowników.
W potępiającej opinii na temat wniosku opublikowanej w maju ubiegłego roku służba prawna Rady UE wyraziła „poważne wątpliwości prawne” dotyczące nakazów wykrycia i ich potencjalnej „poważnej ingerencji w prawa podstawowe” zapisane w prawie UE.
Projekt stanowiska parlamentu wzywa do wyłączenia szyfrowanej komunikacji z zakresu nakazów wykrywania. Jak czytamy w kompromisowym tekście, technologia CSS zagraża „integralności i poufności” szyfrowanej komunikacji.
Posłowie do PE znacznie ograniczyli także zakres nakazów wykrycia do nakazów wydawanych przez sąd w sytuacjach uzasadnionych podejrzeń.
Europejska grupa ds. praw cyfrowych EDRi, która stanowczo sprzeciwiła się wnioskowi Komisji, z radością przyjęła kompromis parlamentu.
„Posłowie do Parlamentu Europejskiego ds. swobód obywatelskich słusznie uznali, że nikt nie będzie bezpieczny w Internecie, jeśli UE złamie szyfrowanie” – powiedziała Ella Jakubowska, starszy doradca ds. polityki w EDRi.
„To kluczowy krok w kierunku zapewnienia, że regulacje dotyczące Internetu będą opierać się na dowodach oraz rzeczywistości prawnej i technicznej, a nie na obietnicach firm zajmujących się sztuczną inteligencją” – dodała Jakubowska.
Jednak obrońcy praw dzieci zarzucają parlamentowi krótkowzroczność w osłabianiu ambicji Komisji. Według ECPAT International – globalnej platformy mającej na celu położenie kresu wykorzystywaniu seksualnemu dzieci – ograniczenie nakazów wykrycia do wybranych podejrzanych umożliwi sprawcom dalsze wykorzystywanie pod radarem organów ścigania.
Amy Crocker, dyrektor ds. ochrony dzieci i technologii w ECPAT, stwierdziła, że projekt stanowiska parlamentu stanowi „niepokojący krok w stronę bezpieczeństwa dzieci w Internecie”.
„Jest to jaskrawo sprzeczne z oczekiwaniami obywateli Europy, a co ważniejsze, aktywnie podważa bezpieczeństwo naszych dzieci w przestrzeni cyfrowej. Jest to decyzja, która przedkłada biurokrację nad dobro dzieci” – stwierdziła.
Pielęgnacja może pozostać niezauważona
Aby stawić czoła uwodzeniu nieletnich w Internecie, posłowie do PE poparli we wtorek wezwanie, aby usługi cyfrowe skierowane do dzieci wymagały zgody użytkownika na niechciane wiadomości, zapewniały opcje blokowania i wyciszania oraz zwiększały kontrolę rodzicielską.
Komisja chciała jednak pójść dalej i wykorzystać modele językowe oparte na sztucznej inteligencji do wykrywania wzorców zachowań, które mogą stanowić uwodzenie dziecka w celu łapania internetowych drapieżników.
ECPAT stwierdził: „Decyzja o niewykrywaniu uwodzenia oznacza, że w pierwszej kolejności rezygnujemy z możliwości zapobiegania przyszłym szkodom”.
Z nowego raportu opublikowanego w październiku przez WeProtect Global Alliance wynika, że platformy gier społecznościowych stają się nowym, niebezpiecznym środowiskiem interakcji między dorosłymi a dziećmi, w którym rozmowy mogą przerodzić się w ryzykowne sytuacje pielęgnacyjne w ciągu zaledwie 19 sekund, przy średnim czasie pielęgnacji wynoszącym 45 minut.
Jednak według Zarzałejosa nowe środki ograniczające ryzyko dla platform pomogą chronić dzieci przed takimi zagrożeniami.
„Pozwólcie, że wyjaśnię, że pielęgnacja wchodzi w zakres rozporządzenia. Zostaną wprowadzone środki łagodzące, w szczególności mające na celu zapobieganie pielęgnacji” – powiedział.
„Jedyna zmiana, na którą zgodziliśmy się, to usunięcie uwodzenia z audytu wykrywania” – dodał.
