Nagie, fałszywe zdjęcia nastolatek szokują hiszpańskie miasto: ale czy jest to przestępstwo AI?

Ponad 20 dziewcząt w Hiszpanii zgłosiło, że otrzymuje swoje nagie zdjęcia wygenerowane przez sztuczną inteligencję. Ale czy deepfakes mogą być prawnie karane?

Kiedy wróciły do ​​szkoły po wakacjach, ponad dwadzieścia dziewcząt z Almendralejo, miasta w południowej Hiszpanii, otrzymało na swoje telefony komórkowe swoje nagie zdjęcia.

Żaden z nich nie robił zdjęć, ale wyglądały zupełnie realistycznie.

Zdjęcia zostały skradzione z ich kont na Instagramie, zmienione przy użyciu aplikacji sztucznej inteligencji, a następnie udostępnione w grupach Whatsapp.

Nastolatki były w pełni ubrane na prawdziwych zdjęciach, ale aplikacja sprawiła, że ​​nagość wyglądała zupełnie realistycznie.

Teraz rodzice i prokuratorzy zadają sobie pytanie, czy doszło do przestępstwa, nawet jeśli zdjęcia są rzeczywiście prawdziwe – czy można je uznać za pornografię dziecięcą?

„Montaże są niezwykle realistyczne, są bardzo niepokojące i stanowią prawdziwe oburzenie” – napisała na swoim koncie na Instagramie Miriam Al Adib, jedna z matek dziewcząt.

„Moja córka powiedziała mi z wielkim obrzydzeniem: «Mamo, zobacz, co mi zrobili»” – dodała.

Al Adib twierdził nawet, że zdjęcia mogły trafić do portali internetowych typu Onlyfans czy stron pornograficznych. Przez cały czas dziewczęta znosiły komentarze swoich kolegów z klasy.

„Nie narzekaj, dziewczyny przesyłają zdjęcia, na których prawie widać ich p***” – powiedziano jednej z dziewcząt.

Najmłodsza z dziewcząt ma zaledwie 11 lat i nie uczęszcza jeszcze do szkoły średniej.

Inna matka, Fátima Gómez, powiedziała Extremadura TV, że jej córka była szantażowana.

W rozmowie z chłopcem w mediach społecznościowych poprosił ją o pieniądze, a gdy odmówiła, wysłał jej nagie zdjęcie.

Matki zorganizowały się, aby złożyć skargę w związku z tym, co się stało, a Policja Krajowa wszczęła dochodzenie i zidentyfikowała już kilkoro nieletnich rzekomo zamieszanych w tę sytuację.

Część z nich to koleżanki z klasy dziewcząt – ujawnił lokalny polityk.

Sprawa została przekazana do Prokuratury dla Nieletnich, a sam burmistrz miasta przestrzegł: „Być może zaczęło się to od żartu, ale konsekwencje są znacznie poważniejsze i mogą mieć poważne konsekwencje dla tych, którzy zrobili te zdjęcia”.

10 euro za 25 nagich zdjęć

Hiperrealistyczne kreacje sztucznej inteligencji, lepiej znane jako deepfake, powstały za pomocą aplikacji ClothOff.

Pod hasłem „Rozbierz każdego, rozbierz dziewczyny za darmo” aplikacja pozwala użytkownikom rozbierać się każdemu, kto pojawi się w galerii zdjęć w ich telefonie. Stworzenie 25 nagich zdjęć kosztuje 10 euro.

Chociaż nagość nie jest prawdziwa, matki twierdzą, że zdenerwowanie dziewcząt na widok ich zdjęć jest rzeczywiście bardzo realne.

„Nie jesteś świadoma szkód, jakie wyrządziłaś tym dziewczynom, a także nie jesteś świadoma przestępstwa, które popełniłaś” – stwierdziła Al Adib na swoim koncie na Instagramie w wiadomości skierowanej do osób, które udostępniły zdjęcia.

„Jedna z nich powiedziała mojej córce, że zrobił «coś» z jej zdjęciem” – powiedziała inna z matek hiszpańskiej gazecie El País.

Ale czy deepfakes mogą być prawnie karane?

„Jedno pytanie brzmi, czy powinno to zostać ukarane, a drugie, czy można to ukarać na podstawie sposobu, w jaki jest opracowywane prawo w Hiszpanii i innych krajach UE” – powiedział TylkoGliwice Manuel Cancio, profesor prawa karnego na Uniwersytecie Autonomicznym w Madrycie.

Profesor zwraca uwagę, że istnieje luka prawna, ponieważ wykorzystywanie twarzy nieletnich na zdjęciach narusza ich prywatność, natomiast w przypadku przestępstw polegających na rozpowszechnianiu intymnych zdjęć, prywatność narusza obraz jako całość.

„Ponieważ jest ono generowane przez deepfake, nie ma to wpływu na rzeczywistą prywatność danej osoby. Wpływ, jaki wywiera (na ofiarę), może być bardzo podobny do prawdziwego nagiego zdjęcia, ale prawo jest o krok w tyle” – dodaje. .

Cancio twierdzi, że ramy prawne, które mogłyby sprawdzić się w tym przypadku, stanowiłyby przestępstwo przeciwko uczciwości moralnej, „rodzaj skrzynki na wypadek katastrofy na przestępstwa, której nikt nie wie, gdzie umieścić”.

W marcu 2022 r. Komisja Europejska zaproponowała kryminalizację tego typu przestępstw w dyrektywie o cyberprzestępczości. Zdaniem profesora holenderski kodeks karny jako jedyny zawiera przepis regulujący tę kwestię.

Czy można to uznać za pornografię dziecięcą?

Eksperci są podzieleni co do tego, czy przestępstwo to można uznać za rozpowszechnianie pornografii dziecięcej, co groziłoby wyższą karą, i wolą zachować szczególną ostrożność.

Dla Leandro Núñeza, prawnika specjalizującego się w nowych technologiach w kancelarii Audens, kluczowe jest nie to, czy zdjęcie jest w 100% prawdziwe, ale to, czy na takie wygląda.

„Najważniejsze jest to, czy twarz jest możliwa do zidentyfikowania. Możemy mówić o dziecięcej pornografii, przestępstwach przeciwko moralności lub rozpowszechnianiu zdjęć przedstawiających treści seksualne bez zgody” – powiedział TylkoGliwice prawnik.

„W przypadku przestępstwa przeciwko integralności moralnej byłoby ono uznawane za mniejsze przestępstwo, dlatego groziłaby niższa kara od sześciu miesięcy do dwóch lat więzienia” – dodaje.

Inni eksperci, jak np. Eloi Font, prawnik w kancelarii Font Advocats specjalizującej się w prawie cyfrowym, uważają, że można to zaliczyć do przestępstwa na wzór reprodukcji wizerunków seksualnych nieletnich.

W takim przypadku kara może wynosić od pięciu do dziewięciu lat więzienia.