Dlaczego wyszukiwania najsłynniejszej gwiazdy popu na świecie są blokowane w X i w jaki sposób sprawa wywołuje zamieszanie prosto w Białym Domu?
Platforma mediów społecznościowych X tymczasowo zablokowała wyszukiwanie nazwiska Taylor Swift po tym, jak w zeszłym tygodniu fałszywe zdjęcia piosenkarki z pornografią generowane przez sztuczną inteligencję stały się wirusowe.
Jedno fałszywe zdjęcie Swifta opublikowane na platformie zostało wyświetlone 47 milionów razy, zanim konto zostało zawieszone.
Materiał został udostępniony dziesiątki tysięcy razy, zanim zespół ds. bezpieczeństwa X odpowiedział: „Mamy politykę zerowej tolerancji wobec takich treści. Nasze zespoły aktywnie usuwają wszystkie zidentyfikowane obrazy i podejmują odpowiednie działania wobec kont odpowiedzialnych za ich publikację”.
Teraz wyszukanie imienia Swifta i „AI Taylor Swift” w X doprowadzi użytkowników do strony z informacją: „Coś poszło nie tak. Spróbuj przeładować.”
Szef operacyjny X, Joe Benarroch, powiedział w oświadczeniu dla Variety: „To działanie tymczasowe i podjęte z dużą ostrożnością, ponieważ w tej kwestii bezpieczeństwo traktujemy priorytetowo”.
Tymczasem Meta oświadczyła w oświadczeniu, że zdecydowanie potępia „treści, które pojawiały się w różnych serwisach internetowych” i podjęła wysiłki, aby je usunąć.
„Nadal monitorujemy nasze platformy pod kątem treści naruszających zasady i w razie potrzeby podejmiemy odpowiednie działania” – oznajmiła firma.
Kolejny dzień w Internecie, ale mówimy o Swifcie, więc sytuacja szybko się nasiliła…
Szybka mobilizacja
Piosenkarz „Swifties” zmobilizował się, rozpoczynając kontrofensywę na platformie znanej wcześniej jako Twitter i używając hashtagu #ProtectTaylorSwift, aby zalać go bardziej pozytywnymi wizerunkami gwiazdy popu.
A potem stawka została podniesiona…
Zaangażował się Biały Dom, który nazwał to wydarzenie „niepokojącym”.
Sekretarz prasowa Białego Domu Karine Jean-Pierre oświadczyła w oświadczeniu: „Wiemy, że luźne egzekwowanie prawa nieproporcjonalnie wpływa na kobiety i, niestety, wpływa również na dziewczęta, które są głównymi celami”.
Jean-Pierre zasugerował nawet, że powinno istnieć prawodawstwo regulujące niewłaściwe wykorzystanie sztucznej inteligencji w mediach społecznościowych.
Gdyby tylko tak szybko zareagowano w przypadku osób niebędących miliarderami, które zgłaszały podobne skargi dotyczące deepfake’ów, obraźliwych fałszywych obrazów, pornografii zemsty i innych form szkodliwego nękania w Internecie…
Mimo to postępuj tam, gdzie możesz, a incydent nieco wstrząsnął sytuacją. Przypominamy, że obecnie w USA nie obowiązują żadne przepisy federalne zabraniające udostępniania lub tworzenia fałszywych obrazów – pomimo pewnych działań na poziomie stanowym mających na celu rozwiązanie tego problemu.
Wady generatywnej sztucznej inteligencji
Federalni prawodawcy, którzy wprowadzili ustawy nakładające więcej ograniczeń lub kryminalizujące fałszywe porno, wskazali, że ten incydent pokazuje, dlaczego Stany Zjednoczone muszą wdrożyć lepsze zabezpieczenia.
„Od lat kobiety są ofiarami deepfake’ów dokonywanych bez ich zgody, więc to, co przydarzyło się Taylor Swift, jest częstsze, niż większość ludzi zdaje sobie sprawę” – powiedziała republikanka USA Yvette D. Clarke, demokratka z Nowego Jorku, która wprowadziła przepisy nakładające na twórców obowiązek cyfrowe treści deepfake ze znakiem wodnym.
„Generatywna sztuczna inteligencja pomaga tworzyć lepsze deepfake za ułamek kosztów” – powiedział Clarke.
Reprezentant USA Joe Morelle, kolejny nowojorski Demokrata forsujący ustawę, która kryminalizuje udostępnianie fałszywego porno w Internecie, powiedział, że to, co przydarzyło się Swiftowi, było niepokojące i staje się coraz bardziej wszechobecne w Internecie.
„Obrazy mogą być fałszywe, ale ich skutki są bardzo realne” – Morelle stwierdziła w oświadczeniu. „Deepfakes zdarzają się codziennie kobietom na całym świecie w naszym coraz bardziej cyfrowym świecie i nadszedł czas, aby położyć im kres”.
Deepfakes wykorzystują sztuczną inteligencję do tworzenia filmu przedstawiającego daną osobę poprzez manipulację jej twarzą lub ciałem.
Badacze twierdzą, że w ciągu ostatnich kilku lat wzrosła liczba jawnych deepfakes, w miarę jak technologia wykorzystywana do tworzenia takich obrazów stała się bardziej dostępna i łatwiejsza w użyciu. W 2019 r. raport opublikowany przez firmę DeepTrace Labs zajmującą się sztuczną inteligencją wykazał, że obrazy te były w przeważającej mierze wykorzystywane przeciwko kobietom. Według niego większość ofiar to hollywoodzcy aktorzy i południowokoreańscy piosenkarze K-pop.
Brittany Spanos, starsza pisarka w „Rolling Stone”, która prowadzi kurs o Swifcie na Uniwersytecie Nowojorskim, tak powiedziała o niedawnym incydencie ze Swiftem: „To może być wielka sprawa, jeśli naprawdę będzie dochodzić sprawy przed sądem”.
Spanos twierdzi, że problem związanej z fałszywą pornografią pokrywa się z innymi problemami, z którymi Swift borykała się w przeszłości, wskazując na jej pozew z 2017 r. przeciwko DJ-owi stacji radiowej, który rzekomo ją obmacywał; przysięgli przyznali Swift 1 dolara odszkodowania, kwotę, którą jej prawnik Douglas Baldridge nazwał „jednym symbolicznym dolarem, którego wartość jest niezmierzona dla wszystkich kobiet w tej sytuacji” w środku ruchu MeToo.
