Trudno ocenić, jaki wpływ na pierwszą turę wyborów parlamentarnych we Francji i wybory do Parlamentu Europejskiego miały obrazy generowane przez sztuczną inteligencję (AI) wykorzystywane przez skrajną prawicę – wynika z jednej z analiz.
Jak wynika z dwóch nowych raportów, europejskie partie skrajnie prawicowe wykorzystują obrazy generowane przez sztuczną inteligencję (AI) do wspierania przekazów politycznych, trudno jednak ocenić, jaki wpływ te obrazy miały na ostatnie wybory we Francji i w Parlamencie Europejskim.
Organizacja non-profit AI Forensics przeanalizowała strony mediów społecznościowych 31 francuskich partii politycznych, aby ustalić, czy uda się wykryć treści dotyczące generatywnej sztucznej inteligencji (genAI) w okresie od 1 maja do 28 czerwca, podczas wyborów do Parlamentu Europejskiego i pierwszej tury francuskiej kampanii legislacyjnej.
Następnie poddają te obrazy wyszukiwarkom obsługującym sztuczną inteligencję, aby sprawdzić, czy zostały stworzone przez narzędzie wykorzystujące sztuczną inteligencję.
Łącznie zespół odkrył 51 przypadków generatywnych obrazów AI wykorzystywanych przez partie francuskie, przy czym najbardziej zamieszane były skrajnie prawicowe Zgromadzenie Narodowe (RN), Reconquête i Les Patriotes, jednak badacze twierdzą, że są to ostrożne szacunki.
„To pierwszy cykl wyborczy, w którym (generatywna) sztuczna inteligencja jest czymś realnym, ale jesteśmy pewni, że w nadchodzących latach będzie wykorzystywana coraz częściej” – powiedział Salvatore Romano, badacz z AI Forensics, w wywiadzie dla TylkoGliwice Next.
„Jeśli nie będziemy w stanie zarządzać tym teraz, gdy skala jest tak mała… trudniej będzie nam zarządzać, gdy technologia będzie nieodróżnialna od prawdziwej treści” – dodał.
Skrajnie prawicowa partia RN zwyciężyła w pierwszej turze wyborów we Francji w zeszłą niedzielę, zdobywając 33 proc. głosów, a także w czerwcowych wyborach do Parlamentu Europejskiego, w których uzyskała 31,5 proc. głosów.
Gdzie pojawiła się treść AI
Jak wynika z raportu AI Forensics, większość obrazów kampanii wyborczych francuskich partii generowanych przez sztuczną inteligencję „przekazuje przesłania dotyczące nastawienia antyimigracyjnego, braku bezpieczeństwa we Francji, braku wolności słowa, wadliwego systemu wymiaru sprawiedliwości i słabej ochrony rolnictwa”.
„(Zdjęcia) są wykorzystywane jako technika straszenia, mająca na celu stwierdzenie, że Francja nie jest bezpieczna w UE, a to bardzo negatywnie wpływa na bezbronne osoby w naszym społeczeństwie” – dodała Miazia Schüler, badaczka AI Forensics.
Schüler powiedział, że obrazy te często wyglądały „hiperrealistycznie”, a przeciętny użytkownik mógł wyraźnie dostrzec, że zostały wygenerowane przez sztuczną inteligencję.
Inne były subtelne, niczym imitacje karykatur politycznych zamieszczane w gazetach.
Niektóre partie, np. skrajnie prawicowa Reconquête, wykorzystały również sztuczną inteligencję generatywną do stworzenia wizerunków prezydenta Francji Emmanuela Macrona i szefowej Komisji Europejskiej Ursuli von Der Leyen.
Jak wynika z badania przeprowadzonego przez Digital Forensic Research Lab (DFRLabs) należącego do Atlantic Council, w okresie poprzedzającym wybory RN stworzyła stronę internetową o nazwie „Europa bez nich”, która w podobny sposób kwestionowała stanowiska kierownicze Macrona i von der Leyen.
Jak wynika z raportu, na stronie internetowej, która wciąż działa, znajdują się co najmniej trzy obrazy wygenerowane przez sztuczną inteligencję. Przedstawiają one petycje przeciwko „pogardzie UE wobec ludzi, masowej imigracji i promowaniu hidżabu”.
„To tylko wierzchołek góry lodowej”
Valentin Chatelet, badacz Atlantic Council, powiedział, że „trudno” stwierdzić, jaki wpływ miał ten rodzaj treści generowanych przez sztuczną inteligencję na sukces RN w wyborach do Parlamentu Europejskiego i we Francji.
„Myślę, że ma to pozytywny wpływ na materiały, których partia używa do przekazywania konkretnej idei, np. konkretnego stanowiska Bardelli w danej sprawie” – powiedział Chatelet.
„(Generowane przez sztuczną inteligencję) obrazy są również wykorzystywane do szokowania ludzi… dopóki nie staną się powszechne” – dodał.
Telewizja TylkoGliwice Next skontaktowała się z partiami politycznymi Zgromadzenie Narodowe (RN), Tożsamość i Demokracja, Patriots i Reconquête, lecz nie otrzymała odpowiedzi.
Kandydaci RN przeszli szkolenie z zakresu AI, w tym z zakresu korzystania z ChatGPT od stycznia 2024 r., według francuskiego nadawcy BFMTV. W broszurze szkoleniowej podano przykłady, w jaki sposób AI może pomóc kandydatom politycznym, np. tworzenie plakatów wyborczych i znajdowanie argumentów do debat, podał nadawca.
Ani badanie AI Forensics, ani DFRLabs Atlantic Council nie analizowały osobistych postów kandydatów ani treści tworzonych przez partyjne grupy fanów.
Romano uważa, że ich badanie to „zaledwie wierzchołek góry lodowej” w kwestii ilości nieoznakowanych treści wyborczych opartych na sztucznej inteligencji krążących w mediach społecznościowych.
„Krytyczne zaniedbanie” firm technologicznych w zakresie wykorzystania sztucznej inteligencji
Raport AI Forensics wykazał, że żaden z obrazów wygenerowanych przez sztuczną inteligencję nie został oznaczony w ten sposób.
„Nasze ustalenia ujawniają poważne zaniedbania po obu stronach partii politycznych i platform w zakresie przestrzegania zobowiązań dotyczących oznaczania obrazów generowanych przez sztuczną inteligencję w kampaniach politycznych, co podkreśla pilną potrzebę przejrzystości” – czytamy w raporcie.
Duże firmy technologiczne, takie jak Google, OpenAI, Meta i TikTok, podpisały w lutym porozumienie o otwartej technologii, które „ustali oczekiwania co do sposobu, w jaki sygnatariusze będą zarządzać… zwodniczymi treściami wyborczymi opartymi na sztucznej inteligencji” na swoich platformach przed wyborami do Parlamentu Europejskiego.
Pierwszym zobowiązaniem tej umowy jest to, że platformy będą „identyfikować realistyczne obrazy generowane przez sztuczną inteligencję i/lub (certyfikować) autentyczność treści i jej pochodzenie” – czytamy w kopii umowy.
Obiecali również dokonać przeglądu swoich modeli, aby „zrozumieć ryzyko, jakie mogą one stwarzać” w kontekście wprowadzającej w błąd treści dotyczącej sztucznej inteligencji.
Niektóre partie polityczne podpisały własne wersje tego porozumienia z Komisją Europejską, która stwierdziła, że „zobowiązuje się zapobiegać celowemu wprowadzaniu społeczeństwa w błąd, w tym poprzez wykorzystanie sztucznej inteligencji” – czytamy w kopii porozumienia.
Grupa Identity and Democracy (ID) Parlamentu Europejskiego podpisała ten kodeks postępowania, którego członkiem jest RN. Inne francuskie partie narodowe tego nie zrobiły.
Romano powiedział, że AI Forensics prześle swój raport do Komisji Europejskiej, mając nadzieję, że zostaną wyciągnięte jakieś konsekwencje wobec podmiotów naruszających te kodeksy postępowania.
