W zmanipulowanym nagraniu wideo występuje lektor naśladujący Kamalę Harris i zawierający fałszywe twierdzenia, których ona nie wypowiedziała.
Zmanipulowane nagranie imitujące głos wiceprezydent USA Kamali Harris wzbudziło obawy dotyczące możliwości wprowadzania w błąd przez sztuczną inteligencję (AI) w trakcie wyborów.
Film zyskał popularność po tym, jak prezes Tesli i SpaceX, Elon Musk, udostępnił go w piątkowy wieczór na swojej platformie społecznościowej X, nie wspominając, że pierwotnie został opublikowany jako parodia.
Musk opublikował później ponownie film, dodając podpis oryginalnego użytkownika, który stwierdza, że jest to parodia i dodaje, że „parodia jest legalna w Ameryce”.
W filmie wykorzystano elementy wizualne z prawdziwej reklamy kampanii prezydenckiej Harris, ale zamiast jej głosu zaczęto mówić głosem prawdopodobnej kandydatki Demokratów na prezydenta.
Mia Ehrenberg, rzeczniczka kampanii Harris, napisała w e-mailu do Associated Press: „Uważamy, że Amerykanie chcą prawdziwej wolności, możliwości i bezpieczeństwa, jakie oferuje wiceprezydent Harris, a nie fałszywych, zmanipulowanych kłamstw Elona Muska i Donalda Trumpa”.
Szeroko udostępniane wideo jest przykładem tego, w jaki sposób realistyczne treści generowane przez sztuczną inteligencję (których tworzenie stało się łatwiejsze) są wykorzystywane do parodiowania lub wprowadzania w błąd w kwestiach politycznych w kontekście wyborów.
Niektórzy użytkownicy sieci zastanawiali się, czy wpis Muska nie narusza zasad serwisu X, które stanowią, że użytkownicy „nie mogą udostępniać syntetycznych, zmanipulowanych lub wyrwanych z kontekstu treści medialnych, które mogą wprowadzać ludzi w błąd lub dezorientować ich oraz prowadzić do wyrządzenia im krzywdy”.
Wyjątek stanowią memy i satyra, o ile nie powodują one „znacznego zamieszania co do autentyczności mediów”.
W pierwszym wpisie Muska dotyczącym tego filmu nie sprecyzowano, że jest to parodia, a jedynie zamieszczono na nim słowa „To niesamowite”.
Na początku tego miesiąca miliarder z branży technologicznej poparł byłego prezydenta Donalda Trumpa, kandydata Partii Republikańskiej.
Ani YouTuber, który opublikował wideo, znany jako Mr Reagan, ani Musk nie odpowiedzieli natychmiast na prośby o komentarz wysłane e-mailem w niedzielę.
„Rzecz, przed którą ostrzegaliśmy”
Dwóch ekspertów specjalizujących się w mediach generowanych przy użyciu sztucznej inteligencji przeanalizowało ścieżkę dźwiękową fałszywej reklamy i potwierdziło, że duża jej część została wygenerowana przy użyciu technologii sztucznej inteligencji.
Jeden z nich, ekspert w dziedzinie informatyki śledczej z Uniwersytetu Kalifornijskiego w Berkeley, Hany Farid, stwierdził, że nagranie pokazuje potencjał sztucznej inteligencji generatywnej i deepfake’ów.
„Głos generowany przez sztuczną inteligencję jest bardzo dobry” – powiedział w e-mailu. „Chociaż większość ludzi nie uwierzy, że to głos wiceprezydent Harris, wideo jest o wiele potężniejsze, gdy słowa są wypowiadane jej głosem”.
Stwierdził, że firmy zajmujące się generatywną sztuczną inteligencją, które udostępniają publicznie narzędzia do klonowania głosu i inne narzędzia z zakresu sztucznej inteligencji, powinny bardziej się starać, aby ich usługi nie były wykorzystywane w sposób, który mógłby zaszkodzić ludziom lub demokracji.
Rob Weissman, współprzewodniczący grupy aktywistów Public Citizen, nie zgodził się z Faridem, mówiąc, że jego zdaniem wiele osób może dać się nabrać na ten film.
„Nie sądzę, żeby to był ewidentny żart” – powiedziała Weissman w wywiadzie. „Jestem pewna, że większość osób, które to oglądają, nie zakłada, że to żart. Jakość nie jest świetna, ale jest wystarczająco dobra. I właśnie dlatego, że wpisuje się w istniejące już tematy, które krążyły wokół niej, większość ludzi uwierzy, że to prawda”.
Weissman, którego organizacja zabiegała o to, by Kongres, agencje federalne i stany uregulowały kwestie generatywnej sztucznej inteligencji, powiedział, że ten film to „coś, przed czym ostrzegaliśmy”.
