Musk udostępnia zmanipulowane wideo Kamali Harris, podnosząc obawy dotyczące sztucznej inteligencji w polityce

W zmanipulowanym nagraniu wideo występuje lektor naśladujący Kamalę Harris i zawierający fałszywe twierdzenia, których ona nie wypowiedziała.

Zmanipulowane nagranie imitujące głos wiceprezydent USA Kamali Harris wzbudziło obawy dotyczące możliwości wprowadzania w błąd przez sztuczną inteligencję (AI) w trakcie wyborów.

Film zyskał popularność po tym, jak prezes Tesli i SpaceX, Elon Musk, udostępnił go w piątkowy wieczór na swojej platformie społecznościowej X, nie wspominając, że pierwotnie został opublikowany jako parodia.

Musk opublikował później ponownie film, dodając podpis oryginalnego użytkownika, który stwierdza, że ​​jest to parodia i dodaje, że „parodia jest legalna w Ameryce”.

W filmie wykorzystano elementy wizualne z prawdziwej reklamy kampanii prezydenckiej Harris, ale zamiast jej głosu zaczęto mówić głosem prawdopodobnej kandydatki Demokratów na prezydenta.

Mia Ehrenberg, rzeczniczka kampanii Harris, napisała w e-mailu do Associated Press: „Uważamy, że Amerykanie chcą prawdziwej wolności, możliwości i bezpieczeństwa, jakie oferuje wiceprezydent Harris, a nie fałszywych, zmanipulowanych kłamstw Elona Muska i Donalda Trumpa”.

Szeroko udostępniane wideo jest przykładem tego, w jaki sposób realistyczne treści generowane przez sztuczną inteligencję (których tworzenie stało się łatwiejsze) są wykorzystywane do parodiowania lub wprowadzania w błąd w kwestiach politycznych w kontekście wyborów.

Niektórzy użytkownicy sieci zastanawiali się, czy wpis Muska nie narusza zasad serwisu X, które stanowią, że użytkownicy „nie mogą udostępniać syntetycznych, zmanipulowanych lub wyrwanych z kontekstu treści medialnych, które mogą wprowadzać ludzi w błąd lub dezorientować ich oraz prowadzić do wyrządzenia im krzywdy”.

Wyjątek stanowią memy i satyra, o ile nie powodują one „znacznego zamieszania co do autentyczności mediów”.

W pierwszym wpisie Muska dotyczącym tego filmu nie sprecyzowano, że jest to parodia, a jedynie zamieszczono na nim słowa „To niesamowite”.

Na początku tego miesiąca miliarder z branży technologicznej poparł byłego prezydenta Donalda Trumpa, kandydata Partii Republikańskiej.

Ani YouTuber, który opublikował wideo, znany jako Mr Reagan, ani Musk nie odpowiedzieli natychmiast na prośby o komentarz wysłane e-mailem w niedzielę.

„Rzecz, przed którą ostrzegaliśmy”

Dwóch ekspertów specjalizujących się w mediach generowanych przy użyciu sztucznej inteligencji przeanalizowało ścieżkę dźwiękową fałszywej reklamy i potwierdziło, że duża jej część została wygenerowana przy użyciu technologii sztucznej inteligencji.

Jeden z nich, ekspert w dziedzinie informatyki śledczej z Uniwersytetu Kalifornijskiego w Berkeley, Hany Farid, stwierdził, że nagranie pokazuje potencjał sztucznej inteligencji generatywnej i deepfake’ów.

„Głos generowany przez sztuczną inteligencję jest bardzo dobry” – powiedział w e-mailu. „Chociaż większość ludzi nie uwierzy, że to głos wiceprezydent Harris, wideo jest o wiele potężniejsze, gdy słowa są wypowiadane jej głosem”.

Stwierdził, że firmy zajmujące się generatywną sztuczną inteligencją, które udostępniają publicznie narzędzia do klonowania głosu i inne narzędzia z zakresu sztucznej inteligencji, powinny bardziej się starać, aby ich usługi nie były wykorzystywane w sposób, który mógłby zaszkodzić ludziom lub demokracji.

Rob Weissman, współprzewodniczący grupy aktywistów Public Citizen, nie zgodził się z Faridem, mówiąc, że jego zdaniem wiele osób może dać się nabrać na ten film.

„Nie sądzę, żeby to był ewidentny żart” – powiedziała Weissman w wywiadzie. „Jestem pewna, że ​​większość osób, które to oglądają, nie zakłada, że ​​to żart. Jakość nie jest świetna, ale jest wystarczająco dobra. I właśnie dlatego, że wpisuje się w istniejące już tematy, które krążyły wokół niej, większość ludzi uwierzy, że to prawda”.

Weissman, którego organizacja zabiegała o to, by Kongres, agencje federalne i stany uregulowały kwestie generatywnej sztucznej inteligencji, powiedział, że ten film to „coś, przed czym ostrzegaliśmy”.