Agencja Narodów Zjednoczonych ostrzega, że rozwój sztucznej inteligencji (AI) może spowodować nowy wzrost negacji Holokaustu.
Agencja Narodów Zjednoczonych ostrzega, że rozwój sztucznej inteligencji (AI) może wywołać nowy wzrost negacji Holokaustu.
Z opublikowanego we wtorek raportu UNESCO wynika, że systemy sztucznej inteligencji mogą fałszywie przedstawiać informacje na temat Holokaustu, ponieważ można je przeszkolić w zakresie odpowiadania na pytania zadawane na stronach internetowych zaprzeczających temu prawu.
Stwierdzono, że sztuczną inteligencję wykorzystuje się do „zniekształcania treści związanych z Holokaustem, tworzenia sfabrykowanych zeznań, a nawet zmieniania zapisów historycznych”. UNESCO ostrzega również przed deepfake’ami – realistycznymi obrazami lub filmami, które sugerują, że Holokaust nie miał miejsca lub był wyolbrzymiony.
Jedna z aplikacji umożliwia już użytkownikom bezpośrednią rozmowę z prominentnymi postaciami nazistowskimi, takimi jak Adolf Hitler.
Modele generatywnej sztucznej inteligencji również wymyślają lub „halucynują” wydarzenia, osobowości i historię, gdy nie mają dostępu do wystarczającej ilości danych.
Bard i ChatGPT należące do Google stworzyły treści o wydarzeniach związanych z Holokaustem, „które nigdy nie miały miejsca” – czytamy dalej w raporcie.
ChatGPT sfabrykowała koncepcję, jakoby naziści topili Żydów w rzekach i jeziorach w ramach tak zwanej kampanii „Holokaust przez utonięcie”. Z drugiej strony Bard generował fałszywe cytaty od świadków na poparcie fałszywych narracji o masakrach.
„Jeśli pozwolimy, aby przerażające fakty Holokaustu zostały osłabione, zniekształcone lub sfałszowane poprzez nieodpowiedzialne użycie sztucznej inteligencji, ryzykujemy wybuchowe rozprzestrzenianie się antysemityzmu i stopniowe zmniejszanie się naszej wiedzy na temat przyczyn i konsekwencji tych okrucieństw” – Audrey Azoulay , dyrektor generalny UNESCO, stwierdził w oświadczeniu dołączonym do raportu.
W raporcie UNESCO wezwano firmy technologiczne do ustanowienia zasad etycznych dotyczących rozwoju i wykorzystania sztucznej inteligencji, aby zmniejszyć ryzyko uzyskania niewiarygodnych informacji i zapobiec wykorzystywaniu swoich programów przez złe podmioty do zachęcania do przemocy i rozpowszechniania kłamstw na temat Holokaustu.
Raport został opublikowany we współpracy ze Światowym Kongresem Żydów.
