Papież popadł w konflikt z tą technologią na początku tego roku, kiedy jego zdjęcie w białej puchowej kurtce, wykonane przy użyciu generatywnej sztucznej inteligencji, stało się wirusowe.
Papież Franciszek wezwał w czwartek do zawarcia międzynarodowego traktatu zapewniającego rozwój i etyczne wykorzystanie sztucznej inteligencji (AI), argumentując, że ryzyko związane z technologią pozbawioną ludzkich wartości, takich jak współczucie, miłosierdzie, moralność i przebaczenie, jest zbyt duże.
Papież dodał swój głos do coraz częstszych wezwań do wiążących, globalnych regulacji dotyczących sztucznej inteligencji w swoim corocznym przesłaniu na Światowy Dzień Pokoju, który Kościół katolicki obchodzi co roku 1 stycznia. Watykan opublikował tekst orędzia w czwartek.
Dla Franciszka ten apel jest nieco osobisty.
Na początku tego roku wygenerowane przez sztuczną inteligencję zdjęcie go w luksusowej białej puchowej kurtce stało się wirusowe, pokazując, jak szybko realistyczne obrazy typu deepfake mogą rozprzestrzeniać się w Internecie.
Przesłanie papieża opublikowano zaledwie kilka dni po uzyskaniu przez unijnych negocjatorów tymczasowej zgody na pierwsze na świecie kompleksowe przepisy dotyczące sztucznej inteligencji, które mają służyć jako złoty standard dla rządów rozważających wprowadzenie własnych regulacji.
W ciągu ostatniego roku sztuczna inteligencja przyciągnęła uwagę świata dzięki zapierającym dech w piersiach postępom najnowocześniejszych systemów, takich jak ChatGPT OpenAI, które olśniły użytkowników możliwością tworzenia tekstu, zdjęć i piosenek przypominających człowieka.
Technologia ta wzbudziła jednak również obawy dotyczące zagrożeń, jakie szybko rozwijająca się technologia stwarza dla miejsc pracy, prywatności i ochrony praw autorskich, a nawet dla samego życia ludzkiego.
Egzystencjalne obawy wokół sztucznej inteligencji
Franciszek uznał obietnicę, jaką oferuje sztuczna inteligencja i pochwalił postęp technologiczny jako przejaw kreatywności ludzkiej inteligencji, powtarzając przesłanie Watykanu wygłoszone na tegorocznym Zgromadzeniu Ogólnym ONZ, podczas którego zastęp światowych przywódców podniósł kwestię obietnic i zagrożeń związanych z tą technologią.
Jednak jego nowe przesłanie pokojowe poszło dalej i podkreśliło poważne, egzystencjalne obawy wyrażane przez etyków i obrońców praw człowieka w związku z technologią, która obiecuje przekształcić życie codzienne w sposób mogący zakłócić wszystko, od demokratycznych wyborów po sztukę.
„Sztuczna inteligencja może stanowić ryzyko o najwyższą stawkę w naszej przyszłości” – powiedział kardynał Michael Czerny z Watykańskiego Biura Rozwoju, który przedstawił to przesłanie na czwartkowej konferencji prasowej.
„Jeśli okaże się źle, winna będzie ludzkość”.
W dokumencie podkreślono, że rozwój technologiczny i wdrażanie sztucznej inteligencji muszą przede wszystkim skupiać się na gwarantowaniu podstawowych praw człowieka, promowaniu pokoju i ochronie przed dezinformacją, dyskryminacją i zniekształceniami.
Największy niepokój Franciszka wzbudził wykorzystanie sztucznej inteligencji w sektorze zbrojeniowym, na którym często skupiał się jezuicki papież, nazywając nawet tradycyjnych producentów broni „handlarzami śmierci”.
Zauważył, że zdalne systemy uzbrojenia doprowadziły już do „oddalenia się od ogromnej tragedii wojny i zmniejszonego postrzegania zniszczeń spowodowanych przez te systemy uzbrojenia oraz ciężaru odpowiedzialności za ich użycie”.
„Wyjątkowa zdolność do osądu moralnego i podejmowania decyzji etycznych to coś więcej niż złożony zbiór algorytmów i tej zdolności nie można sprowadzić do programowania maszyny” – napisał.
Wezwał do „odpowiedniego, znaczącego i konsekwentnego” ludzkiego nadzoru nad śmiercionośnymi autonomicznymi systemami broni (lub LAWS), argumentując, że świat nie potrzebuje nowych technologii, które jedynie „promują szaleństwo wojny”.
Na bardziej podstawowym poziomie ostrzegł przed głębokimi konsekwencjami, jakie dla ludzkości mają zautomatyzowane systemy, które oceniają obywateli lub kategoryzują ich.
Firmy technologiczne nie powinny się samoregulować
Oprócz zagrożeń dla miejsc pracy na całym świecie, które mogą wykonywać roboty, papież Franciszek zauważył, że technologia ta może określić wiarygodność osoby ubiegającej się o kredyt hipoteczny, prawo migranta do otrzymania azylu politycznego czy ryzyko ponownego popełnienia przestępstwa przez ktoś wcześniej skazany za przestępstwo.
„Nie można pozwolić, aby algorytmy określały, jak rozumiemy prawa człowieka, odkładały na bok podstawowe ludzkie wartości, takie jak współczucie, miłosierdzie i przebaczenie, lub eliminowały możliwość zmiany jednostki i pozostawienia za sobą swojej przeszłości” – napisał.
Dla Franciszka ta kwestia uderza w niektóre z jego priorytetów jako papieża, czyli potępiania niesprawiedliwości społecznych, orędownictwa na rzecz migrantów oraz posługi więźniom i osobom znajdującym się na marginesie społeczeństwa.
Przesłanie papieża nie zagłębiało się w szczegóły ewentualnego wiążącego traktatu poza stwierdzeniem, że należy go negocjować na poziomie globalnym, aby zarówno promować najlepsze praktyki, jak i zapobiegać szkodliwym. Nie można ufać, że same przedsiębiorstwa technologiczne same się uregulują, stwierdził.
Zmienił argumenty, których używał wcześniej, aby potępić korporacje międzynarodowe, które spustoszyły zasoby narodowe Ziemi i zubożyły rdzenną ludność, która z nich żyje.
Wolność i pokojowe współistnienie są zagrożone „za każdym razem, gdy człowiek ulega pokusie egoizmu, egoizmu, żądzy zysku i żądzy władzy” – napisał.
Barbara Caputo, profesor w Centrum Sztucznej Inteligencji na Politechnice w Turynie, zauważyła, że doszło już do zbieżności w niektórych podstawowych kwestiach etycznych i definicjach zarówno w przepisach UE, jak i w rozporządzeniu wykonawczym ujawnionym przez prezydenta USA Joe Bidena w październiku.
„To nie jest drobnostka” – powiedziała na konferencji w Watykanie. „Oznacza to, że ktokolwiek chce produkować sztuczną inteligencję, ma wspólną podstawę regulacyjną”.
