Papież, który tego nie powiedział. Deepfake z Leonem XIV

W serwisie YouTube opublikowano nagranie, w którym papież Leon XIV rzekomo wygłasza poruszające przemówienie do prezydenta Burkina Faso, Ibrahima Traoré. Problem w tym, że... nigdy go nie wygłosił.

Trwające 36 minut przemówienie w języku angielskim zostało stworzone przy użyciu sztucznej inteligencji i przypisuje papieżowi słowa, których nie wypowiedział. Film opublikowany przez kanał „Pan African dreams” wykorzystuje tzw. morphing – technikę cyfrowej modyfikacji obrazu, która sprawia, że ruchy ust Leona XIV synchronizują się z wygenerowanym komputerowo głosem.

Nagranie zaczyna się od uroczystych słów: „Jego Ekscelencji prezydentowi Ibrahimowi Traoré, Prezydentowi suwerennego państwa Burkina Faso, synowi afrykańskiej ziemi, obrońcy swojego ludu, niech się pomnożą dla Pana łaska i pokój przez mądrość, odwagę i prawdę…”. Dalej papież ma rzekomo odnosić się do listu Traoré i dziękować mu za „sprawiedliwy krzyk kontynentu długo ranionego podwójnym ostrzem porzucenia i wyzysku”.

Problem w tym, że Leon XIV nigdy tych słów nie wypowiedział – a przemówienie to czysta fikcja wygenerowana przez AI.

Widzom filmu sugeruje się, że nagranie to odpowiedź Leona XIV na list od prezydenta Burkina Faso. W rzeczywistości wykorzystano fragmenty spotkania papieża z dziennikarzami z 12 maja, przekształcając je za pomocą sztucznej inteligencji. Obraz Leona XIV w nagraniu jest powtarzany, a papież przez cały czas „czyta” z tych samych dwóch kartek – co dodatkowo podważa autentyczność materiału.

Fałszywe przemówienie do Traoré to niejedyny przypadek cyfrowej manipulacji z udziałem Leona XIV. W sieci krąży również inne AI-generowane nagranie zatytułowane „POPES WAKEUP URGENT CALL TO ALL TRUE CHRISTIANS || POPE LEO XIV SPEECH”, w którym papież ma ostrzegać przed nadchodzącym końcem świata.

Słowa brzmią dramatycznie: „Niebo ciężkie jest od proroctw. Zegar niebios odlicza ostatnie sekundy…”. Choć materiał nie podaje żadnych konkretów, jego dramatyzm przyciągnął ponad 230 tysięcy widzów.

Niektórzy odbiorcy, mimo informacji o fałszywym charakterze filmu, wciąż wierzą, że przesłanie było prawdziwe. „Dlaczego ktoś miałby fałszować tak piękne kazanie?” – pytają.

Watykan od lat dostrzega zagrożenia związane z nadużywaniem sztucznej inteligencji. Już w 2020 roku Papieska Akademia Życia opublikowała dokument Rome Call for AI Ethics, wzywający do etycznego wykorzystywania nowych technologii. W tym roku Dykasteria Nauki Wiary opublikowała notę Antiqua et nova, która podkreśla, że AI musi być podporządkowana ludzkiej godności, moralności i odpowiedzialności.

Papież Franciszek także wielokrotnie ostrzegał przed nadmiernym zaufaniem do technologii. W orędziu na 58. Światowy Dzień Środków Społecznego Przekazu zaznaczył: „To od nas zależy, czy staniemy się paszą dla algorytmów, czy też będziemy karmić nasze serca wolnością”.

Nowy papież zdaje się być świadomy wyzwań związanych z rozwojem AI. W swoim przemówieniu z 12 maja zauważył: „Sztuczna inteligencja, ze swym ogromnym potencjałem, wymaga odpowiedzialności i rozeznania, by służyć dobru wspólnemu”.

To sygnał, że Stolica Apostolska dostrzega nie tylko potencjał, ale i zagrożenia płynące z rewolucji cyfrowej. A my – odbiorcy treści – musimy nauczyć się odróżniać prawdę od iluzji. Bo jeden klik może wprowadzić w błąd tysiące.

I nawet papież może paść ofiarą deepfake’u.

Źródło: Stacja7, wherepeteris.com