Fałszywe przesłania papieskie w sieci. Watykan walczy z plagą „deepfake’ów”

Filmy i zdjęcia, w których papież Leon XIV rzekomo wypowiada się na temat polityki, celebrytów czy swojej rezygnacji, zdobywają setki tysięcy odsłon. Problem w tym, że są całkowicie fałszywe. Watykan apeluje o czujność i przypomina: jeśli nie ma tego na oficjalnych stronach, najpewniej to kłamstwo.

W ostatnich miesiącach w internecie pojawiły się dziesiątki nagrań, w których papież Leon XIV ma komentować wydarzenia polityczne, wypowiadać się o znanych osobach, a nawet ogłaszać swoją rezygnację. Wszystkie te materiały mają jedną cechę wspólną – są tworzone przez sztuczną inteligencję.

Część nagrań wygląda na tyle wiarygodnie, że zdobywa ogromną popularność. Film, w którym papież rzekomo zabiera głos w sprawie zabójstwa Charliego Kirka, obejrzano ponad 400 tys. razy w ciągu tygodnia. Jeszcze większe zasięgi zdobył materiał sugerujący, że Leon XIV popiera przywódcę wojskowego z Burkina Faso – zanim został usunięty, obejrzało go co najmniej milion osób.

Jednak problem jest głębszy - nawet nagrania ewidentnie na pierwszy rzut oka fałszywe zdobywają setki tysięcy wyświetleń.

Samo pojęcie „deepfake” powstało niespełna dekadę temu. Oznacza obrazy, filmy lub nagrania audio, które przy użyciu algorytmów sztucznej inteligencji przedstawiają ludzi w sytuacjach, w których nigdy się nie znaleźli.

Choć problem dotyczy dziś Leona XIV, nie jest on pierwszym papieżem, którego wizerunek wykorzystano w ten sposób. W 2015 r. Ellen DeGeneres pokazała w swoim programie zabawny filmik z udziałem Franciszka, a kilka lat później viralem stało się zdjęcie papieża w modnej białej kurtce puchowej. Różnica polega jednak na tym, że obecne materiały są znacznie bardziej realistyczne – i trudniejsze do odróżnienia od prawdy.

Sam Leon XIV przyznał niedawno, że spotkał się z niepokojem znajomych, którzy uwierzyli w krążące po sieci zdjęcia, na których rzekomo spada ze schodów przed bazyliką św. Piotra.

„Były tak realistyczne, że myślano, iż to naprawdę ja” – powiedział papież w rozmowie z dziennikarką Elise Ann Allen z Crux.

Na jej pytanie: "Jak można chronić i zachować prawdę, skoro sztuczna inteligencja rozwija się każdego dnia niczym niekontrolowany samochód?" odpowiedział wtedy:

Watykański Dykasteria ds. Komunikacji codziennie otrzymuje dziesiątki zgłoszeń o fałszywych kontach "papieskich", zdjęciach i filmach. Jak podkreślają jej przedstawiciele, przy takiej skali produkcji niemożliwe jest prostowanie każdej nieprawdziwej informacji.

„Znaczna część naszego czasu to zgłaszanie i proszenie o usunięcie treści. Niestety nie da się zdementować wszystkiego” – podkreślono w komunikacie. Dlatego Watykan stawia na edukację i rozwój świadomości medialnej, zachęcając wiernych, by korzystali wyłącznie z oficjalnych kanałów.

Stolica Apostolska radzi: jeśli jakaś wypowiedź papieża budzi zaskoczenie, warto sprawdzić ją u źródła – na stronach Vatican News w oficjalnych komunikatach lub w zaufanych mediach, takich jak Aleteia. Jeśli nie znajdziemy jej tam, niemal na pewno jest fałszywa.

Ta rada jest aktualna nie tylko wobec papieża. Żyjemy w epoce, w której łatwo pomylić fikcję z prawdą. Dlatego potrzebujemy nie tylko technologii obronnych, ale i zdrowej czujności – daru rozeznawania, o którym mówi Ewangelia. To umiejętność odróżniania światła od ciemności, prawdy od kłamstwa.

Problem "newsów", nagrań, wypowiedzi generowanych z wykorzystywaniem sztucznej inteligencji jest jednak głębszy. Jak się okazuje, fałszywe nagrania mogą być nawet w oczywisty sposób fałszywe, a i tak zdobywają popularność. O tym jednak napiszemy w osobnym artykule.