Fałszywy Nawrocki obiecuje 40 tys. zł. Deepfake, który nabierze każdego

W polskim internecie pojawiła się kolejna fala reklam, w których – jak sugerują twórcy – prezydent Karol Nawrocki zachęca obywateli do skorzystania z „legalnego systemu inwestycyjnego”, który ma rzekomo gwarantować nawet 40 tysięcy złotych dodatkowego dochodu. Twarz i głos prezydenta są łudząco podobne do prawdziwych, choć wprawne oko dostrzeże nienaturalne ruchy i drobne deformacje.

To jednak wystarczy, by wielu odbiorców kliknęło w link prowadzący do fałszywej strony, która obiecuje szybkie pomnożenie pieniędzy.

AI na usługach oszustów
To kolejny przykład wykorzystania deepfake’u – wideo stworzonego przez sztuczną inteligencję – do podszywania się pod osoby publiczne. W tym przypadku oszuści stylizowali nagranie tak, by odbiorca miał wrażenie, że ogląda fragment rozmowy prezydenta z Żurnalistą. Po kliknięciu następuje przekierowanie na fałszywą stronę, na której trzeba podać swoje dane.

– To podręcznikowy przykład wykorzystania sztucznej inteligencji do wprowadzenia ludzi w błąd – mówi w rozmowie z portalem Goniec.pl Michał Giziński z Krajowego Instytutu Cyberbezpieczeństwa.

– Wykorzystuje się wizerunek i dobre zdanie o osobie publicznej po to, by namówić odbiorców do inwestowania w fałszywe produkty. Część osób po prostu się na to nabiera.

Ekspert zwraca uwagę, że jeszcze niedawno naśladowanie głosu i mimiki znanej osoby wymagało zaawansowanych umiejętności i kosztownych narzędzi. Teraz – wraz z upowszechnieniem generatywnej AI – tworzenie takich materiałów stało się znacznie prostsze i tańsze.

– Kiedyś nie dało się łatwo podrobić głosu prezydenta czy celebryty. Dziś to możliwe i część widzów nie potrafi tego odróżnić. Oszuści korzystają z tego, że osoba zaufania publicznego budzi automatyczne przekonanie, że polecana rzecz jest prawdziwa – dodaje Giziński.

Dlaczego wy to reklamujecie?”. YouTube przepuszcza deepfake’i
Co szczególnie niepokojące, reklama podszywająca się pod wypowiedź prezydenta dosłownie zalała polski YouTube. Widzowie w komentarzach zaczęli pytać twórców, dlaczego „promują podejrzane inwestycje”.

– Ludzie nie rozumieją, jak działają reklamy. My nie mamy wpływu na to, co platforma dobuduje do naszego filmu – tłumaczy jedna z osób zgłaszających problem.

Czy YouTube ma mechanizmy, które mogłyby takie treści wychwycić? Według Gizińskiego – nie zawsze.

– Platformy usuwają materiały ewidentnie zakazane – np. przemoc czy treści seksualne. Ale jeśli coś wygląda jak zwykła reklama albo fragment wywiadu, algorytmy mogą tego nie rozpoznać. Deepfake właśnie na tym żeruje: wygląda naturalnie, a jednocześnie jest manipulacją – wyjaśnia ekspert.

Rosnący problem: coraz trudniej odróżnić fałsz od prawdy
Deepfake’i w Polsce pojawiają się coraz częściej – zarówno w celu wyłudzania pieniędzy, jak i w kampaniach dezinformacyjnych. Nic nie wskazuje, by trend miał się odwrócić.
Giziński podkreśla, że choć technologia generatywna nie jest jeszcze idealna, odbiorcy powinni zachować czujność:

U
– Jeżeli coś wygląda nienaturalnie albo zbyt pięknie, by było prawdziwe – powinna nam się zapalić lampka. Jeżeli ktoś obiecuje niewiarygodne zyski, tym bardziej.

Najważniejszym narzędziem obrony pozostaje weryfikacja informacji.

– Nie opierajmy się na jednym źródle. Jeśli coś słyszymy czy widzimy po raz pierwszy, sprawdźmy, czy ta informacja powtarza się także w innych miejscach. To może uchronić przed stratą pieniędzy – mówi ekspert.

Komentarz Pałacu Prezydenckiego
W wiadomości przesłanej do naszej redakcji przez Kancelarię Prezydenta Rzeczpospolitej Polskiej czytamy:

Szanowna Pani Redaktor,
reklama, o której Pani pisze, jest fałszywa i stanowi przykład bezprawnego wykorzystania wizerunku Prezydenta RP Karola Nawrockiego przy użyciu technologii deepfake.

Prezydent nie promuje żadnych inwestycji, produktów finansowych ani „gwarantowanych zysków”, a tym bardziej nie składa publicznych obietnic rzekomego „dodatkowego dochodu” w reklamach internetowych. Treści tego typu są elementem kampanii oszustw reklamowych, tworzonych przez podmioty trzecie bez wiedzy i zgody osób, których wizerunek został wykorzystany.

Apelujemy do użytkowników Internetu o szczególną ostrożność. Reklamy obiecujące szybkie i pewne zyski, wykorzystujące wizerunki osób publicznych, są klasyczną formą wyłudzeń i nie powinny być traktowane jako wiarygodne źródło informacji.

Każdorazowo warto:

– weryfikować takie treści w oficjalnych komunikatach Kancelarii Prezydenta,

– zgłaszać je bezpośrednio na platformach reklamowych,

– nie podejmować żadnych działań finansowych na ich podstawie.

Informujemy również, że konta w mediach społecznościowych, które rozpowszechniają nieprawdziwe informacje o Panu Prezydencie, wprowadzając w błąd użytkowników tych portali, są przez pracowników Kancelarii Prezydenta RP na bieżąco zgłaszane do administratorów portali, a także do odpowiednich podmiotów przeciwdziałających dezinformacji.