Facebook ma ogromny problem z moderacją treści. Nie dotyczy to tylko oczywistych manipulacji, rosyjskiej propagandy czy dezinformacji politycznej – ale również oszustw wyświetlanych poprzez Facebookowy system reklam, które mają za zadanie wyłudzić pieniądze od odbiorców. Warto dodać, że wyświetlanie reklam stanowi główny przychód korporacji Meta (czyli właściciela Facebooka, Instagrama, Whatsappa, Messengera i innych), kwartalne przychody korporacji zwiększyły się rok do roku o 25 proc. do 40,11 mld dolarów. Tak gigantyczne przychody nie przekładają się na moderację, reklamy z oszustwami przechodzą pod radarem Facebooka. Nic dziwnego, skoro na 23,5 mln użytkowników Facebooka w Polsce przypada 65 moderatorów operujących w tym języku.
Meta co prawda obiecuje reagowanie na oszustwa, jednak co do skuteczności tych działań Facebook pozostaje sędzią we własnej sprawie, ma bowiem wyłączność na analitykę publikowanych treści. Wartość tych obietnic przedstawiamy poniżej – przedmiotem tego wpisu będzie ewidentnie fałszywy sposób na szybkie wzbogacenie się, który wyjawić miały ruszone głosem sumienia elity władzy. Oszuści skorzystali z obojętności portalu, aby z pomocą jego własnej usługi reklamowej szukać ofiar.
Na problem braku odpowiedzialności portalu za szkody użytkowników zwrócił niedawno uwagę założyciel portalu Niebezpiecznik.pl, Piotr Konieczny. Warto dodać, że oszuści obiecujący szybki zarobek na akcjach gazociągu bałtyckiego działali już w 2022 roku – wówczas tekst na ten temat opublikował Demagog.
Ilustracje, które przytoczyliśmy powyżej, to stopklatki z klipów wideo rozpowszechnianych aktualnie na Facebooku. Filmy zostały wygenerowane przy pomocy narzędzi wykorzystujących sztuczną inteligencję. Sfałszowany jest również dźwięk, treści są więc kompletnymi próbami podszycia się pod przedstawione osoby: Agatę Kornhauser-Dudę, Andrzeja Dudę, Beatę Szydło. Wszystkie dotyczą „platformy inwestycyjnej Baltic Pipe”. Warto dodać, że powyższe reklamy ominęły – jak widać dziurawy – system specjalnego oznaczania reklam społecznych i politycznych, które powinny być monitorowane w sposób bardziej precyzyjny.
fałsz: Powyższe przykłady to tylko część treści kampanii phishingowej; rzekome inwestycje to próby oszustw, które pojawiają się regularnie w różnych wariacjach.
Phishing oznacza podanie się za inną osobę bądź instytucję, aby wykraść dane odbiorców lub nakłonić ich do określonych działań – tyle tylko, że opisywanym przypadku oszuści wykorzystują cudzy wizerunek aby uwiarygodnić swoją działalność. Podobnie jak w przypadku typowych ataków phishingowych, mamy do czynienia z oszustwem o charakterze masowym.
Przyjrzenie się nagraniom odkrywa ślady manipulacji – są one szczególnie widoczne w ruchu ust, które musiały zostać zsynchronizowane z wygenerowaną wypowiedzią. Ruch nie jest naturalny; w momentach, gdy animacja nie nadąża za dźwiękiem, sprawia wrażenie nagłych skoków lub brakujących klatek. Widać też artefakty graficzne na styku ust z resztą twarzy: pojawiają się i nagle zanikają jednorodne plamy, wygładzenia, obszarowe rozmycia. Także mimika twarzy nie odpowiada wypowiedzi, warto jednak zauważyć, że zwykle tego rodzaju treści skierowane są do osób starszych, które stykają się głównie z Facebookiem na smartfonach. Niska rozdzielczość ekranów oraz niskie kompetencje cyfrowe mogą nabrać sporą grupę osób na tego rodzaju deepfejki.
Manipulacja zawiera też błędy w warstwie dźwiękowej: momentami głos staje się przerywany i bełkotliwy, nieraz wyraźnie wzrasta szum tła. W niektórych przypadkach oszuści używają podkładu muzycznego, który ukrywa część niedoskonałości. Ponadto wypowiedzi zawierają najzwyklejsze błędy językowe (np. „każdy, kto zakupi tylko jeden akcje”).
Powyższe kryteria są jednak ulotne, zależne od obycia z typowymi błędami AI. Czy osoba mająca po raz pierwszy kontakt z takimi nagraniami dostrzegłaby w nich oznakę fałszerstwa?
Uwagę zwracają też inne elementy. Konta, które powiązano z nagraniami, kiepsko pozorują wiarygodność. Konto „Baltic Power” zawiera zgodne z tematem oszustwa zdjęcia, a także link do pustej domeny. W podanym adresie email autorzy scamu zamieścili nawet żart – identyfikator użytkownika to „balticpipesdope”. Pozostałe konta, „Przegląd skandali rodzinnych” i „Polskie skandale” to wydmuszki bez związku z tematem oszustwa, pozbawione jakiejkolwiek istotnej zawartości.
Adresy, na które przekierowują powyższe treści po kliknięciu myszą, zmieniają się zależnie od ogłoszenia. Nieraz są to serwisy podające się za portale prasowe. Nagranie z Beatą Szydło zaprowadziło nas do imitacji Rzeczpospolitej. Wpis przekonuje:
Pierwszym uczestnikiem platformy Baltic Pipe był nasz „ukochany” prezydent, który we wrześniu zainwestował 1 099 zł i w ciągu miesiąca otrzymał dywidendę w wysokości ok. 21 000 zł, następnie podwładni ministrowie i posłowie otrzymali dostęp do platformy w zamian za milczenie, a jeśli ktoś próbował ich zdemaskować, to kontrolowane przez rząd media szybko dezawuowały informację.
O czym warto pamiętać?
- Narzędzia oparte na sztucznej inteligencji sprawiły, że fałszowanie filmów i wypowiedzi stało się łatwe. Pamiętaj, że rozwój tej technologii jest szybki, a jakość fałszowanego obrazu i dźwięku ekspresowo rośnie.
- Oszustom zależy nie tylko na Twoich pieniądzach, chcą też zdobyć Twoje dane osobowe oraz dostępowe (hasła, loginy, adresy).
- Treści emocjonujące, kontrowersyjne, ponaglające do działania to czerwone flagi. Zachowaj wobec nich szczególną ostrożność.
- Nie ufaj treściom sponsorowanym. Patronat portalu społecznościowego nie oznacza bezpieczeństwa!
- Jeżeli nie masz możliwości łatwego sprawdzenia wiarygodności ogłoszenia, traktuj je jako fałszywe. Uczciwi nadawcy są transparentni.
Aktualizacja 06.02.2024: na moment po ukończeniu wpisu w roli naganiacza zobaczyliśmy również Donalda Tuska. Pomimo zgłoszeń oszustwo jest dalej powielane i utrzymuje status treści sponsorowanej.
