Deepfake w mediach społecznościowych. Jak rozpoznać oszustwo AI?

Deepfaki zadomowiły się w mediach społecznościowych. Sztuczna inteligencja pozwala coraz łatwiej tworzyć oszukańcze reklamy z wykorzystaniem wizerunku znanych osób.

Stowarzyszenie Demagog informuje o pojawieniu się filmików, w których dziennikarka dużej stacji telewizyjnej oraz policjanci reklamują internetowe kasyno. W sieci bez trudu znajdziemy też podobne reklamy z udziałem znanego piosenkarza. To wszystko nie ma nic wspólnego z rzeczywistością – to tzw. deepfaki, czyli sekwencje wideo wygenerowane przy użyciu AI, które mają udawać nagrania z udziałem realnie istniejących osób. Problem ten nagłaśnia m.in. znany przedsiębiorca Rafał Brzoska, który również padł ofiarą takich praktyk.

Samo wykorzystanie znanych postaci w marketingu to zjawisko znane od lat.

Wykorzystanie znanych osób w reklamie może być potężnym narzędziem. Działa tu szereg zjawisk opierających się na psychologii konsumenta. Z tych najważniejszych: jeżeli kogoś lubimy, to te cechy pozytywne przenosimy z automatu na produkt

— wyjaśniała dr Katarzyna Andruszkiewicz z Wydziału Nauk Ekonomicznych UWM.

Problem w tym, że coraz częściej takie reklamy – jeśli znajdujemy je wyłącznie w mediach społecznościowych – są zwykłym oszustwem. Wizerunek znanych osób jest bez ich zgody wykorzystywany do promowania hazardu lub podejrzanych inwestycji.

Oszuści bardzo lubią media społecznościowe, szczególnie w ostatnim czasie Facebooka. Tam możemy spotkać bardzo wiele tzw. scamów, które wykorzystują znane marki, celebrytów, aktorów, influencerów, polityków czy ekspertów, aby nadawać wiarygodność fałszywym komunikatom. Skala jest ogromna. Nie da się wyłapać wszystkich deepfaków i oszustw

— przyznał Marcel Kiełtyka ze Stowarzyszenia Demagog.

Oszustom pomaga gwałtowny rozwój technologii. AI jeszcze niedawno potrafiła tworzyć zaledwie kilkusekundowe materiały, a teraz pozwala na znacznie więcej i to za relatywnie niewielkie pieniądze.

Możemy generować sekwencje trwające 2 minuty, a nawet dłużej. Są programy dla nowicjuszy za 5 dolarów, są wersje „Pro” za 15–20 dolarów, ale są też narzędzia profesjonalne – to abonamenty kosztujące około 200 dolarów miesięcznie

— mówił dr hab. Miłosz Babecki z Instytutu Dziennikarstwa i Komunikacji Społecznej UWM.

Jako odbiorcy stajemy na coraz gorszej pozycji. Dawno skończyły się czasy, gdy AI dorysowywała postaciom dodatkowe palce czy nie radziła sobie z ruchem. Teraz błędy – jeśli w ogóle występują – stają się trudne do zauważenia gołym okiem.

To mogą być naprawdę drobne rzeczy, np. niespójne odbicie w okularach, biżuteria zmieniająca kształt czy lekka asymetria uszu

— wskazał Babecki.

Dlatego kluczowa staje się ostrożność i chłodne podejście do treści w sieci. Dotyczy to nie tylko reklam, ale i nagrań z udziałem polityków.

Do elementów wzbudzających silne emocje lub niedowierzanie podchodziłbym bardzo sceptycznie. Jeśli coś wydaje nam się niemożliwe, zazwyczaj takie jest

— radził Marcel Kiełtyka.

Eksperci przypominają też o weryfikacji źródeł. – Warto szukać, czy dane wideo pojawiło się w oficjalnych serwisach informacyjnych oraz jaki jest jego kontekst — dodał dr hab. Babecki.

Pomocne bywają specjalistyczne programy do wykrywania AI. Widząc reklamę ze znaną osobą, warto też wejść na jej oficjalny profil i sprawdzić, czy potwierdza udział w kampanii, czy może ostrzega przed kradzieżą wizerunku.

Posłuchaj relacji Andrzeja Piedziewicza

Autor: A. Piedziewicz
Redakcja: M. Rutynowski