Efekt Mandeli i deepfake - co to takiego? Jak rozpoznać dezinformację?

Deepfake – co to?

Deepfake to technologia, która tworzy zdjęcia i filmy, które nie są prawdziwe, lecz wyglądają bardzo realistycznie. Wykorzystuje w tym celu sztuczną inteligencję, zwaną deep learning i polega na manipulowaniu obrazami, wideo i dźwiękiem, aby zasymulować sytuację, która w rzeczywistości nigdy nie miała miejsca.

Najczęściej nakłada się jedną twarz na drugą tworząc tak zwane głębokie portrety wideo. Deepface polega na tworzeniu całkowicie fikcyjnych zdjęć, a następnie wykorzystywaniu ich do animacji lub filmów. Deepvoice ma na celu sfałszowanie głosu danej osoby i zastąpieniu go dźwiękiem. Obie techniki użyte razem pozwalają na tworzenie wysoce przekonującego sztucznego materiału audiowizualnego.

Fałszywe obrazy i filmy nie dotyczą wyłącznie celebrytów i polityków. Deepfake może dotyczyć każdego, a spreparowane materiały bywają narzędziem szantażu i manipulacji. W życiu prywatnym deepfake może posłużyć do zrujnowania reputacji, a w biznesie do zdyskredytowania firmy w oczach kontrahentów. Rosnąca skala problemu wpływa na zaufanie społeczne do przekazywanych informacji.

Efekt Mandeli, czyli fałszywa pamięć zbiorowa

Jak opisuje na swoim blogu ExpressVPN, deepfakes mogą potencjalnie przyczynić się do zjawiska znanego jako Efekt Mandeli. Efekt Mandeli odnosi się do sytuacji, w której duża masa ludzi wierzy, że zdarzenie miało miejsce, podczas gdy tak nie było. Południowoafrykański polityk Nelson Mandela walczący z apartheidem zmarł rzekomo w więzieniu w latach 80-tych. W rzeczywistości został wypuszczony w 1990 roku, mianowany prezydentem i ostatecznie zmarł w 2013 roku.

Sformułowanie Efekt Mandeli jest odtąd używane do określenia błędnie zapamiętanych wydarzeń i szczegółów. Ludzkie wspomnienia to wrażliwe fragmenty informacji przechowywane w mózgu. Gdy są przywoływane, a nie zostały doskonale pamiętane może następować konfabulacja - mózg wypełnia luki, których brakuje we wspomnieniach, aby nadać im większy sens.

Oczywiście w kształtowaniu pamięci zbiorowej ogromną rolę pełni dzisiaj Internet. Wraz z ogromem rozpowszechnianych informacji pojawia się potencjał niedopowiedzeń i kłamstw, które zyskają na popularności. To, co kiedyś było w wyobraźni jednostki, zaczyna wydawać się powszechnym faktem.

Jak rozpoznać deepfake?

Profesjonalnie zrobione deepfake bardzo trudno rozpoznać. Kiedyś algorytmy nie zachowywały drobnych zachowań, takich jak mruganie oczami czy poruszanie się w sposób sztuczny. Obecnie większość tych błędów została wyeliminowana. Jeśli dany filmik wzbudza wątpliwości, można przypatrzyć się szczegółom. Czy głos jest całkowicie zgodny z ruchem ust lub czy biżuteria błyszczy w naturalny sposób? A może mimika nie współgra z tonem głosu?
Zdarzają się również rozbieżności jeśli chodzi o jakość dźwięku i jakość wideo – głównie to audio jest gorszej jakości. Z tego powodu autorzy deepfake najczęściej wybierają statyczne nagrania, gdzie widoczny jest jedynie tułów danej osoby wraz z głową. Już szybkie ruchy palców stanowiłyby problem dla stworzenia wiarygodnego obrazu.

Większe korporacje podejmują coraz bardziej ambitne działania w celu walki z deepfake i inwestują w tworzenie oprogramowania, które ma wykrywać fałszywe zdjęcia i filmy oraz automatycznie je usuwać. Skala problemu jest ogromna, ponieważ do stworzenia nieprawdziwego nagrania wystarczy prosta aplikacja w telefonie komórkowym oraz brakuje solidnych regulacji prawnych jasno stanowiących o konsekwencjach za rozpowszechnianie deepfake.