Deepfake - co to jest?

Termin "deepfake" cieszy się sporą popularnością w ostatnim czasie zarówno w kręgach technologicznych, jak i społecznych, jednak czy jego znaczenie jest do końca zrozumiałe? Wielu z nas zastanawia się, na czym polega to zjawisko, które odkąd pojawiło się, budzi nie lada kontrowersje. Dlatego też postanowiliśmy zgłębić ten temat, by móc wyjaśnić wam czym jest deepfake, jak działa oraz z jakimi konsekwencjami może się wiązać. Pokażemy wam wyzwania oraz zagrożenia związane z wykorzystaniem sztucznej inteligencji w ten sposób, a także podpowiemy przydatne kwestie związane z cyberbezpieczeństwem, które w pewien sposób pomogą wam uchronić się przed negatywnymi skutkami deepfake w codziennym życiu.

Deepfake- definicja

Deepfake to tworzenie realistycznych multimediów za pomocą sztucznej inteligencji, w postaci niezwykle autentycznych plików audio, video oraz zdjęć, które mają na celu manipulację odbiorców. Za ich pośrednictwem istnieje możliwość stworzenia fałszywych informacji, wpływania na opinię publiczną, szantażowania lub oszukiwania osób, oraz tworzenia nieprawdziwych scen video. Popularną aplikacją, która umożliwia użytkownikom tworzenia deepfake jest chińska aplikacja ZAO, która w prosty sposób pozwala na zmianę twarzy w plikach video.

Algorytmy technologii deepfake

Algorytmy technologii deepfake bazują na sieciach neuronowych, będące rodzajem sztucznej inteligencji. Z pomocą technologii algorytm jest w stanie stworzyć realistyczne obrazy oraz dźwięki na podstawie wzoru. Tworzenie deepfaków z wykorzystaniem specjalnych algorytmów zaczyna się od zebrania dużej ilości danych treningowych, w postaci plików video oraz zdjęć ludzkiej twarzy, które pomogą sztucznej inteligencji zapoznać się z jej mimiką oraz rozpoznawaniu poszczególnych cech. Następnie algorytm przy wykorzystaniu oryginalnego materiału generuje obrazy lub video, na którym fikcyjna postać imituje to jak wygląda dana osoba.

W kolejnym etapie sztuczna inteligencja wykorzystuje głębokie uczenie poprzez zastosowanie generatywnych sieci działania (generative adversarial networks) i na tej podstawie stara się stworzyć jak najbardziej zgodny z rzeczywistością obraz. GAN działa na zasadzie generatora i dyskryminatora, które prowadzą ze sobą swojego rodzaju grę, w której jeden chce przechytrzyć drugiego. W trakcie gdy generator produkuje realistyczne obrazy, dyskryminator ma na celu odróżnić prawdziwe dane od wygenerowanych.

Technologia deepfake pozwala na dostosowanie różnego rodzaju kontekstów, które sprawiają, że sztucznie stworzone wideo staje się autentyczne. W tym celu wykorzystuje się synchronizację mimiki twarzy z dźwiękiem, lub innymi czynnikami zewnętrznymi. Tworzenie zmanipulowanych treści wymaga wprawy oraz wielokrotnej optymalizacji modelu, co pozwala uzyskać jak najbardziej wiarygodne rezultaty, na tyle, że ciężko je odróżnić od prawdziwych treści.

Technologia deepfake a regulacje prawne

Deepfake jest niebezpiecznym narzędziem, które stanowi wyzwanie dla regulacji prawnych, ze względu na bezpieczeństwo jednostek, społeczeństwa, a także demokracji. Poniżej przedstawiamy istotne aspekty, które wymagają działalności na szczeblu globalnym, by móc uchronić społeczeństwo od nieprawdziwych informacji, a co za tym idzie również ich konsekwencjami.

• Ochrony danych osobowych oraz wizerunku- z wykorzystaniem deepfake mogą być tworzone fałszywe materiały naruszające prywatność oraz prawa do wizerunku. By wraz z rozwojem technologii móc temu przeciwdziałać niezbędne są sankcje, które pomogą odpowiednim organom rozwiązywać problemy i odpowiednio karać osoby, które rozpowszechniają nieprawdziwe informacje.

• Bezpieczeństwo wewnętrzne i publiczne- deepfake może być wykorzystywany do manipulacji opinii publicznej za pomocą zastosowania nieprawdziwych obrazów lub informacji zawartych w spreparowanych materiałach wideo z udziałem znanych osób, co może być wysoce niebezpieczne dla stabilności społecznej i politycznej. Powinny zostać wprowadzone zakazy tworzenia i rozpowszechniania tego typu treści w celu dezinformowania, oraz manipulowania opinią publiczną.

• Ochrona praw autorskich- biorąc pod uwagę fakt, że do stworzenia nowych materiałów w technologii deepfake korzysta się z wcześniej powstałych obrazów oraz materiałów video prawdopodobnie dochodzi do naruszenia praw autorskich. Niezbędne jest wprowadzenie przepisów, które będą chronić twórców oraz określały zasady wykorzystywania ich do tworzenia deepfake'ów.

• Transparentność i identyfikacja- regulacje prawne mogą narzucać obowiązek oznaczenia fałszywych materiałów w określony sposób, dzięki czemu będzie można odróżnić je w prosty sposób. Koniecznością jest także stworzenie odpowiedniego oprogramowania, które będzie w stanie trafnie odróżnić prawdziwe źródła od tych wygenerowanych.

• Odpowiedzialność platform internetowych- miejsca publikacji oraz rozpowszechniania deepfake'ów powinny brać odpowiedzialność za ich oznaczanie, oraz usuwanie, ze względu na naruszenia regulacji prawnych oraz zasad korzystania platform. Opracowanie wytycznych odnośnie modernizacji treści oraz współpracy serwisów z organami ścigania jest więc koniecznością w walce ze zwalczaniem deepfake.

Zastosowanie technologii deepfake

Technologię deepfake wykorzystuje się na różnych obszarach, które w rzeczywistości mogą przynieść zarówno pozytywne jak i negatywne skutki. Wśród korzyści tworzonych za pomocą technologii deepfake możemy wyróżnić np. rozrywkę i media, gdzie sztuczną inteligencję wykorzystuje się do tworzenia efektów specjalnych w filmach oraz grach video, rekonstrukcji wydarzeń historycznych za pomocą starych zdjęć lub filmów, czy tworzenia automatycznego generowania animacji, oraz programów informacyjnych. Wykorzystanie technologii w ten sposób pomaga stworzyć unikalne materiały wysokiej jakości, a nawet zoptymalizować czas i koszty produkcji. Deepfake pozwala artystom i twórcom na eksperymentowanie z najnowszymi technologiami, co w połączeniu z ludzką kreatywnością może przynieść spektakularne efekty.

Jednak istnieje również druga strona medalu, gdzie stosuje się technikę zamiany twarzy do różnego typu przestępstw. Potencjalne zagrożenia, na jakie możemy napotkać to oszustwa, szantaże, manipulacja opinią publiczną, czy próby wyłudzania pieniędzy. W tym przypadku deepfake generuje szereg zagrożeń związanych z bezpieczeństwem całego społeczeństwa, ale też jednostek.

Deepfake- czy wykorzystanie sztucznej inteligencji w ten sposób może być niebezpieczne?

Jak już wspomnieliśmy, deepfake może być wykorzystany również przeciwko nam, czyli użytkownikom aktywnym w internecie. By móc temu zapobiec, musimy wiedzieć, przed czym się chronić oraz w jaki sposób nasze dane mogą zostać wykorzystane przeciwko nam. Ze względu na rozwój technologii wszelkie treści prywatne, jakie udostępniamy na swoich profilach portali społecznościowych (szczególnie publicznych), mogą w prosty sposób zostać spreparowane i wykorzystane do niebezpiecznych celów, zagrażających prywatności i bezpieczeństwu.

Zdarza się, że nieprawdziwe video (zazwyczaj ukazujące kogoś w kompromitującej sytuacji) jest wykorzystywane w celu szantażu osoby, która stała się celem oszustów. Dochodziło również do sytuacji, w których przestępcy na podstawie treści udostępnianych przez rodziców dzieci, tworzyli na ich podstawie ich profile i aranżowali fikcyjne porwania w celu okupu. Choć media społecznościowe są w dzisiejszych czasach potęgą, która pozwala nam na komunikowanie się oraz dokumentowanie swojego codziennego życia musimy pamiętać, że każda informacja opublikowana w internecie może zostać wykorzystana przeciwko nam. Warto dbać o swoją prywatność, korzystając z kont zablokowanych dla obcych i nie udostępniać zbyt wielu prywatnych treści na swój temat, by uchronić siebie i swoich bliskich przed negatywnymi skutkami deepfake.

Jak rozpoznać deepfake?

W miarę rozwoju technologii deepfake często prawdziwe materiały są bardzo ciężkie do wykrycia. Istnieje jednak kilka wspólnych cech fałszywych treści, na które warto zwrócić uwagę, chcąc sprawdzić wiarygodność danych materiałów. Często deepfake posiada pewne niedociągnięcia jeśli chodzi o mimikę lub ruchy twarzy. Te nierealistycznie oddane cechy, które nie pasują w pełni do kontekstu video, mogą być znakiem ostrzegawczym. Podobnie jest z dźwiękiem, który nie do końca współgra z obrazem. Zdarza się, że zdjęcia lub filmy deepfake posiadają pewne mankamenty, które nie współgrają z resztą materiału, co również może być alarmujące. Naszą czujność mogą wzbudzić też szczegóły w postaci niedokładnych krawędzi lub nieprawidłowości w renderowaniu obrazu, które mogą świadczyć o wcześniejszej obróbce cyfrowej pliku.

Aby móc mieć pewność, że dane źródło jest prawdziwe, zawsze warto sprawdzić jego autentyczność na podstawie innych źródeł dostępnych w sieci i na tej podstawie dokonać oceny. Zdajemy sobie jednak sprawę, że wraz z dynamicznym rozwojem technologii wykrycie deepfake'ów będzie stawało się coraz trudniejsze do rozpoznania, dlatego też warto zachować ostrożność w przypadku podejrzanych treści.

Jak ograniczać negatywne skutki deepfake?

W dzisiejszych czasach walka z technologią na tej płaszczyźnie jest ciężkim zadaniem, biorąc pod uwagę powszechne wykorzystanie internetu oraz dostęp do różnego rodzaju mediów. Jednak by móc ograniczyć negatywne skutki deepfake należy działać na wielu płaszczyznach m.in. społecznej, prawno-regulacyjnej oraz technologicznej. Poniżej przedstawiamy kilka sposobów na ograniczenie niebezpiecznych skutków wykorzystania sztucznej inteligencji w zakresie deepfake.

Wraz z rozwojem postępów w tej dziedzinie warto równocześnie doskonalić technologie wykrywania oraz identyfikacji fałszywych treści. Inwestycje w przeciwstawny, inny rodzaj uczenia maszynowego oraz badania nad sztuczną inteligencją pozwolą na opracowanie skutecznych narzędzi do walki ze zmanipulowanymi materiałami. Niezbędne jest wprowadzenie odpowiednich regulacji prawnych, które będą regulować kwestię rozpowszechniania fałszywych treści oraz karania sprawców za szerzenie dezinformacji. Z racji tego, że jest to problem globalny, konieczna jest współpraca międzynarodowa oraz ustalenie wspólnych standardów regulacji, oraz strategii zwalczania tego zjawiska.

Niezwykle istotne jest zwiększanie świadomości społecznej poprzez edukowanie odbiorców na temat udostępnianych treści w internecie oraz ryzyka, jakie za sobą niosą. Istotne jest również wykształcenie krytycznego myślenia, dystansu oraz weryfikacji źródeł informacji, które do nas trafiają. Ważne jest również stworzenie specjalnych organów wsparcia, dla osób, które padły ofiarą deepfake, gdzie otrzymają pomoc psychologiczną oraz ochronę.