Hluboké lži (deep fakes) jsou dokonalejší a nebezpečnější. Rozdělují společnost až k občanským nepokojům

Nejde jen o neškodná videa nebo pornografické materiály s tvářemi celebrit. Takzvané „hluboké lži“, deep fakes, mohou vyvolat i občanské nepokoje a polarizovat společnost. Právě před podobnými hrozbami umělé inteligence varuje ve své poslední zprávě evropský policejní úřad Europol.

Deepfakes jsou zjednodušeně řečeno falešná videa vytvářená počítačem. Vznikají pomocí deep learningu, tedy strojového učení v sítích umělé inteligence.Ve svých počátcích nebyla tato technologie příliš rozvinutá a rozeznání falešného videa od pravého nebylo tak složité. V současné době už ale pravost videa nelze bez odborného zkoumání ověřit, na což upozorňuje i Europol.

Pro lepší představu je dobré uvést několik známých příkladů. Celosvětově známým se stalo třeba video s Barackem Obamou, na kterém mluví hanlivě o prezidentu Donaldu Trumpovi. ¨

FALEŠNÉ VIDEO S BARACKEM OBAMOU

Dalším příkladem mohou být slova šéfa Facebooku Marka Zuckerberga o ovládání miliard lidí skrze ukradená data. V českém prostředí se pak za pokus o deep fake dá označit známé třeba video s „Milošem Zemanem a čínskou stařenkou“ (o autorech a okolnostech vzniku jsme psali ZDE).

S tím, jak se technologie vyvíjí a zlepšuje, je odhalování deepfakes videí stále složitější a nákladnější. Běžní uživatele internetu takový podvod rozšifrovat téměř jistě nedokážou.

Až místo celebrit přijdou politici

Europol proto naléhá, aby orgány činné v trestním řízení v jednotlivých členských zemích – zejména pak policie – investovaly do vývoje a využívání technologií, které jsou schopné falešná videa odhalit.

Některá taková videa jsou zatím jen vtipná a „nezávadná“. Čím dál častěji se však objevují upravená pornografická videa s falešnými obličeji. Například společnost Deeptrace, která se zaměřuje právě na využívání umělé inteligence v oblasti deepfakes, v září 2019 zaznamenala 15 tisíc deepfakes videí, což byl oproti předešlému roku dvojnásobný nárůst. Celých 96 % z těchto videí pak bylo pornografických, přičemž z toho celých 99 % zobrazovalo celebrity.

Europol ale upozorňuje, že neustále narůstá i riziko politické. Právě politicky motivovaná deepfakes videa mohou podle něj v budoucnu vyvolávat i občanské nepokoje nebo posilovat politickou polarizaci mezi uživateli internetu, a to pomocí šíření falešných zpráv a projevů známých politiků, které se budou zdát jako pravé.

Experti ve zprávě rovněž varují, že strůjci těchto videí se stále zdokonalují a učí se, jak současné monitorovací a ověřovací techniky přelstít.

„Deepfakes v tomto ohledu mohou představovat velkou výzvu současným forenzním audiovizuálním analýzám a ověřovacím technikám, které v současné době využívají příslušné orgány, média nebo neziskový sektor,“ uvádí zpráva Europolu.

Nešetřete a učte se

„Nezbytné jsou nejen významné investice k vytvoření nových monitorovacích technologií, které budou vyhledávat manipulace a nesrovnalosti ve vizuálním a zvukovém obsahu, ale i pravidelná aktualizace těchto technologií. Je třeba reflektovat vývoj technologií, které deepfakes videa vytváří,“ uvádí dále zpráva. Její autoři také píší, že při vytváření takových technologií mají policejní a jiné orgány spolupracovat i se soukromými společnostmi v oblasti technologického průmyslu.

EU by mohla představit konkrétní legislativní návrhy pro boj proti deepfakes v rámci „Aktu o digitálních službách“ (Digital Services Act, DSA, pozn. red.). Tento komplexní balíček návrhů bude pokrývat celou škálu oblastí, od moderování online obsahu na sociálních sítích přes zadávání politických reklam, regulaci algoritmů či reformu pravidel hospodářské soutěže v oblasti internetu.

Evropská komise návrh představí v prosinci, některé zdroje tvrdí, že DSA by mohl obsahovat i možnosti, jak bojovat proti hrozbám spojeným s deepfakes. Kromě DSA se má problematice dezinformací a falešných zpráv obecně věnovat zejména Akční plán pro demokracii (European Democracy Action Plan), který má Komise zveřejnit rovněž v prosinci. ato iniciativa se konkrétně zaměří na problematiku zahraničního vlivu a zasahování do demokratických procesů v Evropě právě pomocí šíření dezinformací a fake news. Je však málo pravděpodobné, že by některý z těchto návrhů přikázal on-line platformám dezinformační a falešný obsah mazat.

„Pokud jde o boj proti dezinformacím a škodlivému obsahu obecně, měli bychom se zaměřit spíše na to, jak je tento obsah vytvářen a šířen mezi lidmi než tlačit na jeho povinné odstraňování,“ uvedla před nedávnem místopředsedkyně Evropské komise pro hodnoty a transparentnost Věra Jourová.