Hluboké lži (deep fakes) jsou dokonalejší a nebezpečnější. Rozdělují společnost až k občanským nepokojům

Nejde jen o neškodná videa nebo pornografické materiály s tvářemi celebrit. Takzvané „hluboké lži“, deep fakes, mohou vyvolat i občanské nepokoje a polarizovat společnost. Právě před podobnými hrozbami umělé inteligence varuje ve své poslední zprávě evropský policejní úřad Europol.
Deepfakes jsou zjednodušeně řečeno falešná videa vytvářená počítačem. Vznikají pomocí deep learningu, tedy strojového učení v sítích umělé inteligence.Ve svých počátcích nebyla tato technologie příliš rozvinutá a rozeznání falešného videa od pravého nebylo tak složité. V současné době už ale pravost videa nelze bez odborného zkoumání ověřit, na což upozorňuje i Europol.
Pro lepší představu je dobré uvést několik známých příkladů. Celosvětově známým se stalo třeba video s Barackem Obamou, na kterém mluví hanlivě o prezidentu Donaldu Trumpovi. ¨
FALEŠNÉ VIDEO S BARACKEM OBAMOU
Dalším příkladem mohou být slova šéfa Facebooku Marka Zuckerberga o ovládání miliard lidí skrze ukradená data. V českém prostředí se pak za pokus o deep fake dá označit známé třeba video s „Milošem Zemanem a čínskou stařenkou“ (o autorech a okolnostech vzniku jsme psali ZDE).
S tím, jak se technologie vyvíjí a zlepšuje, je odhalování deepfakes videí stále složitější a nákladnější. Běžní uživatele internetu takový podvod rozšifrovat téměř jistě nedokážou.
Až místo celebrit přijdou politici
Europol proto naléhá, aby orgány činné v trestním řízení v jednotlivých členských zemích – zejména pak policie – investovaly do vývoje a využívání technologií, které jsou schopné falešná videa odhalit.
Některá taková videa jsou zatím jen vtipná a „nezávadná“. Čím dál častěji se však objevují upravená pornografická videa s falešnými obličeji. Například společnost Deeptrace, která se zaměřuje právě na využívání umělé inteligence v oblasti deepfakes, v září 2019 zaznamenala 15 tisíc deepfakes videí, což byl oproti předešlému roku dvojnásobný nárůst. Celých 96 % z těchto videí pak bylo pornografických, přičemž z toho celých 99 % zobrazovalo celebrity.
Europol ale upozorňuje, že neustále narůstá i riziko politické. Právě politicky motivovaná deepfakes videa mohou podle něj v budoucnu vyvolávat i občanské nepokoje nebo posilovat politickou polarizaci mezi uživateli internetu, a to pomocí šíření falešných zpráv a projevů známých politiků, které se budou zdát jako pravé.
Experti ve zprávě rovněž varují, že strůjci těchto videí se stále zdokonalují a učí se, jak současné monitorovací a ověřovací techniky přelstít.
„Deepfakes v tomto ohledu mohou představovat velkou výzvu současným forenzním audiovizuálním analýzám a ověřovacím technikám, které v současné době využívají příslušné orgány, média nebo neziskový sektor,“ uvádí zpráva Europolu.
Nešetřete a učte se
„Nezbytné jsou nejen významné investice k vytvoření nových monitorovacích technologií, které budou vyhledávat manipulace a nesrovnalosti ve vizuálním a zvukovém obsahu, ale i pravidelná aktualizace těchto technologií. Je třeba reflektovat vývoj technologií, které deepfakes videa vytváří,“ uvádí dále zpráva. Její autoři také píší, že při vytváření takových technologií mají policejní a jiné orgány spolupracovat i se soukromými společnostmi v oblasti technologického průmyslu.
EU by mohla představit konkrétní legislativní návrhy pro boj proti deepfakes v rámci „Aktu o digitálních službách“ (Digital Services Act, DSA, pozn. red.). Tento komplexní balíček návrhů bude pokrývat celou škálu oblastí, od moderování online obsahu na sociálních sítích přes zadávání politických reklam, regulaci algoritmů či reformu pravidel hospodářské soutěže v oblasti internetu.
Evropská komise návrh představí v prosinci, některé zdroje tvrdí, že DSA by mohl obsahovat i možnosti, jak bojovat proti hrozbám spojeným s deepfakes. Kromě DSA se má problematice dezinformací a falešných zpráv obecně věnovat zejména Akční plán pro demokracii (European Democracy Action Plan), který má Komise zveřejnit rovněž v prosinci. ato iniciativa se konkrétně zaměří na problematiku zahraničního vlivu a zasahování do demokratických procesů v Evropě právě pomocí šíření dezinformací a fake news. Je však málo pravděpodobné, že by některý z těchto návrhů přikázal on-line platformám dezinformační a falešný obsah mazat.
„Pokud jde o boj proti dezinformacím a škodlivému obsahu obecně, měli bychom se zaměřit spíše na to, jak je tento obsah vytvářen a šířen mezi lidmi než tlačit na jeho povinné odstraňování,“ uvedla před nedávnem místopředsedkyně Evropské komise pro hodnoty a transparentnost Věra Jourová.
Nepřehlédněte:
- Hoax a manipulace: Budoucí prezident USA Joe Biden není pedofil a ani neobtěžuje ženy. Zdrojem nesmyslů je konspirační teorie QAnon
- Dezinformace kolem COVID-19: Během testování vám zavedou čip, roušky jsou škodlivé a zabily děti v Německu, Gates chce redukovat lidstvo
- Petra Gelbart: Média dávají prostor nesprávným odborníkům, kteří k pandemii nemají co mluvit
- Další nebezpečný HOAX! Romové prý mají léky zdarma: Tato lež se šíří už skoro devět let
Kam dál:
- PREMIÉRA: Lékař Jarý se nechá očkovat a vadí mu dezinformace o koronaviru
- Tomáš Zdechovský: Romové prý mohou bez práce získat důchod 24 000 korun a jiné nesmysly
- Analytici: Útok na Kongres dílem extremistů a dezinformační scény. Takto se mění verbální štvaní ve vražedný útok
- Giňa Tabarik: Romale, Bill Gates vás nechce sledovat, očkování nezabíjí a čip ve vakcíně taky nebude!
- Europoslanec Peter Pollák se nechal naočkovat proti koronaviru. Chce dát Romům příklad a chce bojovat proti konspiračním teoriím, kterými jsou Romové ovlivněni
- Česko zasáhla pandemie dezinformací týkající se očkování proti onemocnění COVID-19. Vyvracíme ty nejčastější hoaxy a manipulace
- Hoax: George Soros nebyl zatčen a není ve vazbě - a už vůbec ne kvůli zasahování do amerických voleb
- Rezort zdravotnictví bude vyvracet dezinformace o pandemii onemocnění COVID-19
- Hoax a manipulace: Budoucí prezident USA Joe Biden není pedofil a ani neobtěžuje ženy. Zdrojem nesmyslů je konspirační teorie QAnon
- Extremistická scéna stagnuje, protože zvýšená tolerance veřejnosti k projevům nenávisti umožnila opanovat prostor politikům
- Glosa Emila Voráče: Politici zneužívají nevědomost lidí. Zlo, bezcitnost, nenávist a lež vítězí
- Dezinformace kolem COVID-19: Během testování vám zavedou čip, roušky jsou škodlivé a zabily děti v Německu, Gates chce redukovat lidstvo
Štítky:
dezinformace, Hoax, manipulaceHLAVNÍ ZPRÁVY

videoRomové a očkování proti onemocnění COVID-19. Kdo si nechá dát vakcínu a kdo ne?
18.1.2021 22:10
Občanští členové "romské rady": Křeček nezná své kompetence, k romské strategii se vyjadřuje nepravdivě, soustavně cíleně podkopává důstojnost Romů
18.1.2021 15:03