28. srpna 2024 – Jižní Korea, známá svým technologickým pokrokem a vysokou mírou digitalizace, se ocitla v závažné krizi kvůli rozšíření deepfake pornografie. Tento fenomén, který zahrnuje manipulaci s videi za použití umělé inteligence k vytvoření realistických falešných záznamů, postihl tisíce žen v zemi a vyvolal rozsáhlé obavy jak u veřejnosti, tak u vlády.
Deepfake pornografie v Jižní Koreji zažila masivní nárůst zejména v posledních dvou letech, kdy se dostupnost a sofistikovanost technologií umělé inteligence výrazně zlepšily. Videa, ve kterých jsou obličeje nevinných žen – často celebrit nebo veřejně známých osob – připojeny k tělům v pornografických scénách, se šíří po internetu neuvěřitelnou rychlostí. Tento trend vytvořil obrovský tlak na oběti, jejich rodiny a přátelé, a vyvolal otázky ohledně právního rámce a ochrany soukromí v digitálním věku.
„Jsme svědky krize, která přesahuje hranice tradičního zločinu,“ uvedl představitel jihokorejského ministerstva spravedlnosti. „Tato videa nejen narušují soukromí obětí, ale také je vystavují veřejnému ponížení a sociálnímu ostrakismu, což může mít devastující psychologické dopady.“
Jihokorejská vláda se proto rozhodla vyhlásit tento problém jako národní „nouzový stav“ a přistoupit k bezprecedentním krokům na jeho řešení. Mezi nimi jsou návrhy na zpřísnění trestů za výrobu a šíření deepfake videí, posílení zákonů na ochranu soukromí a zvýšení financí na podporu obětí. Jižní Korea také zvažuje vytvoření speciálního útvaru zaměřeného na boj proti kybernetickým zločinům, který by se soustředil právě na odhalování a blokování deepfake obsahu.
Společnosti provozující sociální média a další online platformy, kde se tato videa šíří, jsou rovněž pod rostoucím tlakem, aby přijaly přísnější opatření proti šíření deepfake materiálů. Technologičtí giganti včetně domácích platforem jako Kakao a Naver byli vyzváni, aby investovali do vývoje pokročilých nástrojů pro detekci a odstraňování takového obsahu.
Navzdory těmto krokům však odborníci varují, že boj proti deepfake pornografii bude dlouhý a náročný. Technologie umělé inteligence se totiž neustále vyvíjí, což umožňuje zločincům vytvářet stále sofistikovanější a obtížněji odhalitelná videa. „Je to závod mezi tvůrci deepfake obsahu a těmi, kdo se ho snaží zastavit,“ uvedl expert na kybernetickou bezpečnost z univerzity v Soulu. „Musíme být připraveni na to, že tato technologie bude nadále způsobovat problémy, pokud nebudeme investovat do inovací a vzdělávání.“
Pro mnoho obětí a jejich rodiny přichází tato opatření již příliš pozdě. Mnohé ženy, jejichž tváře byly zneužity v deepfake videích, čelí vážným psychologickým problémům, ztrátě zaměstnání a společenské stigmatizaci. V Jižní Koreji, kde je společenský tlak a důraz na reputaci mimořádně vysoký, mohou být důsledky pro oběti ničivé.
Jižní Korea se nyní nachází na křižovatce, kde se musí rozhodnout, jakým směrem se v boji proti deepfake pornografii vydá. Ačkoli jsou první kroky ke zpřísnění zákonů a zvýšení povědomí o problému vítány, zůstává otázkou, zda budou tyto kroky stačit k ochraně občanů v éře, kdy je možné zneužít technologie tak snadno a rychle.