Obrázky vytvořené nebo upravené nástroji umělé inteligence se šíří sociálními sítěmi stále častěji a samotný pohled na snímek už obvykle nestačí k jistému určení jeho původu. Německá veřejnoprávní stanice Deutsche Welle ve svém přehledu doporučuje kombinovat několik postupů: prověřit autora a okolnosti zveřejnění, hledat původní zdroj a všímat si nesrovnalostí v detailech. Dnešní generátory však dokážou řadu dříve nápadných chyb odstranit, takže žádný jednotlivý znak nelze považovat za důkaz.
Prvním krokem je ověřit, kdo snímek zveřejnil, kdy se objevil a jaké tvrzení ho doprovází. Účet bez dohledatelné historie, chybějící autor fotografie nebo neurčité údaje o místě a datu jsou důvodem k opatrnosti. Stejně důležité je porovnat obraz s důvěryhodným zpravodajstvím a oficiálními informacemi. I autentická fotografie může být zavádějící, pokud je vydávána za jinou událost, místo nebo dobu. Otázkou proto nemá být jen to, zda snímek vytvořila umělá inteligence, ale také zda skutečně dokládá tvrzení, s nímž je sdílen.
Pomoci může zpětné vyhledávání obrázků. Umožňuje zjistit, zda se stejný či podobný snímek neobjevil dříve v jiném kontextu, případně dohledat jeho původní publikaci. Výsledek nemusí vždy odhalit digitálně vytvořený obraz, ale často ukáže, že fotografie byla převzata ze starší události nebo upravena. U snímků, které mají zachycovat mimořádnou událost, je vhodné hledat také další fotografie, videozáznamy, svědectví a informace od institucí či médií působících v daném místě.
Vizuální chyby jsou jen vodítkem
Mezi známé varovné znaky patří nepřirozené ruce a prsty, deformované předměty, nelogické odrazy, chybné nápisy, nesoulad světla a stínů nebo neobvyklé přechody mezi jednotlivými částmi obrazu. Podezřelé mohou být také opakující se prvky v davu či pozadí a anatomické detaily, které neodpovídají skutečnosti. Takové nedostatky mohou ukazovat na použití generativního nástroje nebo na jinou digitální úpravu. Nejsou ale samy o sobě rozhodující: nízké rozlišení, komprese při sdílení či běžná editace mohou podobné artefakty vytvářet i u pravých fotografií.
Americký Národní institut pro standardy a technologie, známý pod zkratkou NIST, upozorňuje, že systémy pro automatické rozpoznávání syntetických snímků musejí držet krok s rychle se vyvíjejícími modely a metodami úprav. Detektory založené na analýze pixelů proto nelze chápat jako konečný verdikt. Mohou poskytnout další signál pro práci redakcí nebo ověřovatelů, jejich výsledek je však nutné posoudit společně s původem snímku a jeho obsahem.
Větší význam získávají takzvané Content Credentials, technický standard koalice C2PA pro zaznamenání původu digitálního obsahu. K souboru lze kryptograficky připojit informace o vzniku, použitých nástrojích a následných úpravách. Pokud jsou tyto údaje zachované a ověřitelné, mohou například uvádět, že se na vytvoření snímku podílel generativní systém. Standard ale neodpovídá na otázku, zda obraz věrně popisuje skutečnost. Zaznamenává historii souboru, nikoli pravdivost děje, který má zachycovat.
Absence těchto údajů navíc neznamená, že obraz je pravý. Metadata lze při převodu formátu, nahrání na některé platformy nebo pořízení snímku obrazovky odstranit. Podobně samotná přítomnost technického označení nevylučuje, že obrázek byl použit korektně například jako ilustrace. Pro běžného uživatele tak zůstává nejspolehlivějším postupem zpomalit sdílení, dohledat původní zdroj, ověřit kontext a nepřikládat rozhodující váhu ani nápadné vizuální chybě, ani výsledku jediného automatizovaného nástroje.
Zdroj: Deutsche Welle
Tento článek byl vytvořen s pomocí umělé inteligence a redakčně zkontrolován.