Umělá inteligence může převzít lidské zkreslení, ale tím její vliv nemusí končit. V laboratorním experimentu se drobná tendence lidí označovat nejednoznačné výrazy tváře spíše za smutné nejprve otiskla do algoritmu. Ten ji následně zesílil a při opakované spolupráci přiměl další účastníky, aby se k podobně zkreslenému hodnocení postupně posunuli i bez jeho nápovědy. Nešlo tedy jen o chybný úsudek stroje, nýbrž o zpětnou vazbu mezi lidmi a softwarem.
Výzkum Mosheho Glickmana a Tali Sharotové, zveřejněný v časopise Nature Human Behaviour, začal zdánlivě prostým úkolem. Účastníci viděli soubory dvanácti tváří a měli rozhodnout, zda jejich průměrný výraz působil šťastněji, nebo smutněji. V prvním kole označili lidé za smutnější 53,08 % souborů, ačkoli byly podněty vyvážené. Šlo o malý rozdíl, který se navíc při opakování úkolu zmenšoval: lidé svou prvotní tendenci částečně korigovali.
Badatelé pak na těchto lidských odpovědích natrénovali konvoluční neuronovou síť, tedy typ algoritmu určený k rozpoznávání obrazových vzorů. Pokud síť dostala správné štítky, třídila výrazy přesně. Když se však učila z odpovědí lidí, převzala jejich nepatrný sklon ke smutnějšímu hodnocení a výrazně ho zvětšila. Za smutnější označila 65,33 % nových souborů tváří. Podle autorů může algoritmus při hledání pravidel v nepřesných datech využít i slabou systematickou odchylku, protože mu pomáhá předpovídat odpovědi v trénovacím souboru.
Nejdůležitější část přišla až potom. Noví účastníci nejprve sami hodnotili tváře, teprve pak viděli verdikt údajné umělé inteligence a mohli svůj názor změnit. Když se algoritmus s člověkem rozcházel, lidé změnili odpověď ve 32,72 % případů. V průběhu mnoha kol se ovšem neposouvaly jen jejich opravy po zobrazení rady. Ještě předtím, než dostali další algoritmický verdikt, začali tváře sami označovat za smutnější častěji než na začátku. Průměr se zvedl z 49,9 % na 56,3 %; v posledním bloku pokusů dosáhl 61,44 %.
Stejný postup mezi lidmi takto nefungoval. Když účastníci dostávali odpovědi od jiného člověka, při neshodě svůj výrok změnili jen v 11,27 % případů a jejich vlastní sklon se v čase nezvyšoval. Zajímavé je, že na výsledku nezáleželo pouze na tom, kdo radu skutečně vytvořil. Lidé se více přizpůsobovali i tehdy, když byl lidský výstup označen jako výstup AI. Naopak algoritmus vydávaný za člověka ovlivňoval úsudek méně, ale stále měřitelně. Představa, že odpověď pochází od stroje, tedy sama o sobě měnila váhu, kterou jí lidé přisuzovali.
Autoři zároveň neukazují umělou inteligenci jako nástroj, který lidský úsudek nutně zhoršuje. V jiném pokusu měli lidé odhadovat podíl teček pohybujících se na obrazovce doprava. Přesný algoritmus jejich výsledky zlepšil, zatímco algoritmus se systematicky nadhodnocujícími odhady do jejich úsudku přenesl vlastní chybu. Podstatné je, že účastníci skutečný vliv zaujatého a přesného systému nevnímali přesně: domnívali se, že více spoléhají na přesný program, ačkoli oba typy ovlivnily jejich konečná rozhodnutí podobnou měrou.
Nezávislá práce prezentovaná v roce 2025 na konferenci AAAI/ACM o etice AI sledovala příbuzný problém u generátorů obrázků. Ve třech studiích s celkem 1 881 účastníky výzkumníci ověřovali, co s představami lidí udělají obrázky povolání, v nichž převažují muži nebo ženy. Stereotypní výstupy nezvýšily měřenou skrytou genderovou předpojatost nad neutrální výchozí úroveň, ale výstupy záměrně ukazující ženy a muže v nestereotypních profesích ji dokázaly snížit. Současně takové obrazy preferovalo méně než 5 % účastníků. Laboratorní úkol s tvářemi proto nelze bez dalšího převést na běžný rozhovor s chatbotem ani na každé rozhodování v praxi. Ukazuje však konkrétní riziko: pokud se chybný systém tváří jako nestranná autorita a jeho rady se opakují, může postupně měnit i úsudek lidí, kteří ho používají.
Tento článek byl vytvořen s pomocí umělé inteligence a redakčně zkontrolován.