Umělá inteligence se často představuje jako nástroj, který lidem pomůže rozhodovat nestranněji. Experiment psychologů z University College London ale ukázal opačný a velmi konkrétní efekt. Stačilo, aby si účastníci prohlédli několik obrázků finančních manažerů vytvořených generátorem Stable Diffusion, a následně častěji tipovali, že manažerem bude běloch. Nešlo přitom o zkoušku znalostí trhu práce, ale o změnu rychlého sociálního úsudku po kontaktu s výstupy AI.
Výzkum popsaný ve studii zveřejněné v časopise Nature Human Behaviour zahrnul celkem 1 401 lidí v několika navazujících experimentech. Autoři Moshe Glickman a Tali Sharot zkoumali takzvanou zpětnovazební smyčku: situaci, kdy lidé předají systému svůj již mírně zkreslený pohled, algoritmus jej při zpracování ještě zesílí a jeho výstupy pak ovlivní další lidské soudy. Zkreslením se zde nemyslí vědomý předsudek každého jednotlivce, ale systematická odchylka, která v souhrnu nadržuje jedné možnosti před jinou.
První část pokusu se odehrávala daleko od pracovních pohovorů. Dobrovolníci krátce pozorovali sestavy dvanácti obličejů a rozhodovali, zda na ně souhrnně působí spíše smutně, nebo vesele. Z jejich odpovědí vědci vytvořili trénovací data pro konvoluční neuronovou síť, tedy typ algoritmu vhodný pro rozpoznávání obrazových vzorů. Lidé měli ve svém hodnocení drobnou tendenci přiklánět se k tomu, že obličeje jsou smutnější. Algoritmus se tuto tendenci nejen naučil, ale vyjadřoval ji silněji.
Další skupina pak řešila stejný úkol, tentokrát však po vlastní odpovědi viděla i verdikt údajného algoritmu a mohla svůj soud změnit. Pokud se AI s člověkem rozcházela, účastníci odpověď upravili zhruba ve třetině případů. Podstatné bylo, že po opakované spolupráci s takto nastaveným systémem převzali jeho zkreslení ve větší míře. Srovnávací pokusy, v nichž místo algoritmu vystupoval jiný člověk, nevykázaly stejné zesílení. Označení „AI“ tedy zřejmě nepůsobilo jen jako další názor v diskusi.
Nejnázornější část studie se týkala společenských stereotypů. Sto účastníků nejprve opakovaně vybíralo ze šesti tváří člověka, který by podle nich nejspíše pracoval jako finanční manažer. Ve výběru byli bílý muž a bílá žena, asijský muž a asijská žena i černý muž a černá žena. Poté jedna skupina viděla trojice snímků údajných finančních manažerů, které vytvořil Stable Diffusion. Kontrolní skupina místo nich sledovala abstraktní fraktální obrázky. Nakonec všichni znovu absolvovali původní výběr z tváří.
Po expozici obrázkům od AI se zvýšila ochota označovat za finančního manažera bílého muže; po pohledu na fraktály se stejná změna neobjevila. Experiment neříká, že každý uživatel podobného nástroje automaticky získá pevný předsudek ani že jediná série obrázků rozhoduje o skutečném náboru zaměstnanců. Ukazuje však měřitelný mechanismus, jak může vizuální stereotyp vyrobený modelem posunout lidské očekávání. To je důležité právě tam, kde se podobné nástroje používají dlouhodobě: při vyhledávání informací, tvorbě ilustrací, doporučování kandidátů nebo jako podklad pro rozhodování.
Na podobný jev nezávisle narazil také tým z University of Aberdeen. Ve čtyřech experimentech se 782 účastníky zkoumal první dojem z fiktivních postav, k němuž lidé dostávali doporučení založená na odpovědích ChatGPT-3.5. Podle studie v časopise Royal Society Open Science posilovala doporučení opírající se o tradiční genderové stereotypy stereotypní hodnocení účastníků. Když naopak systém doporučoval vlastnosti stereotypům odporující, dokázal původní zkreslení omezit, někdy i obrátit. AI tedy nemusí lidské zkratky jen rozmnožovat; záleží na tom, jaké vzorce její výstupy nesou.
Praktický problém není v tom, že by algoritmus měl vlastní názor. Generátor obrázků ani jazykový model nic „nepředpokládá“ v lidském smyslu. Statisticky navazuje na vzory ve svých datech a ve výstupech, které byl naučen vytvářet. Pokud se pak takové výstupy opakovaně objevují před lidmi jako zdánlivě neutrální ukázka světa, mohou začít působit jako tichá nápověda, jak svět vypadá a kdo do jaké role údajně patří. Studie Glickmana a Sharot proto posouvá debatu od otázky, zda je model zaujatý, k neméně důležité otázce: co jeho zaujatost udělá s úsudkem lidí, kteří jej používají.
Tento článek byl vytvořen s pomocí umělé inteligence a redakčně zkontrolován.