Představa, že se umělá inteligence obrátí proti lidstvu podobně jako stroje ve filmu Terminátor, už není pouze námětem science fiction. O rizicích rychlého vývoje stále schopnějších modelů v poslední době veřejně hovoří šéf OpenAI Sam Altman i výkonný ředitel společnosti Anthropic Dario Amodei. Podle agentury Euronews se tím znovu otevřela otázka, nakolik je takzvaný scénář AI apokalypsy realistický.
Amodei vyzval firmy a vlády, aby tempo vývoje nejpokročilejších systémů přizpůsobily možnostem jejich bezpečnostního testování. Varoval mimo jiné, že bez zpomalení by se systémy mohly během relativně krátké doby naučit koordinovat velké množství autonomních agentů a působit v rozsáhlých částech internetu. Altman zároveň připustil, že lidé mají důvod z umělé inteligence pociťovat obavy, trvá ale na tom, že rizika lze řídit souběžně s dalším vývojem.
Současné modely podle Mezinárodní zprávy o bezpečnosti umělé inteligence vykazují některé první známky schopností, které by mohly být pro budoucí ztrátu lidské kontroly významné. Zatím však nejsou na úrovni, která by jim umožňovala samostatně převzít kontrolu nad kritickými systémy nebo lidstvem. Zpráva, na níž se podílely více než stovka odborníků, označuje pravděpodobnost, podobu i časování případného katastrofického scénáře za mimořádně nejisté.
Podstatou sporu není jen otázka, zda může stroj získat vlastní „vůli“. Odborníci upozorňují spíše na možnost, že by velmi schopný systém plnil zadaný úkol způsobem, který by byl v rozporu s lidskými zájmy. Riziko by mohlo vzniknout také z jeho zneužití při kybernetických útocích, výrobě biologických zbraní, manipulaci s informacemi nebo při automatizaci rozhodování v citlivých oblastech.
Reinhard Karger z Německého výzkumného centra pro umělou inteligenci v rozhovoru s Euronews považuje představu stroje, který si sám vytvoří pud sebezáchovy nebo touhu po moci a následně se obrátí proti lidstvu, za málo realistickou. Zároveň podle něj nelze podobný scénář zcela vyloučit vzhledem k tomu, jaké schopnosti by mohly budoucí systémy získat. Rozhodující proto nebude jen jejich výkon, ale také způsob, jakým budou navrženy, nasazeny a kontrolovány.
Rozdíly mezi expertními odhady jsou značné. Někteří výzkumníci považují vyhubení lidstva za velmi nepravděpodobné a za naléhavější pokládají dnešní problémy, například dezinformace, ztrátu pracovních míst nebo koncentraci technologické moci. Jiní upozorňují, že i malá pravděpodobnost katastrofického výsledku může být důvodem k mezinárodní regulaci. Centrum pro bezpečnost umělé inteligence už v roce 2023 označilo snížení rizika vyhubení lidstva způsobeného AI za globální prioritu srovnatelnou s pandemiemi nebo jadernou válkou.
Podle odborných hodnocení tedy žádný bezprostřední „Terminator“ současné lidstvo neohrožuje. Debata se týká především budoucích systémů, jejichž schopnosti nelze spolehlivě předpovědět. Firmy vyvíjející nejvýkonnější modely proto čelí tlaku, aby zavedly nezávislé bezpečnostní prověrky, sdílely informace o rizicích a umožnily státním institucím kontrolovat, zda vývoj nezaostává za ochranou společnosti.
Zdroj: Euronews
Tento článek byl vytvořen s pomocí umělé inteligence a redakčně zkontrolován.