Nástroje umělé inteligence (AI) určené k diagnostice rakoviny z tkáňových vzorků se ukazují jako schopné nejen rozpoznávat vzory onemocnění, ale také odhalovat demografické charakteristiky pacientů na základě patologických snímků. Nový výzkum ukazuje, že tyto systémy mohou vyvozovat závěry o pacientech, což může vést k zaujatým výsledkům pro určité skupiny obyvatelstva. Tento problém pramení z metodiky, jakou jsou modely trénovány, a dat, která mají k dispozici, nikoli pouze z nedostatku vzorků.
Výzkum se zaměřil na to, jak AI systémy analyzují patologické snímky a jaké informace z nich dokážou extrahovat. Vědci zjistili, že algoritmy, které jsou trénovány na historických datech, mohou neúmyslně zachytit a reprodukovat demografické vzory, které nejsou vždy reprezentativní pro celou populaci. Například, pokud jsou tréninková data převážně složena z jedné etnické skupiny, modely mohou mít tendenci lépe diagnostikovat rakovinu u této skupiny, zatímco u jiných mohou vykazovat nižší přesnost.
Tento jev je důsledkem toho, jak jsou data shromažďována a jaké vzorky jsou zahrnuty do tréninkových setů. Pokud jsou některé demografické skupiny podreprezentovány, může to vést k systematickým chybám v diagnostice. Vědci se zabývali otázkou, jak tyto biasy eliminovat, a prezentovali metody, které mohou významně snížit disparitu v diagnostice mezi různými skupinami.
Jedním z přístupů, který byl testován, zahrnoval úpravu tréninkových dat tak, aby lépe odrážela rozmanitost populace. To zahrnovalo shromažďování vzorků z různých etnických a socioekonomických skupin a zajištění, že modely AI mají přístup k reprezentativnímu množství dat. Další metodou bylo použití technik, které umožňují modelům učit se z dat bez toho, aby se zaměřovaly na demografické charakteristiky pacientů, což by mělo vést k objektivnějším výsledkům.
V rámci studie vědci analyzovali více než 10 000 patologických snímků a porovnávali výsledky diagnostiky mezi různými skupinami. Zjistili, že modely, které byly trénovány na diverzifikovaných datech, vykazovaly výrazně lepší výkonnost napříč demografickými skupinami. Tento přístup nejenže zlepšil přesnost diagnostiky, ale také přispěl k větší důvěře pacientů v technologie AI.
Důležitým aspektem této problematiky je také etika použití AI v medicíně. Jakmile se ukáže, že AI systémy mohou ovlivnit diagnostické procesy na základě demografických charakteristik, je nezbytné zajistit, aby byly tyto technologie vyvíjeny a implementovány s ohledem na spravedlnost a rovnost. Vědci zdůrazňují, že je důležité nejen vyvinout efektivní diagnostické nástroje, ale také zajistit, aby tyto nástroje byly spravedlivé a dostupné pro všechny pacienty.
Dalším krokem v tomto výzkumu bude testování navržených metod na širším vzorku dat a v různých klinických prostředích. To by mělo poskytnout další důkazy o účinnosti navržených přístupů a jejich schopnosti eliminovat biasy v diagnostice rakoviny. Vzhledem k rostoucímu využívání AI v medicíně je nezbytné, aby se výzkumníci, klinici a vývojáři technologií spojili a pracovali na zajištění, že tyto systémy budou sloužit všem pacientům bez ohledu na jejich demografické charakteristiky.
Tento výzkum ukazuje, že umělá inteligence má potenciál nejen zlepšit diagnostiku rakoviny, ale také přispět k větší spravedlnosti v oblasti zdravotní péče.