Článek o vysvětlitelné AI patří mezi nejcitovanější práce v oboru
Vědecký článek A Review of Explainable Artificial Intelligence in Healthcare, jehož autorem je doc. RNDr. Hossein Moosaei, Ph.D., zaznamenal výrazný mezinárodní ohlas – byl zařazen mezi tzv. Highly Cited Papers i Hot Papers, tedy mezi nejcitovanější a nejvlivnější práce v oboru informatiky.
Vysvětlitelná umělá inteligence (Explainable Artificial Intelligence, XAI) označuje přístupy, které umožňují lidem porozumět rozhodování systémů umělé inteligence. Na rozdíl od modelů fungujících jako „black box“ pomáhá XAI odhalit, jak a proč systém dospěl ke konkrétní predikci, a tím výrazně zvyšuje transparentnost i důvěryhodnost těchto technologií.
Tento přístup je zásadní zejména ve zdravotnictví, kde mohou rozhodnutí umělé inteligence přímo ovlivnit zdraví pacientů. Lékaři potřebují doporučení AI nejen přijímat, ale také jim rozumět a kriticky je vyhodnocovat – aby byla zajištěna bezpečnost, minimalizováno zkreslení a podpořeno informované rozhodování.
Samotný článek přináší ucelený přehled metod XAI využívaných ve zdravotnictví a zdůrazňuje jejich klíčovou roli při budování důvěry a spolehlivosti.
Hlavním sdělením je, že úspěšné nasazení umělé inteligence v klinické praxi vyžaduje propojení vysoké technické přesnosti se srozumitelnými, na člověka orientovanými vysvětleními.
Odkaz na článek:
https://www.sciencedirect.com/science/article/pii/S0045790624002982