Výzvy a důsledky využití umělé inteligence v radiologii

ČERNÝ, Martin and Daniel KVAK. Výzvy a důsledky využití umělé inteligence v radiologii. In Miloš Táborský et al. Digitální medicína II. 2nd ed. Praha: EEZY, 2023, p. 174-192, 9 pp.

Basic information

• Original name: Výzvy a důsledky využití umělé inteligence v radiologii
• Authors: ČERNÝ, Martin and Daniel KVAK.
• Edition: 2. vyd. Praha, Digitální medicína II, p. 174-192, 9 pp. 2023.
• Publisher: EEZY

Other information

• Type of outcome: Proceedings paper
• Confidentiality degree: is not subject to a state or trade secret
• Publication form: printed version "print"
• Keywords (in Czech): Umělá inteligence, počítačem podporovaná detekce, hluboké učení, rentgen hrudníku
• Tags: Reviewed

Abstract

Poselství pro praxi Vývoj umělé inteligence (AI) v lékařském zobrazování přináší mnoho výzev a příležitostí. AI může pomoci lékařům v diagnostice, detekci patologií a zlepšení kvality obrazů. Pokud pochopíme její roli jakožto podpůrného nástroje, který má lékaři rozšířit a zkvalitnit podklady ke kvalifikovanému rozhodování, nikoliv jako náhrady lékaře, mohou tyto technologie významnou měrou přispět ke zkvalitnění zdravotní péče, ze kterého budou mít prospěch pacienti, zdravotníci i provozovatelé. V následujícím textu se pokoušíme nastínit některé z výzev spojených s jejich využitím. Zcela zásadní je uvědomění, že přesnost modelu a jeho schopnost poskytovat predikce je závislá na kvalitě dat, na kterých je natrénován. Pokud jsou trénovací data nepřesná, neúplná nebo zkreslená, mohou mít negativní vliv na přesnost modelu, především, pokud se jedná o systematickou chybu. V situaci, kdy je určitá skupina populace nedostatečně zastoupena ve trénovacích datech, může dojít ke zkresleným a potenciálně poškozujícím predikcím. Je důležité, aby modely byly transparentní, lékaři mohli pochopit, na čem se zakládají jejich rozhodnutí, a mohli důvěřovat jejich doporučením. Aby však byla umělá inteligence skutečně efektivní a přínosná pro lékaře, je nezbytné, aby byla plynule integrována do stávajících klinických procesů a nezvyšovala pracovní zátěž lékařů. V závěru textu krátce diskutujeme obecné principy regulace AI v radiologii a konkrétní podobu regulatoriky v EU.

Abstract (in English)

Message for practice The development of artificial intelligence (AI) in medical imaging presents many challenges and opportunities. AI can help physicians in diagnosis, detecting pathologies and improving image quality. If we understand its role as a supportive tool to augment and improve the physician‘s evidence base for informed decision making, rather than as a substitute for the physician, these technologies can make a significant contribution to improving the quality of healthcare that will benefit patients, healthcare professionals and operators. The following attempts to outline some of the challenges associated with their use. Fundamental is the recognition that the accuracy of a model and its ability to provide predictions is dependent on the quality of the data on which it is trained. If the training data is inaccurate, incomplete or biased, it can have a negative impact on the accuracy of the model, especially if there is systematic error. In situations where a population group is under-represented in the training data, biased and potentially damaging predictions may result. It is important that models are transparent, so that clinicians can understand what their decisions are based on and can trust their recommendations. However, for AI to be truly effective and beneficial to physicians, it is essential that it be seamlessly integrated into existing clinical processes so that it does not increase physician workload. We also briefly discuss the general principles of AI regulation in radiology and the specific form of regulation in the EU.