Beurteilung von Hirntumoren mit künstlicher Intelligenz

Ein internationales Forscherteam der TU Darmstadt, der University of Cambridge, des Wissenschafts- und Technologieunternehmens Merck und des Klinikums rechts der Isar der TU München beteiligte sich an einer internationalen und interdisziplinären Zusammenarbeit, die untersuchte, wie Softwaresysteme Aufgaben sammeln, verarbeiten und auswerten -spezifische relevante Informationen und unterstützen so die Arbeit des Menschen, in diesem Fall des Radiologen.

Die Studie liefert empirische Daten zum Einfluss maschineller Lernsysteme (ML-Systeme) auf das menschliche Lernen. Es zeigt auch, wie wichtig es für Endanwender ist, ob die Ergebnisse maschineller Lernmethoden nachvollziehbar und nachvollziehbar sind. Diese Erkenntnisse sind nicht nur für medizinische Diagnosen in der Radiologie relevant, sondern für jeden, der durch den täglichen Einsatz von KI-Tools wie ChatGPT zum Prüfer von ML-Ausgaben wird.

Maschinelles Lernen in der Radiologie

Das von den TU-Forschern Sara Ellenrieder und Professor Peter Buxmann geleitete Forschungsprojekt untersuchte den Einsatz ML-basierter Entscheidungsunterstützungssysteme in der Radiologie, insbesondere bei der manuellen Segmentierung von Hirntumoren in MRT-Bildern. Der Fokus lag darauf, wie Radiologen von diesen Systemen lernen können, um ihre Leistung und Entscheidungssicherheit zu verbessern.

Die Autoren verglichen verschiedene Leistungsniveaus von ML-Systemen und analysierten, wie die Erläuterung der ML-Ausgabe das Verständnis der Radiologen für die Ergebnisse verbesserte. Ziel der Forschung ist es herauszufinden, wie Radiologen langfristig von diesen Systemen profitieren und sie sicher nutzen können.

Zu diesem Zweck führte das Projektteam ein Experiment mit Radiologen verschiedener Kliniken durch. Die Ärzte wurden gebeten, Tumore in MRT-Bildern vor und nach der ML-basierten Entscheidungsunterstützung zu segmentieren. Verschiedene Gruppen wurden mit ML-Systemen unterschiedlicher Leistung oder Erklärbarkeit ausgestattet. Zusätzlich zur Erhebung quantitativer Leistungsdaten während des Experiments sammelten die Forscher auch qualitative Daten durch Protokolle zum lauten Denken und anschließende Interviews.

Ergebnisse

Im Experiment führten die Radiologen 690 manuelle Segmentierungen von Hirntumoren durch. Die Ergebnisse zeigen, dass Radiologen aus den Informationen leistungsstarker ML-Systeme lernen können. Durch Interaktion verbesserten sie ihre Leistung.

Allerdings zeigt die Studie auch, dass eine mangelnde Erklärbarkeit der ML-Ausgabe in leistungsschwachen Systemen zu einem Leistungsabfall bei Radiologen führen kann. Interessanterweise verbesserte die Bereitstellung von Erklärungen zur ML-Ausgabe nicht nur die Lernergebnisse der Radiologen, sondern verhinderte auch das Erlernen falscher Informationen. Tatsächlich konnten einige Ärzte sogar aus Fehlern lernen, die von leistungsschwachen, aber erklärbaren Systemen gemacht wurden.

„Die Zukunft der Mensch-KI-Zusammenarbeit liegt in der Entwicklung erklärbarer und transparenter KI-Systeme, die es insbesondere Endnutzern ermöglichen, aus den Systemen zu lernen und langfristig bessere Entscheidungen zu treffen“, fasst Professor Peter Buxmann von der TU Darmstadt zusammen.