KI-basierte Unterstützung für die Hautkrebsdiagnostik erklärt ihre Entscheidungen
Die Erklärungen steigerten das Vertrauen der Mediziner in die Entscheidungen der Maschine – sowie auch in ihre eigenen Diagnosen
künstliche Intelligenz (KI) kann Hautärzte dabei unterstützen, Hautkrebs zu erkennen. Doch viele Dermatologen misstrauen den für sie nicht nachvollziehbaren Entscheidungen der Algorithmen. Wissenschaftlerinnen und Wissenschaftler im Deutschen Krebsforschungszentrum entwickelten nun ein KI-basiertes Unterstützungssystem für die Hautkrebsdiagnostik, das seine Entscheidungen erklärt. Dabei verwendet das System etablierte Diagnose-Merkmale, die sich auf bestimmte Bereiche der verdächtigen Läsionen beziehen. Die Erklärungen steigerten das Vertrauen der Mediziner in die Entscheidungen der Maschine – sowie auch in ihre eigenen Diagnosen.
Das Melanom ist weltweit für die meisten hautkrebsbedingten Todesfälle verantwortlich. Melanome im Frühstadium sind jedoch nur schwer von anderen Hauttumoren zu unterscheiden. Jüngste Fortschritte im Bereich der auf künstlicher Intelligenz basierenden Diagnose-Unterstützungssysteme können Hautärzten helfen, Melanome und Muttermale genauer zu diagnostizieren, wenn ihnen digitalisierte Bilder verdächtiger Läsionen gezeigt werden.
Ärztinnen und Ärzte wollen aber verstehen, welche Merkmale das Ergebnis eines KI-Systems bestimmt. „Die letztendliche Verantwortung für eine Diagnose liegt beim Kliniker. Deshalb sind Dermatologen berechtigterweise vorsichtig, KI-basierte Systeme einzusetzen, ohne deren Entscheidungen nachvollziehen zu können", sagt Titus Brinker, Hautarzt und Wissenschaftler am DKFZ. Doch die Systeme neigen dazu, alle korrelierten Merkmale in ihre Entscheidungsfindung einzubeziehen, einschließlich der Scheinkorrelationen.
„Unser Ziel war es daher, ein Unterstützungssystem zu entwickeln, das auf die Sichtweise von Dermatologen bei der Melanomdiagnose abgestimmt ist und seine Entscheidungsfindung erklärt", so Brinker. „In Anlehnung an frühere Arbeiten haben wir unsere erklärbare KI (XAI = explainable artificial intelligence) so entwickelt, dass sie Dermatologen-ähnliche Erklärungen liefert, die sich auf die Merkmale bestimmter, einzelner Zonen der Läsion beziehen."
Das Team um Brinker untersuchte in einer dreiphasigen Studie die Auswirkungen auf die diagnostische Genauigkeit, die diagnostische Sicherheit und das Vertrauen der Dermatologen in das erklärende System. Die Forschenden wollten außerdem wissen, welche Faktoren das Vertrauen der Ärzte in diese Technik fördern.
An der Untersuchung beteiligten sich über hundert Dermatologen aus 33 verschiedenen Ländern. Die Ärztinnen und Ärzte diagnostizierten ein Testpanel an digitalisierten Aufnahmen verschiedener Läsionen dreimal – allein auf der Basis ihrer Erfahrung, mit Unterstützung eines herkömmlichen KI-Systems und mit der XAI.
Wie bereits in früheren Studien dokumentiert, steigerte die Nutzung eines KI-Systems die diagnostische Genauigkeit bei der Erkennung von Melanomen, die jedoch durch den Einsatz der XAI nicht weiter gesteigert werden konnte. Auch das Vertrauen der Dermatologen in die eigene Entscheidung verbesserte sich unter KI-Unterstützung – und stieg beim Einsatz des XAI-Systems noch einmal deutlich an. Besonderes Zutrauen zur eigenen Diagnose hatten die Mediziner dann, wenn ihre Entscheidungskriterien mit den von der XAI aufgeführten Kriterien weitgehend übereinstimmten.
Die Ergebnisse veranschaulichen, dass die XAI die Diagnosesicherheit von Klinikern verbessern kann und das Potenzial hat, die Akzeptanz der Mediziner für den Einsatz von KI-Methoden zu steigern", erklärt Studienleiter Titus Brinker und fügt hinzu: „Die europäische Datenschutzgrundverordnung verlangt, dass alle algorithmusbasierten Entscheidungen für die Endnutzer interpretierbar sein müssen. Unsere Arbeit ist ein wichtiger erster Schritt zur Schließung der Interpretationslücke."
Originalveröffentlichung
Weitere News aus dem Ressort Wissenschaft
Meistgelesene News
Weitere News von unseren anderen Portalen
Zuletzt betrachtete Inhalte
Influenzaviren unter dem Supermikroskop: Wie Grippeviren mit Zellen kommunizieren - Neue Mechanismen beim Zelleintritt von Influenzaviren aufgedeckt
Dana-Farber Cancer Institute stellt bahnbrechenden Bluttest für multiples Myelom vor
Hundehaut aus dem Labor ermöglicht Tests medizinischer Therapeutika - Ganz ohne Tierversuche
5 einfache Glücksmacher für Unternehmen - "Trotz der enormen Arbeitsintensität, anhaltenden Krisen sowie den Abstrichen in der Materialverfügbarkeit ist die Stimmung in der Laborbranche gut bis sehr gut"
Thermo Fisher kauft Dionex für 2,1 Mrd. Dollar
Neue präzisere Cas9-Variante - Spezifischere CRISPR-Cas9 Genschere macht Genom-Editierung noch präziser
Neues Tool kartiert mikrobielle Diversität mit noch nie dagewesenen Details - Das innovative Werkzeug ermöglicht die Analyse von strukturellen genomischen Variationen in mikrobiellen Populationen
Eine Ameise auf einem Elefanten wiegen: Quantensprung auf der Waage - Winzige Massenveränderung einzelner Atome erstmals gemessen
KI hilft bei der Erkennung antibiotikaresistenter Bakterien - Ein erster wichtiger Schritt zur zukünftigen Integration von GPT-4 in die klinische Diagnostik
Analytica Vietnam 2017: Mehr Aussteller und starkes Rahmenprogramm
KNAUER erhält Qualitätsauszeichnung Berlin-Brandenburg
