OpenMIBOOD

Robustheit und Vertrauenswürdigkeit von KI in der Medizin

Die zunehmende Abhängigkeit von Künstlicher Intelligenz (KI) in kritischen Bereichen wie dem Gesundheitswesen erfordert robuste Mechanismen, um die Vertrauenswürdigkeit dieser Systeme zu gewährleisten, insbesondere bei unerwarteten oder anomalen Eingaben. Dieses Projekt untersucht Methoden zur Bewertung und Verbesserung der Robustheit in der medizinischen Bildgebung.

Das in diesem Projekt entwickelte Framework „Open Medical Imaging Benchmarks for Out-Of-Distribution Detection (OpenMIBOOD)“ bietet einen umfassenden Ansatz zur Bewertung von OOD-Erkennungsmethoden in der medizinischen Bildgebung. OpenMIBOOD umfasst drei Benchmarks aus verschiedenen medizinischen Bereichen, die 14 Datensätze aus den Kategorien Covariate-Shifted In-Distribution, Near-OOD und Far-OOD umfassen. Die Ergebnisse unserer Evaluation von Post-hoc-Methoden über diese Benchmarks zeigen, dass die Ergebnisse von breit angelegten OOD-Benchmarks für natürliche Bilder nicht auf medizinische Anwendungen übertragen lassen, was den dringenden Bedarf an solchen Benchmarks im medizinischen Bereich unterstreicht. Durch die Minderung des Risikos, dass KI-Modelle Eingaben außerhalb ihrer Trainingsverteilung ausgesetzt werden, zielt OpenMIBOOD darauf ab, zur Weiterentwicklung zuverlässiger und vertrauenswürdiger KI-Systeme im Gesundheitswesen beizutragen.

OpenMIBOOD ist als Open-Source-Software auf GitHub verfügbar.