{"id":3862,"date":"2023-01-30T13:33:30","date_gmt":"2023-01-30T12:33:30","guid":{"rendered":"https:\/\/rcai.de\/?p=3862"},"modified":"2023-01-30T13:33:30","modified_gmt":"2023-01-30T12:33:30","slug":"ki-ethik","status":"publish","type":"post","link":"https:\/\/rcai.de\/en\/2023\/01\/30\/ki-ethik\/","title":{"rendered":"KI &amp; Ethik"},"content":{"rendered":"<h2 class=\"alignwide has-dm-sans-font-family wp-block-heading\" style=\"text-transform:none\">KI &amp; Ethik<\/h2>\n\n\n\n<div class=\"wp-block-columns alignwide is-layout-flex wp-container-core-columns-is-layout-78f78ab7 wp-block-columns-is-layout-flex\" style=\"padding-top:0;padding-right:0;padding-bottom:0;padding-left:0\">\n<div class=\"wp-block-column is-layout-flow wp-block-column-is-layout-flow\" style=\"font-style:normal;font-weight:400\">\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/rcai.de\/wp-content\/uploads\/sites\/2\/2023\/01\/AdobeStock_228300249-edited-scaled.jpeg\" alt=\"\" class=\"wp-image-3869\" \/><\/figure>\n\n\n\n<p class=\"has-dm-sans-font-family has-small-font-size\">Symbolbild (Foto: Adobe Stock, 228300249)<\/p>\n<\/div>\n\n\n\n<div class=\"wp-block-column is-vertically-aligned-center is-layout-flow wp-block-column-is-layout-flow\" style=\"font-style:normal;font-weight:400\">\n<h4 class=\"has-dm-sans-font-family has-large-font-size wp-block-heading\" style=\"font-style:normal;font-weight:400;text-transform:none\">Stakeholderperspektiven auf KI-unterst\u00fctzte medizinische Entscheidungsfindung und Entwicklung ethischer Leitlinien f\u00fcr den Einsatz von KI-Systemen in der Medizin<\/h4>\n\n\n\n<div style=\"height:35px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">funded by:<br><a href=\"https:\/\/www.stmwk.bayern.de\/\">Bayerisches Staatsministerium f\u00fcr Wissenschaft und Kunst (StMWK)<\/a><\/h6>\n\n\n\n<div style=\"height:35px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Project responsible: <a href=\"https:\/\/rcai.de\/en\/labs\/ist\/\" data-type=\"page\" data-id=\"2850\">Prof. Dr. Karsten Weber<\/a> and <a href=\"https:\/\/rcai.de\/en\/labs\/regensburg-medical-image-computing\/\" data-type=\"page\" data-id=\"2867\">Prof. Dr. Christoph Palm<\/a><\/h6>\n\n\n\n<div style=\"height:35px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Cooperation partners: <a href=\"https:\/\/www.hhu.de\/\">Heinrich-Heine-Universit\u00e4t D\u00fcsseldorf<\/a>, <a href=\"https:\/\/www.thws.de\/\">TH W\u00fcrzburg-Schweinfurt<\/a><\/h6>\n\n\n\n<div style=\"height:35px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Laufzeit: 2018-2021<\/h6>\n\n\n\n<ul class=\"wp-block-social-links is-style-logos-only is-layout-flex wp-block-social-links-is-layout-flex\"><li class=\"wp-social-link wp-social-link-wordpress  wp-block-social-link\"><a href=\"https:\/\/hps.hs-regensburg.de\/wek39793\/doku.php?id=ki-ethik\" class=\"wp-block-social-link-anchor\"><svg width=\"24\" height=\"24\" viewbox=\"0 0 24 24\" version=\"1.1\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" aria-hidden=\"true\" focusable=\"false\"><path d=\"M12.158,12.786L9.46,20.625c0.806,0.237,1.657,0.366,2.54,0.366c1.047,0,2.051-0.181,2.986-0.51 c-0.024-0.038-0.046-0.079-0.065-0.124L12.158,12.786z M3.009,12c0,3.559,2.068,6.634,5.067,8.092L3.788,8.341 C3.289,9.459,3.009,10.696,3.009,12z M18.069,11.546c0-1.112-0.399-1.881-0.741-2.48c-0.456-0.741-0.883-1.368-0.883-2.109 c0-0.826,0.627-1.596,1.51-1.596c0.04,0,0.078,0.005,0.116,0.007C16.472,3.904,14.34,3.009,12,3.009 c-3.141,0-5.904,1.612-7.512,4.052c0.211,0.007,0.41,0.011,0.579,0.011c0.94,0,2.396-0.114,2.396-0.114 C7.947,6.93,8.004,7.642,7.52,7.699c0,0-0.487,0.057-1.029,0.085l3.274,9.739l1.968-5.901l-1.401-3.838 C9.848,7.756,9.389,7.699,9.389,7.699C8.904,7.67,8.961,6.93,9.446,6.958c0,0,1.484,0.114,2.368,0.114 c0.94,0,2.397-0.114,2.397-0.114c0.485-0.028,0.542,0.684,0.057,0.741c0,0-0.488,0.057-1.029,0.085l3.249,9.665l0.897-2.996 C17.841,13.284,18.069,12.316,18.069,11.546z M19.889,7.686c0.039,0.286,0.06,0.593,0.06,0.924c0,0.912-0.171,1.938-0.684,3.22 l-2.746,7.94c2.673-1.558,4.47-4.454,4.47-7.771C20.991,10.436,20.591,8.967,19.889,7.686z M12,22C6.486,22,2,17.514,2,12 C2,6.486,6.486,2,12,2c5.514,0,10,4.486,10,10C22,17.514,17.514,22,12,22z\"><\/path><\/svg><span class=\"wp-block-social-link-label screen-reader-text\">WordPress<\/span><\/a><\/li><\/ul>\n<\/div>\n<\/div>\n\n\n\n<div style=\"height:60px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<div class=\"wp-block-group alignwide has-global-padding is-layout-constrained wp-block-group-is-layout-constrained\">\n<h4 class=\"alignwide has-dm-sans-font-family has-x-large-font-size wp-block-heading\" style=\"font-style:normal;font-weight:500;text-transform:none\">Untersuchung von Potenzialen, Grenzen und normativen Fragen beim Einsatz von K\u00fcnstlicher Intelligenz in der Medizin<\/h4>\n\n\n\n<div style=\"height:35px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Im Projekt werden normative Fragen KI-unterst\u00fctzter medizinischer Diagnosen am Beispiel eines Verfahrens zur KI-gest\u00fctzten Diagnose von Speiser\u00f6hrenkarzinomen untersucht. Hierf\u00fcr wird eine Stakeholderbefragung durchgef\u00fchrt, um zun\u00e4chst auf der deskriptiven Ebene ein Bild davon zu zeichnen, wie die Haltung der verschiedenen Stakeholdergruppen solchen Systemen gegen\u00fcber ist, welche Erwartungen und auch Bef\u00fcrchtungen damit verbunden sind und welche Anwendungsszenarien pr\u00e4feriert werden. Dar\u00fcber hinaus wird versucht, eine (vorl\u00e4ufige) ethische Leitlinie zu formulieren, wie KI-unterst\u00fctzte Diagnostik eingesetzt werden darf bzw. sollte. Die Arbeit in dem Projekt setzt also sowohl die Bereitschaft und F\u00e4higkeit zur Nutzung empirischer Methoden wie zur bio- bzw. medizinethischen Analyse voraus.<\/h6>\n\n\n\n<div style=\"height:60px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h2 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family wp-block-heading\" style=\"font-size:clamp(0.929em, 0.929rem + ((1vw - 0.2em) * 0.856), 1.4em);font-style:normal;font-weight:400;text-transform:none\">Chancen und Grenzen KI-basierter Systeme<\/h2>\n\n\n\n<p><\/p>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Die automatisierte Auswertung medizinischer Bilddaten insbesondere zur Diagnoseunterst\u00fctzung und Therapieentscheidung befindet sich derzeit durch signifikante Erfolge von Methoden im Bereich der K\u00fcnstlichen Neuronalen Netze in einem Paradigmenwechsel. Bislang stellte der Arzt den \u201eGoldstandard\u201c dar. Seine diagnostischen F\u00e4higkeiten galten als obere Schranke dessen, was m\u00f6glich ist. Durch Einsatz von tiefen Neuronalen Netzen (Deep Learning) konnte in den letzten Jahren eine Qualit\u00e4t bei der diagnostischen Auswertung medizinischer Bilder erreicht werden, die den \u00e4rztlichen \u201eGoldstandard\u201c nicht nur erreicht, sondern sogar \u00fcbertrifft. Damit begegnen sich Arzt und Rechner auf Augenh\u00f6he, so dass z.B. k\u00fcnftig der Computer zumindest als Zweitgutachter etabliert werden k\u00f6nnte.<\/h6>\n\n\n\n<p><\/p>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Gleichzeitig ist der rechnerbasierte Entscheidungsprozess auf Basis eines Neuronalen Netzes f\u00fcr den Arzt eine Black Box und damit nicht nachvollziehbar. Dadurch wird er zum einen der M\u00f6glichkeit beraubt, aus den Informationen, die Grundlage f\u00fcr die Ergebnisse des Rechners sind, eigene Schl\u00fcsse zu ziehen und sich selbst als Lernender weiter zu entwickeln. Zum anderen kann er seiner Verantwortung f\u00fcr die Diagnoseentscheidung im Abw\u00e4gungsprozess zwischen der Rechnerentscheidung und seinen eigenen \u00dcberlegungen nicht gerecht werden.<\/h6>\n\n\n\n<p><\/p>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">F\u00fcr Patientinnen und Patienten kann der Einsatz von K\u00fcnstlicher Intelligenz massive Vorteile mit sich bringen, da einerseits Diagnosen zuverl\u00e4ssiger und objektiver werden. Zudem k\u00f6nnen diese Systeme insbesondere dazu beitragen, in durch den demografischen Wandel gering bev\u00f6lkerten und infrastrukturell unterversorgten Landstrichen die medizinische Versorgung auf einem sehr hohen Niveau sicherzustellen. Allerdings wird es wohl unvermeidlich sein, dass sich durch den Einsatz solcher Systeme das Arzt-Patienten-Verh\u00e4ltnis und die personale Seite der medizinischen Versorgung langfristig von Grund auf ver\u00e4ndern werden. Damit dies nicht zum Nachteil vor allem (aber nicht nur) der Patientinnen und Patienten geschieht, muss sichergestellt werden, dass wichtige Prinzipien der medizinischen Ethik (Autonomie, Wohltun, Nichtschaden, Gerechtigkeit) auch bei umf\u00e4nglich technisch gest\u00fctzten Diagnose- und gegebenenfalls Behandlungsprozessen gewahrt werden.<\/h6>\n\n\n\n<div style=\"height:60px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<h2 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family wp-block-heading\" style=\"font-size:clamp(0.929em, 0.929rem + ((1vw - 0.2em) * 0.856), 1.4em);font-style:normal;font-weight:400;text-transform:none\">Konzepte f\u00fcr Nachvollziehbarkeit und Verantwortlichkeit<\/h2>\n\n\n\n<p><\/p>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">In diesem Umfeld werden in konkreten Projekten zum einen die komplexen Techniken des Deep Learning problemspezifisch angepasst und methodisch weiterentwickelt. Dabei wird insbesondere daran gearbeitet, z.B. durch geeignete Visualisierungen oder simulierte Bilddaten aus vom Rechner erlernten Modellen die Entscheidungsprozesse des Rechners nachvollziehbar zu gestalten. Zum anderen ist im Hinblick auf ethische Bewertungswerkzeuge und -ma\u00dfst\u00e4be sowohl Grundlagenforschung als auch die (Weiter-)Entwicklung sowie schlie\u00dflich die Formulierung von ethischen Leitlinien, Code of Conducts etc. notwendig. Dies soll dazu beitragen, dass die Patientinnen und Patienten entsprechende Diagnose- und Behandlungsverfahren akzeptieren und somit H\u00fcrden bei der Einf\u00fchrung solcher Systeme abgebaut werden k\u00f6nnen. Begleitend werden mithilfe empirischer Studien mit unterschiedlichen Stakeholdergruppen (Patientinnen und Patienten, \u00c4rztinnen und \u00c4rzte, Pflegekr\u00e4fte, Krankenkassen, u.a.) Bedarf, Akzeptanz, Gebrauchstauglichkeit oder Konsequenzen untersucht.<\/h6>\n\n\n\n<p><\/p>\n\n\n\n<h6 class=\"alignwide tw-mt-0 tw-link-hover-underline has-dm-sans-font-family has-medium-font-size wp-block-heading\" style=\"text-transform:none\">Aus medizinethischer Sicht ist au\u00dferdem zu fragen, wie die allgemeine Zug\u00e4nglichkeit einer solchen Diagnose sichergestellt werden kann (Gerechtigkeit), da diese offensichtliche Vorteile mit sich bringt. Es muss also ein diskriminierungsfreier Zugang gew\u00e4hrleistet werden, ohne gleichzeitig finanzielle B\u00fcrden f\u00fcr die Versicherten aufzubauen. Bei fehlerbehafteten Diagnosen stellen sich Fragen der Verantwortung und Verantwortlichkeit sowie der Patientenaufkl\u00e4rung bzgl. der Leistungsf\u00e4higkeit und Grenzen der Diagnose. Zu diesen Fragen sollen Vorschl\u00e4ge entwickelt werden, die in der Folge zu einer breiteren Debatte beitragen sollen, da sich an dem Projekt grunds\u00e4tzliche Herausforderungen KI-gest\u00fctzter Diagnoseverfahren aufzeigen lassen.<\/h6>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>Stakeholder perspectives and ethical guidelines for the use of artificial intelligence in medicine<\/p>","protected":false},"author":8,"featured_media":3868,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"cybocfi_hide_featured_image":"","footnotes":""},"categories":[47,54],"tags":[],"class_list":["post-3862","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-projects-finished","category-ist"],"_links":{"self":[{"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/posts\/3862","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/comments?post=3862"}],"version-history":[{"count":0,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/posts\/3862\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/media\/3868"}],"wp:attachment":[{"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/media?parent=3862"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/categories?post=3862"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/rcai.de\/en\/wp-json\/wp\/v2\/tags?post=3862"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}