Stakeholderperspektiven auf KI-unterstützte medizinische Entscheidungsfindung und Entwicklung ethischer Leitlinien für den Einsatz von KI-Systemen in der Medizin (KI und Ethik)

Teil-/ Projektleitung:

Prof. Dr. Karsten Weber

Wissenschaftlicher Mitarbeiter: Arne Sonar, M.A.

Laufzeit:

10/2018 – 09/2020

Finanzierung: Bayerisches Staatsministerium für Wissenschaft und Kunst

Regensburg Center of Health Sciences and Technology (RCHST)

Anschubfinanzierung für forschungsstarke Verbünde

Kooperationspartner:

  • Regensburg Center of Health Sciences and Technology (RCHST)

https://rchst.de/

  • Prof. Dr. Christoph Palm (OTH Regensburg)

http://www.re-mic.de/

Ziele:

Am spezifischen Beispiel eines Verfahrens zur KI-gestützten Diagnose von Speiseröhrenkarzinomen, sollen die normativen Fragen von KI-unterstützer medizinischer Diagnosen untersucht werden. Hierauf basierend erfolgt weitergehend das Bestreben eine (vorläufige) ethische Leitlinie zu formulieren, die einen Orientierungsrahmen bieten soll, wie KI-unterstützte Diagnostik eingesetzt werden darf bzw. sollte.

 

Methode und Vorgehen:

Die wesentlichen Methoden des Projekts liegen in qualitativen Stakeholderinterviews und damit verbundenen Wertbaumanalysen. Das konkrete Vorgehen innerhalb des (Teil-)Projekts ist unterteilt in drei Phasen:

Phase 1:

Über eine umfangreiche Literaturstudie soll ein Zugang zum Thema künstliche Intelligenz (KI) erarbeitet werden, welcher die Historie der einhergehenden Auseinandersetzungen mit sozialen und ethischen Aspekten / Fragestellungen fokussiert. Der gewonnen Überblick über die Entwicklung der ethischen und sozialen Diskussion von KI, soll weiterführend dazu genutzt werden, relevante Wertekategorien für die Interviewfragen mit den Stakeholdern herzuleiten.

Phase 2:

Der Durchführung der qualitativen Stakeholderinterviews, folgt deren Analyse im Zuge des Wertbaumverfahrens. Ziel dieser Phase ist es vor allem, auf deskriptiver Ebene ein Abbild der Haltung der verschiedenen Stakeholder gegenüber KI-Systemen, beispielsweise hinsichtlich deren spezifischen Erwartungen, Befürchtungen und präferierten Anwendungsszenarien zu bekommen.

Phase 3:

Erarbeiten und Formulieren einer (vorläufigen) ethischen Leitlinie, unter deren Rahmenbedingungen der Einsatz von KI-unterstützter denkbar, legitim und empfehlenswert wäre.

Publikationen:

A. Sonar, K. Weber: KI gestern und heute. Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin. Erscheint in: Arbeit 29 (2) 2020.

Vorträge:

Sonar, Arne, 2019: Ein Vergleich von Implementierungsdebatten als Evaluierungsbasis von Stakeholderperspektiven auf KI-gestützte Diagnostik. Neue Ideen für mehr Gesundheit: Methoden, Themen, Köpfe“; Gemeinsame Jahrestagung der Deutschen Gesellschaft für Medizinische Soziologie (DGMS) und der Deutschen Gesellschaft für Sozialmedizin und Prävention (DGSMP), Düsseldorf, 16.-18.09.2019.

Sonar, Arne; Weber, Karsten, 2019: Evaluation of different stakeholders-values and their weight in AI-based technologies development, constructions and usage-embedment. 4th European Technology Assessment Conference, Bratislava, 04.-06.11.2019.

Sonar, Arne; Weber, Karsten, 2019: A comparison of past and current ethical and social debates on AI and its contribution to a better understanding of concerns regarding recent applications of AI in medical diagnostics. Beitrag für die 18th Annual STS Conference Graz 2019, Track "Digitalization of Society", S7: Humans & machines in healthcare contexts: interdisciplinary perspectives, Graz, 06.-07.05.2019.

Sonar, Arne; Weber, Karsten, 2019: Identifikation ethischer und sozialer Aspekte der KI durch Vergleich früherer und aktueller Diskurse über KI. Beitrag für die Tagung Digitalisierung der Arbeit im Gesundheits- und Sozialsektor. Formen, Spannungsfelder und Gestaltungsherausforderungen, Gemeinsame Tagung des Forschungsinstituts für gesellschaftliche Weiterentwicklung (FGW), des Instituts für Arbeit und Technik (IAT) und des Instituts für Arbeit und Qualifikation (IAQ), Wissenschaftspark Gelsenkirchen, 21.-22.05.2019.

Weber, Karsten, 2019: Big Data, KI & Digitalisierung – Öl für neue Geschäfte oder Probleme mit Datenschutz & Sicherheit? Doppelvortrag am Willibald-Gluck-Gymnasium, Neumarkt i.d. Oberpfalz, 19.03.2019.

Weber, Karsten, 2019: Ethics and cybersecurity in healthcare: An uneasy relationship. Beitrag für die International Scientific Conference: Threats and security challenges of the modern world. The socio-cultural dimension. Rzeszów, November 25-26, 2019.

Weber, Karsten, 2019: Regeln für KI jenseits von Markt und Staat – der aktuelle Stand einer internationalen Debatte. Beitrag für „IT-Sicherheit am Donaustrand - Braucht die Wirtschaft Leitlinien für KI?“, Regensburg, 17.07.2019.

Weber, Karsten; Sonar, Arne, 2019: KI – gestern, heute, morgen. Vortrag im Rahmen der Offenen Hochschule von VHS und OTH Regensburg, „Störfaktor Mensch?“, Regensburg, 01.04.2019.