MISQE Papier zieht wichtige Schlüsse aus einer gescheiterten Implementierung von Künstlicher Intelligenz im Gesundheitswesen

Für diesen Artikel haben Lea Reis, Christian Maier, Jens Mattke, Marcus Creutzenberg und Tim Weitzel ein gescheitertes Implementierungsprojekt für einen Kognitiven Agenten im Krankenhaus begleitet. Der Agent sollte die Ärzte bei der Anamnese, Diagnose und Dokumentation unterstützen. Die Forscher konnten aufdecken, dass die Grundursachen des Misserfolgs im Widerstandsverhalten der Ärzte gegenüber den drei Arten von Künstlicher Intelligenz(KI) (Automatisierung, Entscheidungsunterstützung und Engagement) liegen. Jeder Typ bietet Vorteile, schafft aber auch Herausforderungen, insbesondere in der Art und Weise, wie die Anwender ihre Arbeitsroutinen durchführen. Diese Veränderungen der Arbeitsroutinen können bei den Anwendern kognitive und affektive Widerstände hervorrufen und zu einer fehlgeschlagenen Implementierung führen. Bei der Implementierung von KI sollten Organisationen aktiv versuchen, die mit jeder Art von KI verbundenen kognitiven und affektiven Widerstände zu verringern.  Dazu gehört auch, die Fähigkeiten und Einschränkungen der KI-Anwendung, beginnend mit einer Testversion, vollständig transparent zu machen, um realistische Erwartungen zu fördern und den Erklärungsgrad der Anwendung zu erhöhen. Weitere Maßnahmen, die Organisationen ergreifen können, um das Scheitern von KI-Implementierungen zu verhindern, sind die Einstellung von Mitarbeitern mit Spezialkenntnissen in den Anwendungsbereichen zur Unterstützung des maschinellen Lernens, ein schrittweiser Implementierungsansatz und eine offene Kommunikation über die beabsichtigten und erwarteten internen und insbesondere externen Auswirkungen der Implementierung der KI-Anwendung, wie beispielsweise Auswirkungen auf das Arzt-Patienten-Verhältnis.

Der Artikel erschien in der Zeitschrift: MIS Quarterly Executive (MISQE). Das Journal ist bekannt für seine praxisorientierte Forschung und hat einen Impact-Factor von 5,44.

Publikation: Reis, L., Maier, C., Mattke, J., Creutzenberg, M. and Weitzel, Tim (2020): Addressing User Resistance Would Have Prevented a Healthcare AI Project Failure, MIS Quarterly Executive (19:4), p. 279-296, dx.doi.org/10.17705/2msqe.00038

Kontakt für inhaltliche Rückfragen:
Lea Reis
Wissenschaftliche Mitarbeiterin am Lehrstuhl für Wirtschaftsinformatik, insbesondere Informationssysteme in Dienstleistungsbereichen
Tel.: 0951/863-2682
lea.reis(at)uni-bamberg.de