Netzblick : Triage per KI : aus der RDV 4/2024, Seite 252
Die KI-VO regelt die Entwicklung und den Betrieb von KI. Besondere Bedeutung wird diese Technik in der Medizin haben. Dass sie Forschung, Behandlung und Versorgung verbessern wird, ist eine berechtigte Hoffnung.
Die KI-VO ist darauf eingestellt, denn sie lässt sogar den Einsatz von KI „für Systeme für die Triage von Patienten bei der Notfallversorgung“ als hochriskant und unter engen Voraussetzungen zu. Eine Studie der Universität Cambridge hat festgestellt, dass das Sprachmodell GPT-4 bei der Beurteilung von Augenproblemen und der Beratung von Patienten mehr zuzutrauen ist als nicht auf Augenheilkunde spezialisierten Ärzten. Es ist nicht die Aufgabe von KI, medizinische Zweifelsfälle einzuordnen.
Eine Hilfe kann aber in einer ersten Bewertung liegen, die ein menschlicher Spezialist abklären muss. So kann sich etwa ein „intelligentes“ MRT-Gerät im Notfalleinsatz für bestimmte Untersuchungen selbst justieren und in eindeutigen Fällen Entwarnung geben. Bei der Triage geht es darum, Überlebenswahrscheinlichkeiten in Notfällen zu berücksichtigen. Auch ohne Pandemie bleibt die Triage ein relevantes Thema. Das Infektionsschutzgesetz enthält dazu seit 2022 eine Regelung, gegen die Ärzte Ende 2023 Verfassungsbeschwerde eingelegt haben.
Die KI-VO verlangt von Kliniken und Arztpraxen, die KI bei der Triage einsetzen, unter anderem, dass sie Vorkehrungen treffen müssen, um ihre „Neigung zu einem automatischen oder übermäßigen Vertrauen in das von einem Hochrisiko-KI-System hervorgebrachte Ergebnis („Automatisierungsbias“)“ wirksam zu bannen. Das ist richtig, denn nur so kann der verantwortliche Arzt die Triageempfehlung der KI überstimmen. Wie das bei Entscheidungen auf überlasteten Intensivstationen über Leben oder Tod praktisch gehen soll, beantwortet die KI-VO leider nicht.