Beim Gesundheits­kongress des Westens Anfang Mai in Köln ging es u. a. um die Chancen und Risiken beim Einsatz Künst­licher Intelligenz (KI) im medizi­nischen Bereich. Aktuelle Befra­gungen zeigen, dass bereits etwa jede zehnte Arzt­praxis KI nutzt, z. B. zur Unter­stützung der Diagnose­stellung oder zur Verein­fachung von Praxisabläufen. Beispiele hierfür sind KI-Telefon­assistenten oder Software zur Aufzeichnung und Zusammen­fassung von Patienten­gesprächen.

Mehr Zeit und Aufmerk­samkeit (Blickkontakt) für das Patienten­gespräch würde sowohl von Patien­tinnen und Patienten als auch von ärzt­licher Seite positiv bewertet. Aller­dings müssten (längere) Gesprächs­zeiten auch adäquat vergütet werden, so die Forderung.

Politische, rechtliche und ethische Fragen

In den Diskussionen wurde darauf hingewiesen, dass der Einsatz von KI im Gesund­heits­bereich ver­schiedene Fragen aufwirft, politische, recht­liche und ethische, z. B.:

• Wer entscheidet, welche Algorithmen im medizi­nischen Kontext genutzt werden?
• Wem gehören die Daten, mit denen generative KIs trainiert werden?
• Wo werden die Daten gespeichert? Auf amerika­nischen oder europäischen Servern?
• Wer trägt die Verantwortung, wenn KI-unter­stützte Entscheidungen Patien­tinnen und Patienten Schaden zufügen?

Diese und weitere Fragen gilt es zu diskutieren und Rahmen­bedingungen zu schaffen, die den Einsatz rechts­sicher ermög­lichen. Grund­regeln liefert der EU AI Act. Darüber hinaus sollen Software­zertifikate, z. B. das C5-Testat des Bundes­amts für Sicher­heit in der Informations­technik (BSI), die Einhal­tung von hohen Sicherheits- und Daten­schutz­standards gewährleisten.

Die Kassenärztliche Bundes­vereinigung stellt auf ihrer Webseite eine Broschüre zur Nutzung von KI in Arzt­praxen zur Verfügung.

» Zur Broschüre der KBV