KI im Sprechzimmer: Wer haftet, wenn der Algorithmus irrt?

Noch vor wenigen Jahren war Künstliche Intelligenz (KI) in der Medizin ein Thema für Kongressvorträge und Forschungslabore. Heute ist sie Realität: KI-Systeme unterstützen in der Radiologie bei der Befundinterpretation, helfen in der Dermatologie bei der Klassifizierung von Hauttumoren – teils mit beeindruckender Treffsicherheit – und übernehmen administrative Aufgaben von der Terminplanung bis zur Dokumentation. Was viele dabei noch unterschätzen: Mit dem Einsatz dieser Systeme gehen erhebliche rechtliche Risiken einher – und die betreffen nicht nur Krankenhausträger, sondern jeden Arzt, der KI-Tools in seiner Praxis oder Klinik nutzt. Wir erklären die Rechtslage und was Du als Arzt zur Haftung bei KI-Einsatz wissen musst.

Grundregel: Die Verantwortung bleibt bei Dir

Wer KI als Hilfsmittel einsetzt, bleibt trotzdem selbst verantwortlich. Das ist die wichtigste rechtliche Leitlinie, die Du kennen musst. Nach deutschem Behandlungshaftungsrecht (§§ 630a ff. BGB) schuldet der Arzt eine Behandlung nach dem anerkannten fachlichen Standard – unabhängig davon, ob dabei ein Algorithmus mitdenkt oder nicht. Eine KI trifft keine Diagnosen. Sie liefert Ergebnisse. Die ärztliche Entscheidung liegt weiterhin beim Menschen.

Das klingt zwar selbstverständlich, gerät in der Praxis aber schnell in Gefahr. Vorsicht also vor dem sogenannten “Automation Bias”. Dies bezeichnet die Tendenz, Ergebnissen eines automatisierten Systems zu sehr zu vertrauen und sie unkritisch zu übernehmen. Genau dieses Verhalten kann haftungsrechtlich zum Problem werden. Wer einen KI-Befund weitergibt, ohne ihn klinisch eingeordnet und eigenständig bewertet zu haben, handelt im Zweifelsfall pflichtwidrig.

KI-Systeme sind leistungsfähig, aber nicht unfehlbar. Die Fehlerquellen sind vielfältig. Was KI falsch machen kann, erklären wir Dir in diesem Artikel:

• KI-Grenzen kennen – So vermeidest Du Fehldiagnosen

Der EU AI Act: Was er für Dich bedeutet

Seit Juni 2024 gilt in der EU der sogenannte EU AI Act – das weltweit erste umfassende KI-Regelwerk. Für die Medizin ist dabei eine Einordnung entscheidend: Alle KI-Systeme, die medizinischen Zwecken dienen und am Menschen angewendet werden, gelten als Hochrisiko-KI-Systeme. Das hat konkrete Konsequenzen:

• Krankenhausträger gelten als Betreiber solcher Systeme und sind zur menschlichen Aufsicht sowie zu einer grundrechtlichen Folgenabschätzung verpflichtet.
• Kliniken, die eigene KI-Systeme entwickeln – etwa im Rahmen von Forschungsprojekten – werden rechtlich als Anbieter eingestuft und unterliegen noch strengeren Sorgfaltspflichten, darunter die Pflicht zur Implementierung eines Risikomanagementsystems.

Als niedergelassener Arzt bist Du zwar in der Regel nicht Betreiber im Sinne des EU AI Acts, trägst aber weiterhin die behandlungsrechtliche Verantwortung für den Einsatz des Werkzeugs. Wichtig zu wissen: Der EU AI Act enthält kein eigenes Haftungssystem. Bei Schäden greift weiterhin das allgemeine Schadensersatzrecht. Und: Die geplante EU-KI-Haftungsrichtlinie, die bestehende Lücken schließen sollte, wurde im Februar 2025 von der EU-Kommission zurückgezogen. Die Rechtslage bleibt damit erstmal uneinheitlich. Die daraus entstehende Unsicherheit ist verständlich. Lies dazu auch:

• EU-Gesundheitsdatenraum: Neue Chancen für Kliniken

Das Black-Box-Problem: Wenn Kausalität unklar bleibt

Ein besonders heikles Thema ist der sogenannte Black-Box-Effekt: Viele KI-Systeme liefern Ergebnisse, ohne die zugrunde liegenden Entscheidungsprozesse transparent zu machen. Das ist nicht nur ein technisches Problem, sondern ein rechtliches. Im Schadensfall muss nachgewiesen werden, dass ein Pflichtverstoß kausal für den eingetretenen Schaden war. Genau das ist bei intransparenten KI-Systemen oft schwer bis unmöglich zu belegen.

Für Dich als Arzt bedeutet das: Dokumentiere Deine eigene Entscheidungsfindung lückenlos. Hier zählt nicht nur das Ergebnis des KI-Systems, sondern auch, wie Du es bewertet und in Deine klinische Entscheidung einbezogen hast.

Klinik & Karriere

Die Herausforderungen der Klinikkarriere meistern mit Einblicken in Klinikalltag, Strategien zur Karriereentwicklung und die Kunst der Work-Life-Balance.

Mehr zu Klinik & Karriere

KI und Haftung – Wer ist verantwortlich für was?

Das ist die Frage, die viele Ärzte beschäftigt – und die rechtlich noch nicht abschließend beantwortet ist. Was sich aber schon heute klar sagen lässt:

Der Arzt haftet für seine Entscheidung

Nach deutschem Behandlungshaftungsrecht (§§ 630a ff. BGB) schuldet der Arzt dem Patienten eine Behandlung nach dem anerkannten fachlichen Standard. Entscheidend ist: Der Standard umfasst auch den kompetenten Umgang mit eingesetzten Hilfsmitteln – und das schließt KI-Systeme ein. Wer ein KI-Ergebnis unkritisch übernimmt, ohne es klinisch zu validieren, handelt möglicherweise sorgfaltspflichtwidrig.

Konkret haftungsrelevant sind dabei:

• Übernahme eines falschen KI-Befunds ohne eigene Prüfung
• Einsatz eines KI-Systems außerhalb seines zugelassenen Anwendungsbereichs
• Fehlende Dokumentation der eigenen Entscheidungsfindung
• Eingabe falscher oder unvollständiger Patientendaten in das System

Der Krankenhausträger haftet für Organisation

Stellt die Klinik ein KI-System zur Verfügung, ohne das Personal angemessen zu schulen, ohne klare Prozessanweisungen zu definieren oder ohne ein funktionierendes Qualitätsmanagementsystem, liegt ein Organisationsverschulden vor. Im Schadensfall kann das zur Haftung des Trägers führen – unabhängig vom individuellen Arztfehler.

Der Hersteller haftet für das Produkt

Wenn das KI-System durch mangelhafte Trainingsdaten, Designfehler oder unzureichende Validierung selbst fehlerhaft ist, greift das Produkthaftungsrecht. Ab Dezember 2026 wird Software EU-weit eindeutig als Produkt eingestuft, was die Herstellerhaftung für KI-Systeme erheblich verschärft. Bis dahin gilt bereits das allgemeine Deliktsrecht.

Patientenaufklärung: Mehr Pflichten als Du denkst

KI-gestützte Diagnostik oder Therapieentscheidungen sind derzeit noch keine etablierte Standardmethode. Das hat eine direkte rechtliche Konsequenz: Sie gelten als “Neulandmethode”, was erhöhte Aufklärungspflichten auslöst. Du musst Patienten nicht nur über Risiken der Behandlung informieren, sondern auch darüber, dass eine neue, noch nicht abschließend standardisierte Methode zum Einsatz kommt und welche Unsicherheiten damit verbunden sind. Was heißt das also im Klartext? Du darfst KI einsetzen, denn die ärztliche Therapiefreiheit erlaubt den Einsatz innovativer Verfahren. Aber die Patientenaufklärung muss stimmen!

Karriere als Arzt/Ärztin

Alles für die Arzt-Karriere: Von Tricks zur Bewerbung über Gehaltsinformationen, Weiterbildungen, hilfreichen Infos für Praxisgründer bis zu alternativen Berufsfeldern.

Mehr zu Karriere als Arzt/Ärztin

Datenschutz: Der stille Haftungsfaktor

Fehldiagnosen sind das eine. Ein weiteres, oft unterschätztes Risiko beim KI-Einsatz in der Diagnostik ist der Datenschutz. Jede Verarbeitung von Patientendaten durch ein KI-System unterliegt der DSGVO – im medizinischen Kontext mit besonders strengen Anforderungen, da Gesundheitsdaten als besondere Kategorie personenbezogener Daten gelten.

Praxisrelevante Punkte:

• Eine Datenschutzfolgeabschätzung ist beim Einsatz medizinischer KI-Systeme in aller Regel verpflichtend.
• Externe KI-Dienste: Läuft das System auf Servern eines Drittanbieters, braucht es einen Auftragsverarbeitungsvertrag oder in bestimmten Konstellationen eine ausdrückliche Einwilligung des Patienten.
• Keine Weitergabe ohne Grundlage: Patientendaten dürfen nur dann in ein KI-System eingespeist werden, wenn die rechtliche Grundlage dafür vorliegt.

Ohne diese Grundlagen drohen DSGVO-Bußgelder, unabhängig von einer etwaigen Patientenschädigung – also auch dann, wenn die Behandlung positiv verläuft!

Was Du jetzt konkret tun solltest

Die rechtliche Lage ist komplex und entwickelt sich weiter. Was Du aber schon heute tun kannst:

1. Setze ausschließlich CE-zertifizierte KI-Produkte ein, die als Medizinprodukt zugelassen sind.
2. Nutze KI als Unterstützung, nicht als Entscheidungsquelle. Hinterfrage Ergebnisse klinisch.
3. Halte Deine Entscheidungsprozesse schriftlich fest – gerade auch wenn ein KI-System beteiligt war.
4. KI-Kompetenz ist künftig Teil des ärztlichen Standards. Wer sich hier nicht regelmäßig fortbildet, riskiert, bei Haftungsfragen schlechter dazustehen.
5. Weise schriftlich und vor der Behandlung auf den KI-Einsatz und dessen Grenzen hin.
6. Kläre vor dem Einsatz, welche Daten wohin fließen und ob alle rechtlichen Grundlagen vorliegen.
7. Stelle sicher, dass Dein KI-Einsatz durch Deine Berufshaftpflicht abgedeckt ist.

Versicherungen für Ärztinnen und Ärzte

Wichtige Versicherungen für ärztliches Fachpersonal im Detail erklärt. Wir geben einen Überblick, welche Versicherungen Ärztinnen und Ärzte benötigen.

Mehr zu Versicherungen für Ärztinnen und Ärzte

Fazit: Chance und Verantwortung zugleich

KI wird ohne Frage auch die Medizin transformieren. Die Fähigkeit, große Datenmengen zu verarbeiten und Muster zu erkennen, die dem menschlichen Auge entgehen, eröffnet echte Chancen für bessere Diagnostik und Therapie. Aber der technologischer Fortschritt entbindet Ärzte nicht von rechtlicher Verantwortung.

Als Arzt bist Du nicht dazu verpflichtet, jede KI-Entwicklung mitzumachen. Wenn Du sie aber nutzt, dann kritisch, transparent und rechtlich abgesichert.