medivendis InFocus · Begriff

KI-Kompetenz-Pflicht (Art. 4 KI-VO)

Aktualisiert November 2026 ca. 6 Minuten Norm-Anker: Art. 4 KI-VO i. d. F. der VO (EU) 2026/1744

medivendis oHG  - Redaktions-Team - Hell
Compliance-Redaktion, medivendis

Beobachtet laufend die Entwicklung der EU-KI-Verordnung und ordnet neue Fristen, Verschiebungen und Aufsichtspraxis für Arztpraxen und MVZ ein.

  • KI-Recht
  • EU-KI-Verordnung

Ein KI-Tool wird nicht dadurch sicher betrieben, dass es installiert ist. Art. 4 der EU-KI-Verordnung verlangt von jeder Praxis, die KI-Systeme einsetzt, dass sie Maßnahmen ergreift, damit das bedienende Personal das System sachgerecht und mit Blick auf seine Grenzen nutzen kann.

Auf einen Blick Art. 4 KI-VO gilt seit dem 2. Februar 2025 unmittelbar, ohne Übergangsfrist.Pflichtadressaten sind sowohl Anbieter als auch Betreiber von KI-Systemen, also auch Arztpraxen, die ein fremdes Tool einsetzen.Der Digital Omnibus (Verordnung (EU) 2026/1744) hat den Wortlaut der Pflicht im Juli 2026 inhaltlich abgeschwächt, ohne sie aufzuheben.

Was Art. 4 KI-VO konkret verlangt

Art. 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Maßstab sind die technischen Kenntnisse, die Erfahrung und die Aus- und Fortbildung dieser Personen, der Einsatzkontext und die Personen, bei denen das System eingesetzt wird. Seit der Neufassung durch die Verordnung (EU) 2026/1744 stellt die Norm ausdrücklich klar, dass kein bestimmtes Kompetenzniveau garantiert werden muss.

Betrifft mich das als Praxis?

Die Pflicht trifft nicht nur Software-Hersteller.

Einordnung nach Einsatzform

Keine Einordnung ausgewählt.

Der Digital Omnibus und die Abschwächung von Art. 4

Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat Art. 4 neu gefasst. Vorher mussten Anbieter und Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Jetzt müssen sie Maßnahmen ergreifen, um die Entwicklung dieser Kompetenz zu unterstützen; ein bestimmtes Niveau müssen sie für niemanden garantieren. Neu ist außerdem, dass Kommission und Mitgliedstaaten die Unternehmen, insbesondere kleine und mittlere, dabei unterstützen und die Kommission praktische Beispiele veröffentlicht. Die Pflicht zu handeln bleibt also bestehen. Verlangt wird eine angemessene, zum Einsatz passende Maßnahme, kein Prüfungsergebnis und kein Zertifikat.

Vier typische Situationen

Wie sich die Pflicht in der Praxis auswirkt.

Spracherkennung für Arztbriefe

Das Personal sollte wissen, dass Erkennungsfehler bei Fachbegriffen und Dosierungsangaben häufiger auftreten und jeder Text vor der Übernahme gegengelesen werden muss.

Gut Schulung zu typischen Erkennungsfehlern, Pflicht zum Gegenlesen dokumentiert.

Schlecht Tool wird ohne jede Einweisung an neue Mitarbeitende weitergegeben.

KI-gestützte Terminvergabe per Chat

Personal sollte wissen, wie das System mit unklaren oder dringlichen Anfragen umgeht und wann eine menschliche Übernahme zwingend ist.

Gut Klare Eskalationsregel für dringliche Anfragen, dem Team bekannt.

Schlecht Niemand weiß, wann das System an einen Menschen übergibt.

KI-gestützte Auswertung von Aufnahmen

Hier ist die Kompetenz-Anforderung am höchsten: Das Personal muss die Fehlerquote und die Grenzen der Auswertung kennen, bevor ein Ergebnis in die Behandlung einfließt.

Gut Regelmäßige Auffrischung, dokumentierte Fehlerquote des Herstellers bekannt.

Schlecht Ergebnis wird ungeprüft übernommen, weil „die KI das schon richtig macht“.

KI-Tools bei Abrechnung oder Marketing

Auch wenn ein Dienstleister das Tool betreibt, bleibt die Praxis regelmäßig Mitverantwortliche für die eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.

Gut Vertraglich geregelt, wer für welche Schulung zuständig ist.

Schlecht Niemand fühlt sich für die Schulung des eigenen Personals zuständig.

Zeitleiste

Von der Einführung bis zur Abschwächung

  1. 1. August 2024

    KI-VO tritt in Kraft

    Verordnung (EU) 2024/1689 tritt in Kraft.

  2. 2. Februar 2025

    Art. 4 gilt unmittelbar

    Die KI-Kompetenz-Pflicht greift ohne Übergangsfrist.

  3. 27. Juli 2026

    Digital Omnibus tritt in Kraft

    Der Wortlaut von Art. 4 wird abgeschwächt, die Pflicht bleibt bestehen.

  4. laufend

    Aufsichtspraxis entsteht

    Wie streng die abgeschwächte Fassung ausgelegt wird, zeigt sich erst in der Praxis der Behörden.

Abgrenzung zu anderen KI-Pflichten

Art. 4 ist von der Kennzeichnungspflicht nach Art. 50 zu unterscheiden: Art. 50 verlangt, dass Patientinnen und Patienten erkennen, wenn sie mit einer KI interagieren. Art. 4 richtet sich nach innen, an die eigene Organisation, und verlangt Maßnahmen, damit das Personal versteht, was es dort einsetzt.

Was bei einem Verstoß droht

Anders als bei den Hochrisiko-Pflichten ist die eigenständige Bußgeldbewehrung von Art. 4 in der Aufsichtspraxis noch wenig konturiert. Praktisch relevant wird eine fehlende KI-Kompetenz meist erst, wenn ein Fehler des Systems zu einem Schaden führt und die fehlende Schulung als Sorgfaltspflichtverletzung gewertet wird.

Was jetzt zu tun ist

Eine kurze, dokumentierte Basis-Schulung pro eingesetztem KI-Tool, mit Fokus auf Funktionsweise, bekannte Fehlerquellen und Eskalationswege, deckt die Pflicht in den meisten Praxis-Konstellationen ab. Den vollständigen Fristenplan der KI-VO ordnet der InGuide-Baustein „Grundlagen und Fristen“ ein.

Wie Sie die Pflicht konkret umsetzen, wer in der Praxis eingewiesen werden muss und wie Sie die Maßnahme dokumentieren, zeigt der InSights-Beitrag KI-Schulung Pflicht in der Arztpraxis?.

Häufige Fragen

Ist die KI-Kompetenz-Pflicht jetzt weg, weil der Digital Omnibus sie abgeschwächt hat? Nein. Sie gilt weiter, verlangt seit Juli 2026 aber Maßnahmen, die die KI-Kompetenz des Personals unterstützen, und keine Garantie eines bestimmten Kompetenzniveaus.

Reicht eine kurze Einweisung in das KI-Tool aus? Eine reine Bedienungseinweisung ohne Hinweis auf Funktionsweise, Fehlerquellen und Grenzen dürfte nicht genügen; eine dokumentierte Basis-Schulung ist der sicherere Weg.

Gilt Art. 4 auch, wenn ein externer Dienstleister das KI-Tool betreibt? Ja, in aller Regel bleibt die Praxis mitverantwortlich für die Kompetenz der eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.