KI-Kompetenz-Pflicht (Art. 4 KI-VO)
KI-Recht
Seit 2. Februar 2025 müssen Praxen die KI-Kompetenz ihres Personals fördern
Art. 4 KI-VO verpflichtet Anbieter und Betreiber, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen. Seit dem Digital Omnibus zählt die angemessene Maßnahme, nicht ein garantiertes Kompetenzniveau.
Ein KI-Tool wird nicht dadurch sicher betrieben, dass es installiert ist. Art. 4 der EU-KI-Verordnung verlangt von jeder Praxis, die KI-Systeme einsetzt, dass sie Maßnahmen ergreift, damit das bedienende Personal das System sachgerecht und mit Blick auf seine Grenzen nutzen kann.
Was Art. 4 KI-VO konkret verlangt
Art. 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Maßstab sind die technischen Kenntnisse, die Erfahrung und die Aus- und Fortbildung dieser Personen, der Einsatzkontext und die Personen, bei denen das System eingesetzt wird. Seit der Neufassung durch die Verordnung (EU) 2026/1744 stellt die Norm ausdrücklich klar, dass kein bestimmtes Kompetenzniveau garantiert werden muss.
Betrifft mich das als Praxis?
Die Pflicht trifft nicht nur Software-Hersteller.
Einordnung nach Einsatzform
Der Digital Omnibus und die Abschwächung von Art. 4
Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat Art. 4 neu gefasst. Vorher mussten Anbieter und Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Jetzt müssen sie Maßnahmen ergreifen, um die Entwicklung dieser Kompetenz zu unterstützen; ein bestimmtes Niveau müssen sie für niemanden garantieren. Neu ist außerdem, dass Kommission und Mitgliedstaaten die Unternehmen, insbesondere kleine und mittlere, dabei unterstützen und die Kommission praktische Beispiele veröffentlicht. Die Pflicht zu handeln bleibt also bestehen. Verlangt wird eine angemessene, zum Einsatz passende Maßnahme, kein Prüfungsergebnis und kein Zertifikat.
Vier typische Situationen
Wie sich die Pflicht in der Praxis auswirkt.
Spracherkennung für Arztbriefe
Das Personal sollte wissen, dass Erkennungsfehler bei Fachbegriffen und Dosierungsangaben häufiger auftreten und jeder Text vor der Übernahme gegengelesen werden muss.
Gut Schulung zu typischen Erkennungsfehlern, Pflicht zum Gegenlesen dokumentiert.
Schlecht Tool wird ohne jede Einweisung an neue Mitarbeitende weitergegeben.
KI-gestützte Terminvergabe per Chat
Personal sollte wissen, wie das System mit unklaren oder dringlichen Anfragen umgeht und wann eine menschliche Übernahme zwingend ist.
Gut Klare Eskalationsregel für dringliche Anfragen, dem Team bekannt.
Schlecht Niemand weiß, wann das System an einen Menschen übergibt.
KI-gestützte Auswertung von Aufnahmen
Hier ist die Kompetenz-Anforderung am höchsten: Das Personal muss die Fehlerquote und die Grenzen der Auswertung kennen, bevor ein Ergebnis in die Behandlung einfließt.
Gut Regelmäßige Auffrischung, dokumentierte Fehlerquote des Herstellers bekannt.
Schlecht Ergebnis wird ungeprüft übernommen, weil „die KI das schon richtig macht“.
KI-Tools bei Abrechnung oder Marketing
Auch wenn ein Dienstleister das Tool betreibt, bleibt die Praxis regelmäßig Mitverantwortliche für die eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.
Gut Vertraglich geregelt, wer für welche Schulung zuständig ist.
Schlecht Niemand fühlt sich für die Schulung des eigenen Personals zuständig.
Zeitleiste
Von der Einführung bis zur Abschwächung
- 1. August 2024
KI-VO tritt in Kraft
Verordnung (EU) 2024/1689 tritt in Kraft.
- 2. Februar 2025
Art. 4 gilt unmittelbar
Die KI-Kompetenz-Pflicht greift ohne Übergangsfrist.
- 27. Juli 2026
Digital Omnibus tritt in Kraft
Der Wortlaut von Art. 4 wird abgeschwächt, die Pflicht bleibt bestehen.
- laufend
Aufsichtspraxis entsteht
Wie streng die abgeschwächte Fassung ausgelegt wird, zeigt sich erst in der Praxis der Behörden.
Abgrenzung zu anderen KI-Pflichten
Art. 4 ist von der Kennzeichnungspflicht nach Art. 50 zu unterscheiden: Art. 50 verlangt, dass Patientinnen und Patienten erkennen, wenn sie mit einer KI interagieren. Art. 4 richtet sich nach innen, an die eigene Organisation, und verlangt Maßnahmen, damit das Personal versteht, was es dort einsetzt.
Was bei einem Verstoß droht
Anders als bei den Hochrisiko-Pflichten ist die eigenständige Bußgeldbewehrung von Art. 4 in der Aufsichtspraxis noch wenig konturiert. Praktisch relevant wird eine fehlende KI-Kompetenz meist erst, wenn ein Fehler des Systems zu einem Schaden führt und die fehlende Schulung als Sorgfaltspflichtverletzung gewertet wird.
Was jetzt zu tun ist
Eine kurze, dokumentierte Basis-Schulung pro eingesetztem KI-Tool, mit Fokus auf Funktionsweise, bekannte Fehlerquellen und Eskalationswege, deckt die Pflicht in den meisten Praxis-Konstellationen ab. Den vollständigen Fristenplan der KI-VO ordnet der InGuide-Baustein „Grundlagen und Fristen“ ein.
Wie Sie die Pflicht konkret umsetzen, wer in der Praxis eingewiesen werden muss und wie Sie die Maßnahme dokumentieren, zeigt der InSights-Beitrag KI-Schulung Pflicht in der Arztpraxis?.
Häufige Fragen
Ist die KI-Kompetenz-Pflicht jetzt weg, weil der Digital Omnibus sie abgeschwächt hat? Nein. Sie gilt weiter, verlangt seit Juli 2026 aber Maßnahmen, die die KI-Kompetenz des Personals unterstützen, und keine Garantie eines bestimmten Kompetenzniveaus.
Reicht eine kurze Einweisung in das KI-Tool aus? Eine reine Bedienungseinweisung ohne Hinweis auf Funktionsweise, Fehlerquellen und Grenzen dürfte nicht genügen; eine dokumentierte Basis-Schulung ist der sicherere Weg.
Gilt Art. 4 auch, wenn ein externer Dienstleister das KI-Tool betreibt? Ja, in aller Regel bleibt die Praxis mitverantwortlich für die Kompetenz der eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.