KI-Kompetenz-Pflicht (Art. 4 KI-VO)
KI-Recht
Seit 2. Februar 2025 muss Personal im Umgang mit KI-Systemen kompetent sein
Art. 4 KI-VO verpflichtet Anbieter und Betreiber, ausreichende KI-Kompetenz ihres Personals sicherzustellen. Der Digital Omnibus hat den Wortlaut 2026 abgeschwächt, die Pflicht selbst bleibt bestehen.
Ein KI-Tool wird nicht dadurch sicher betrieben, dass es installiert ist. Art. 4 der EU-KI-Verordnung verlangt von jeder Praxis, die KI-Systeme einsetzt, dass das bedienende Personal über ausreichende Kenntnisse verfügt, um das System sachgerecht und mit Blick auf seine Grenzen zu nutzen.
Was Art. 4 KI-VO konkret verlangt
Art. 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, die sicherstellen, dass ihr Personal und andere Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Norm nennt dabei ausdrücklich den jeweiligen Kontext des Einsatzes und die Personen, bei denen das System eingesetzt werden soll, als Maßstab.
Betrifft mich das als Praxis?
Die Pflicht trifft nicht nur Software-Hersteller.
Einordnung nach Einsatzform
Der Digital Omnibus und die Abschwächung von Art. 4
Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat neben den Hochrisiko-Fristen auch den Wortlaut der KI-Kompetenz-Pflicht verändert und inhaltlich abgeschwächt. Welche einzelnen Anforderungen dabei entfallen sind, ist noch nicht abschließend geprüft und wird nachgetragen, sobald der konsolidierte Verordnungstext ausgewertet ist.
Vier typische Situationen
Wie sich die Pflicht in der Praxis auswirkt.
Spracherkennung für Arztbriefe
Das Personal sollte wissen, dass Erkennungsfehler bei Fachbegriffen und Dosierungsangaben häufiger auftreten und jeder Text vor der Übernahme gegengelesen werden muss.
Gut Schulung zu typischen Erkennungsfehlern, Pflicht zum Gegenlesen dokumentiert.
Schlecht Tool wird ohne jede Einweisung an neue Mitarbeitende weitergegeben.
KI-gestützte Terminvergabe per Chat
Personal sollte wissen, wie das System mit unklaren oder dringlichen Anfragen umgeht und wann eine menschliche Übernahme zwingend ist.
Gut Klare Eskalationsregel für dringliche Anfragen, dem Team bekannt.
Schlecht Niemand weiß, wann das System an einen Menschen übergibt.
KI-gestützte Auswertung von Aufnahmen
Hier ist die Kompetenz-Anforderung am höchsten: Das Personal muss die Fehlerquote und die Grenzen der Auswertung kennen, bevor ein Ergebnis in die Behandlung einfließt.
Gut Regelmäßige Auffrischung, dokumentierte Fehlerquote des Herstellers bekannt.
Schlecht Ergebnis wird ungeprüft übernommen, weil „die KI das schon richtig macht“.
KI-Tools bei Abrechnung oder Marketing
Auch wenn ein Dienstleister das Tool betreibt, bleibt die Praxis regelmäßig Mitverantwortliche für die eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.
Gut Vertraglich geregelt, wer für welche Schulung zuständig ist.
Schlecht Niemand fühlt sich für die Schulung des eigenen Personals zuständig.
Zeitleiste
Von der Einführung bis zur Abschwächung
- 1. August 2024
KI-VO tritt in Kraft
Verordnung (EU) 2024/1689 tritt in Kraft.
- 2. Februar 2025
Art. 4 gilt unmittelbar
Die KI-Kompetenz-Pflicht greift ohne Übergangsfrist.
- 27. Juli 2026
Digital Omnibus tritt in Kraft
Der Wortlaut von Art. 4 wird abgeschwächt, die Pflicht bleibt bestehen.
- laufend
Aufsichtspraxis entsteht
Wie streng die abgeschwächte Fassung ausgelegt wird, zeigt sich erst in der Praxis der Behörden.
Abgrenzung zu anderen KI-Pflichten
Art. 4 ist von der Kennzeichnungspflicht nach Art. 50 zu unterscheiden: Art. 50 verlangt, dass Patientinnen und Patienten erkennen, wenn sie mit einer KI interagieren. Art. 4 richtet sich nach innen, an die eigene Organisation, und verlangt, dass das Personal selbst weiß, was es dort einsetzt.
Was bei einem Verstoß droht
Anders als bei den Hochrisiko-Pflichten ist die eigenständige Bußgeldbewehrung von Art. 4 in der Aufsichtspraxis noch wenig konturiert. Praktisch relevant wird eine fehlende KI-Kompetenz meist erst, wenn ein Fehler des Systems zu einem Schaden führt und die fehlende Schulung als Sorgfaltspflichtverletzung gewertet wird.
Was jetzt zu tun ist
Eine kurze, dokumentierte Basis-Schulung pro eingesetztem KI-Tool, mit Fokus auf Funktionsweise, bekannte Fehlerquellen und Eskalationswege, deckt die Pflicht in den meisten Praxis-Konstellationen ab. Den vollständigen Fristenplan der KI-VO ordnet der InGuide-Baustein „Grundlagen und Fristen“ ein.
Häufige Fragen
Ist die KI-Kompetenz-Pflicht jetzt weg, weil der Digital Omnibus sie abgeschwächt hat? Nein, sie gilt weiterhin, nur mit inhaltlich reduzierten Anforderungen.
Reicht eine kurze Einweisung in das KI-Tool aus? Eine reine Bedienungseinweisung ohne Hinweis auf Funktionsweise, Fehlerquellen und Grenzen dürfte nicht genügen; eine dokumentierte Basis-Schulung ist der sicherere Weg.
Gilt Art. 4 auch, wenn ein externer Dienstleister das KI-Tool betreibt? Ja, in aller Regel bleibt die Praxis mitverantwortlich für die Kompetenz der eigenen Mitarbeitenden, die mit den Ergebnissen arbeiten.
Nächster Schritt
Compliance-Risiko einschätzen
Der AppCore-Erstaudit zeigt dir in 10 Minuten, wo deine Website steht.