EU AI Act in der Arztpraxis: KI-Kompetenz nach Art. 4 und was für Dokumentationssoftware gilt
Eine Praxis, die ein KI-System beruflich einsetzt, ist Betreiberin im Sinn der KI-Verordnung (EU) 2024/1689. Aus dieser Rolle folgt für nicht als hochriskant eingestufte Werkzeuge vor allem eine Pflicht: Art. 4 verlangt Maßnahmen, die die KI-Kompetenz der Personen unterstützen, die das System bedienen. Diese Regel gilt seit dem 2. Februar 2025; ihre heutige Fassung stammt aus der Änderungsverordnung (EU) 2026/1744 vom Juli 2026.
Redaktionell gegen Produktverhalten und angegebene Primärquellen geprüft; keine individuelle medizinische oder rechtliche Beratung.
Diese Übersicht ist allgemeine Information und keine Rechtsberatung. Die Praxis muss Rechtsgrundlage, Information, Einwilligungsablauf und Datenschutzmaßnahmen für ihren konkreten Einsatz mit ihrer Rechts- oder Datenschutzberatung prüfen.
Welche Rolle die Praxis in der Verordnung hat
Die Verordnung (EU) 2024/1689 unterscheidet vor allem zwischen Anbietern und Betreibern. Betreiber ist nach Art. 3 Nr. 4 wer ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Eine Praxis, die ein Werkzeug in der Sprechstunde einsetzt, ist damit Betreiberin, auch dann, wenn sie es nur eingekauft hat.
Die Rolle des Anbieters bleibt beim Hersteller. Sie bringt die schwereren Pflichten mit sich, etwa zu Konformität und technischer Dokumentation. Für die Praxis ist die entscheidende Frage deshalb nicht, welche Pflichten es insgesamt gibt, sondern welche an der Rolle der Betreiberin hängen.
Die folgende Übersicht zeigt die Pflichten, die an der Rolle der Betreiberin hängen, mit dem Tag, ab dem sie gelten. Mehrere Zeilen greifen nur, wenn die Praxis ein bestimmtes System einsetzt.
| Pflicht | Vorschrift | Gilt ab | Betrifft die Praxis, wenn |
|---|---|---|---|
| Maßnahmen zur KI-Kompetenz von Personal und Beauftragten ergreifen | Art. 4 in der Fassung der Verordnung (EU) 2026/1744 | 2. Februar 2025 | sie ein KI-System beruflich einsetzt |
| Keine verbotenen Praktiken einsetzen | Art. 5 (Kapitel II) | 2. Februar 2025 | immer; die Verbote gelten für jede Verwendung |
| Betroffene über den Betrieb informieren | Art. 50 Abs. 3 | 2. August 2026 | sie ein System zur Emotionserkennung oder zur biometrischen Kategorisierung betreibt |
| Offenlegen, dass Inhalte künstlich erzeugt sind | Art. 50 Abs. 4 | 2. August 2026 | sie Deepfakes erzeugt oder KI-Texte zu Angelegenheiten von öffentlichem Interesse veröffentlicht; für Texte entfällt die Pflicht bei menschlicher Prüfung und redaktioneller Verantwortung |
| Nach Betriebsanleitung verwenden, menschliche Aufsicht zuweisen, Betrieb überwachen | Art. 26 bei Hochrisiko-Systemen nach Anhang III | 2. Dezember 2027 | sie ein Hochrisiko-System nach Anhang III einsetzt |
| Dieselben Betreiberpflichten | Art. 26 bei Hochrisiko-Systemen nach Art. 6 Abs. 1 und Anhang I | 2. August 2028 | sie ein KI-System einsetzt, das als Medizinprodukt einer Prüfung durch eine Benannte Stelle unterliegt |
Gelesen im amtlichen Text der Verordnung (EU) 2024/1689 und der Änderungsverordnung (EU) 2026/1744 auf EUR-Lex. Die Termine für Hochrisiko-Systeme sind die geänderten nach Art. 113 Abs. 3 lit. c.
Gelesene Gesetzestexte (6)
Art. 4: KI-Kompetenz, und was damit gemeint ist
Art. 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. So lautet die Vorschrift seit der Änderungsverordnung (EU) 2026/1744 vom Juli 2026; zuvor verlangte sie, nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen.
Art. 3 Nr. 56 definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die einen sachkundigen Einsatz ermöglichen. Das ist bewusst kein Zertifikat und keine Stundenzahl, sondern ein Ergebnis: Wer das Werkzeug bedient, soll wissen, was es tut, wo es irrt und wann eine Ausgabe zu prüfen ist.
Für eine Praxis ist das eher eine Frage der Einweisung als eine Frage der Fortbildung. Wer aufnimmt, sollte erklären können, was aufgezeichnet wird; wer den Entwurf prüft, sollte wissen, dass die Prüfung der Punkt ist, an dem aus einem Entwurf eine Dokumentation wird.
Seit wann was gilt
Die Verordnung ist im Juli 2024 im Amtsblatt veröffentlicht worden und im August 2024 in Kraft getreten. Die Anwendung ist gestaffelt, und die Staffel steht in Art. 113.
- 2. Februar 2025: Kapitel I und II, allgemeine Bestimmungen, verbotene Praktiken und Art. 4.
- 2. August 2025: unter anderem die Regeln zu KI-Modellen mit allgemeinem Verwendungszweck und die Governance-Kapitel.
- 2. August 2026: die Verordnung im Übrigen, darunter die Transparenzpflichten nach Art. 50, aber noch nicht die Anforderungen an Hochrisiko-Systeme.
- 2. Dezember 2027: die Anforderungen an eigenständige Hochrisiko-Systeme nach Anhang III.
- 2. August 2028: Art. 6 Abs. 1, also Hochrisiko-Systeme in regulierten Produkten wie Medizinprodukten. Beide Hochrisiko-Termine hat die Verordnung (EU) 2026/1744 verschoben; zuvor galten der 2. August 2026 und der 2. August 2027.
Wann ein Werkzeug als Hochrisiko-System gilt
Art. 6 Abs. 1 knüpft die Einstufung an das Produktrecht: Hochrisiko ist ein System, das eines Produkts nach den in Anhang I genannten Rechtsvorschriften ist oder selbst ein solches Produkt darstellt, und für das eine vorgeschrieben ist. Anhang I nennt in Abschnitt A unter Nummer 11 die Medizinprodukteverordnung (EU) 2017/745.
Daneben steht Anhang III mit eigenständig eingestuften Anwendungsfällen. Nummer 5 betrifft den Zugang zu grundlegenden Diensten und nennt unter Buchstabe d bestimmte Systeme in der Notfallversorgung. Wer eine Sprechstunde dokumentiert, ist damit nicht gemeint.
Praktisch heißt das: Die Einstufung führt über die Zweckbestimmung. Ein Werkzeug, das keine Diagnose stellt und keinen medizinischen Zweck beansprucht, wird nicht über den Weg des Anhangs I zum Hochrisiko-System. Die Prüfung, ob eine Anwendung Medizinprodukt ist, richtet sich weiterhin nach der Medizinprodukteverordnung und nicht nach der KI-Verordnung.
Was eine Praxis konkret ablegen kann
Art. 4 verlangt Maßnahmen, nicht Formulare. Wer trotzdem etwas in der Hand haben will, wenn gefragt wird, sammelt am besten das, was ohnehin entsteht: wer eingewiesen wurde, worüber, und was das Werkzeug laut Anbieter tut und nicht tut.
- Eine kurze Notiz, welche Personen eingewiesen wurden und wann.
- Der Ablauf, den die Praxis vereinbart hat: Einwilligung, Aufnahme, Prüfung, Übernahme.
- Die Grenzen des Werkzeugs, wie der Anbieter sie beschreibt.
- Wer im Zweifel entscheidet, ob ein Entwurf verworfen wird.
- Wo die Datenschutzunterlagen liegen, die die DSGVO ohnehin verlangt.
Was die KI-Verordnung nicht ersetzt
Die Verordnung tritt neben die bestehenden Regeln. Die datenschutzrechtliche Bewertung folgt weiter der DSGVO, die Schweigepflicht dem § 203 StGB, die Dokumentationspflicht dem § 630f BGB. Keine dieser Prüfungen wird durch die KI-Verordnung erledigt, und keine erledigt sie.
Umgekehrt macht die KI-Verordnung aus einem Dokumentationswerkzeug kein Medizinprodukt und aus einem Medizinprodukt kein harmloses Textwerkzeug. Sie fügt eine Ebene hinzu, auf der die Praxis vor allem eines zeigen muss: dass die Menschen, die das System bedienen, verstehen, womit sie arbeiten.
Häufige Fragen
Muss eine Arztpraxis wegen der KI-Verordnung etwas anmelden?
Für ein Werkzeug, das nicht als Hochrisiko-System eingestuft ist, sieht die Verordnung für Betreiber keine Registrierung vor. Die Pflicht, die aus der Rolle der Betreiberin folgt, ist vor allem Art. 4: Maßnahmen, die die KI-Kompetenz im Team unterstützen.
Seit wann gilt Art. 4?
Seit dem 2. Februar 2025. Kapitel I und II der Verordnung gelten seit diesem Datum, die Verordnung im Übrigen seit dem 2. August 2026. Die Anforderungen an Hochrisiko-Systeme gelten ab dem 2. Dezember 2027, für Hochrisiko-Systeme in regulierten Produkten nach Art. 6 Abs. 1 ab dem 2. August 2028.
Ist eine Dokumentationsanwendung ein Hochrisiko-System?
Nicht allein deshalb, weil sie in einer Praxis läuft. Art. 6 Abs. 1 knüpft an Produkte nach Anhang I an, für die eine Konformitätsbewertung durch Dritte vorgeschrieben ist; Anhang III nennt eigene Anwendungsfälle, unter denen die Dokumentation einer Sprechstunde nicht steht.
Reicht eine Schulung, um Art. 4 zu erfüllen?
Die Vorschrift verlangt Maßnahmen, die zum Kontext passen, und nennt Kenntnisse, Erfahrung, Ausbildung und Schulung als Faktoren. Eine dokumentierte Einweisung in den Ablauf der Praxis ist der naheliegende Anfang; was im Einzelfall genügt, gehört in die eigene Rechtsberatung.
Gilt die KI-Verordnung auch, wenn das Modell lokal läuft?
Ja. Die Verordnung knüpft an den Einsatz eines KI-Systems an, nicht daran, wo es rechnet. Der Ort der Verarbeitung ist eine datenschutzrechtliche Frage und wird getrennt beantwortet.