EU AI Act in der Arztpraxis: KI-Kompetenz nach Art. 4 und was für Dokumentationssoftware gilt
Eine Praxis, die ein KI-System beruflich einsetzt, ist Betreiberin im Sinn der KI-Verordnung (EU) 2024/1689. Aus dieser Rolle folgt für nicht als hochriskant eingestufte Werkzeuge vor allem eine Pflicht: Art. 4 verlangt Maßnahmen, damit die Personen, die das System bedienen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Diese Regel gilt seit dem 2. Februar 2025.
Redaktionell gegen Produktverhalten und angegebene Primärquellen geprüft; keine individuelle medizinische oder rechtliche Beratung.
Diese Übersicht ist allgemeine Information und keine Rechtsberatung. Die Praxis muss Rechtsgrundlage, Information, Einwilligungsablauf und Datenschutzmaßnahmen für ihren konkreten Einsatz mit ihrer Rechts- oder Datenschutzberatung prüfen.
Welche Rolle die Praxis in der Verordnung hat
Die Verordnung (EU) 2024/1689 unterscheidet vor allem zwischen Anbietern und Betreibern. Betreiber ist nach Art. 3 Nr. 4 wer ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Eine Praxis, die ein Werkzeug in der Sprechstunde einsetzt, ist damit Betreiberin — auch dann, wenn sie es nur eingekauft hat.
Die Rolle des Anbieters bleibt beim Hersteller. Sie bringt die schwereren Pflichten mit sich, etwa zu Konformität und technischer Dokumentation. Für die Praxis ist die entscheidende Frage deshalb nicht, welche Pflichten es insgesamt gibt, sondern welche an der Rolle der Betreiberin hängen.
Art. 4: KI-Kompetenz, und was damit gemeint ist
Art. 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Vorschrift nennt dafür Kenntnisse und Erfahrung, Ausbildung und Schulung, den Kontext des Einsatzes und die Personen, bei denen das System eingesetzt wird.
Art. 3 Nr. 56 definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die einen sachkundigen Einsatz ermöglichen. Das ist bewusst kein Zertifikat und keine Stundenzahl, sondern ein Ergebnis: Wer das Werkzeug bedient, soll wissen, was es tut, wo es irrt und wann eine Ausgabe zu prüfen ist.
Für eine Praxis ist das eher eine Frage der Einweisung als eine Frage der Fortbildung. Wer aufnimmt, sollte erklären können, was aufgezeichnet wird; wer den Entwurf prüft, sollte wissen, dass die Prüfung der Punkt ist, an dem aus einem Entwurf eine Dokumentation wird.
Seit wann was gilt
Die Verordnung ist im Juli 2024 im Amtsblatt veröffentlicht worden und im August 2024 in Kraft getreten. Die Anwendung ist gestaffelt, und die Staffel steht in Art. 113.
- 2. Februar 2025: Kapitel I und II — allgemeine Bestimmungen, verbotene Praktiken und Art. 4.
- 2. August 2025: unter anderem die Regeln zu KI-Modellen mit allgemeinem Verwendungszweck und die Governance-Kapitel.
- 2. August 2026: die Verordnung im Übrigen.
- 2. August 2027: Art. 6 Abs. 1 und die daran hängenden Pflichten für Hochrisiko-Systeme in regulierten Produkten.
Wann ein Werkzeug als Hochrisiko-System gilt
Art. 6 Abs. 1 knüpft die Einstufung an das Produktrecht: Hochrisiko ist ein System, das Sicherheitsbauteil eines Produkts nach den in Anhang I genannten Rechtsvorschriften ist oder selbst ein solches Produkt darstellt, und für das eine Konformitätsbewertung durch Dritte vorgeschrieben ist. Anhang I nennt in Abschnitt A unter Nummer 11 die Medizinprodukteverordnung (EU) 2017/745.
Daneben steht Anhang III mit eigenständig eingestuften Anwendungsfällen. Nummer 5 betrifft den Zugang zu grundlegenden Diensten und nennt unter Buchstabe d bestimmte Systeme in der Notfallversorgung. Wer eine Sprechstunde dokumentiert, ist damit nicht gemeint.
Praktisch heißt das: Die Einstufung führt über die Zweckbestimmung. Ein Werkzeug, das keine Diagnose stellt und keinen medizinischen Zweck beansprucht, wird nicht über den Weg des Anhangs I zum Hochrisiko-System. Die Prüfung, ob eine Anwendung Medizinprodukt ist, richtet sich weiterhin nach der Medizinprodukteverordnung und nicht nach der KI-Verordnung.
Was eine Praxis konkret ablegen kann
Art. 4 verlangt Maßnahmen, nicht Formulare. Wer trotzdem etwas in der Hand haben will, wenn gefragt wird, sammelt am besten das, was ohnehin entsteht: wer eingewiesen wurde, worüber, und was das Werkzeug laut Anbieter tut und nicht tut.
- Eine kurze Notiz, welche Personen eingewiesen wurden und wann.
- Der Ablauf, den die Praxis vereinbart hat: Einwilligung, Aufnahme, Prüfung, Übernahme.
- Die Grenzen des Werkzeugs, wie der Anbieter sie beschreibt.
- Wer im Zweifel entscheidet, ob ein Entwurf verworfen wird.
- Wo die Datenschutzunterlagen liegen, die die DSGVO ohnehin verlangt.
Was die KI-Verordnung nicht ersetzt
Die Verordnung tritt neben die bestehenden Regeln. Die datenschutzrechtliche Bewertung folgt weiter der DSGVO, die Schweigepflicht dem § 203 StGB, die Dokumentationspflicht dem § 630f BGB. Keine dieser Prüfungen wird durch die KI-Verordnung erledigt, und keine erledigt sie.
Umgekehrt macht die KI-Verordnung aus einem Dokumentationswerkzeug kein Medizinprodukt und aus einem Medizinprodukt kein harmloses Textwerkzeug. Sie fügt eine Ebene hinzu, auf der die Praxis vor allem eines zeigen muss: dass die Menschen, die das System bedienen, verstehen, womit sie arbeiten.
Häufige Fragen
Muss eine Arztpraxis wegen der KI-Verordnung etwas anmelden?
Für ein Werkzeug, das nicht als Hochrisiko-System eingestuft ist, sieht die Verordnung für Betreiber keine Registrierung vor. Die Pflicht, die aus der Rolle der Betreiberin folgt, ist vor allem Art. 4: Maßnahmen für ein ausreichendes Maß an KI-Kompetenz.
Seit wann gilt Art. 4?
Seit dem 2. Februar 2025. Kapitel I und II der Verordnung gelten seit diesem Datum; die Verordnung im Übrigen seit dem 2. August 2026, die Pflichten aus Art. 6 Abs. 1 ab dem 2. August 2027.
Ist eine Dokumentationsanwendung ein Hochrisiko-System?
Nicht allein deshalb, weil sie in einer Praxis läuft. Art. 6 Abs. 1 knüpft an Produkte nach Anhang I an, für die eine Konformitätsbewertung durch Dritte vorgeschrieben ist; Anhang III nennt eigene Anwendungsfälle, unter denen die Dokumentation einer Sprechstunde nicht steht.
Reicht eine Schulung, um Art. 4 zu erfüllen?
Die Vorschrift verlangt Maßnahmen, die zum Kontext passen, und nennt Kenntnisse, Erfahrung, Ausbildung und Schulung als Faktoren. Eine dokumentierte Einweisung in den Ablauf der Praxis ist der naheliegende Anfang; was im Einzelfall genügt, gehört in die eigene Rechtsberatung.
Gilt die KI-Verordnung auch, wenn das Modell lokal läuft?
Ja. Die Verordnung knüpft an den Einsatz eines KI-Systems an, nicht daran, wo es rechnet. Der Ort der Verarbeitung ist eine datenschutzrechtliche Frage und wird getrennt beantwortet.