KI-Kennzeichnung in Arztpraxis und MVZ: Was müssen Sie offenlegen?

Chatbots: Den KI-Einsatz direkt erkennbar machen

Bei Systemen, die unmittelbar mit Menschen kommunizieren, müssen Anbieter grundsätzlich dafür sorgen, dass der Kontakt mit einer KI erkennbar ist. Eine Ausnahme kommt in Betracht, wenn dies nach den Umständen bereits offensichtlich ist. Nach Artikel 50 muss die Information spätestens bei der ersten Interaktion klar und zugänglich erfolgen.

Prüfen Sie deshalb vor der Freischaltung, wie Ihr Chatbot sich vorstellt. Ein freundlicher Personenname und ein Porträt können den Eindruck eines menschlichen Praxisbeschäftigten vermitteln. Ein sichtbarer Hinweis im Chatfenster schafft Klarheit.

Der Hinweis muss zur tatsächlichen Funktion passen. Er ersetzt weder eine sichere technische Gestaltung noch die erforderlichen Datenschutzinformationen. Soll der Assistent persönliche Anliegen bearbeiten, müssen Datenverarbeitung und Zuständigkeiten dafür zuvor geklärt sein.

Bilder, Stimmen und Videos: Den Eindruck echter Aufnahmen prüfen

Artikel 50 erfasst auch KI-generierte oder manipulierte Inhalte, die als Deepfake einzuordnen sind. Nach Artikel 3 Nummer 60 kommt es darauf an, ob Bild-, Ton- oder Videoinhalte wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise echt oder wahrheitsgemäß erscheinen. Nicht jedes KI-Bild erfüllt automatisch diese Definition.

Für Gesundheitsbetriebe können etwa nachgebildete Arztstimmen, synthetische Interviews oder vermeintliche Aufnahmen aus einer Praxis relevant sein. Prüfen Sie vor der Veröffentlichung, welchen Eindruck der konkrete Inhalt vermittelt und welche Offenlegung erforderlich ist.

Als redaktioneller Grundsatz empfiehlt sich: Reale Räume, Behandelnde und Qualifikationen mit echten Informationen darstellen. KI-Illustrationen sollten ihre Funktion als Illustration deutlich erkennen lassen.

Gesundheitstexte: Fachliche Verantwortung bleibt entscheidend

Bei KI-generierten Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, kann eine Offenlegungspflicht bestehen. Artikel 50 Absatz 4 enthält eine Ausnahme, wenn die Inhalte menschlich überprüft oder redaktionell kontrolliert wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Für Patienteninformationen empfiehlt sich ein nachvollziehbarer Freigabeprozess: Wer hat den Text inhaltlich geprüft? Welche Quellen wurden kontrolliert? Wer verantwortet die Veröffentlichung? Ein automatischer Entwurf sollte nicht allein deshalb veröffentlicht werden, weil er flüssig klingt.

Kontrollieren Sie insbesondere medizinische Aussagen, Leistungsbeschreibungen, Facharztangaben und Handlungsanweisungen. Legen Sie außerdem fest, wann Inhalte erneut geprüft werden.

Transparenz und Datenschutz gemeinsam umsetzen

Ein KI-Hinweis beantwortet noch nicht, ob Patientendaten rechtmäßig verarbeitet werden. Die Datenschutzkonferenz empfiehlt, Einsatzfeld, Verantwortlichkeit, Datenverarbeitung und Schutzmaßnahmen vorab zu klären. Auch mögliche Speicherungen und die Nutzung von Eingaben für das Training müssen berücksichtigt werden.

Beschäftigte auf ihre tatsächlichen Aufgaben vorbereiten

Artikel 4 verlangt nach seiner Änderung durch den Digital-Omnibus Maßnahmen, die die Entwicklung der KI-Kompetenz unterstützen. Kenntnisse, Erfahrung und Einsatzkontext sind zu berücksichtigen; ein bestimmtes Kompetenzniveau muss ausdrücklich nicht garantiert werden.

Eine MFA, die einen Terminassistenten betreut, benötigt andere Kenntnisse als eine Person, die medizinische Fachtexte redaktionell prüft. Sinnvoll sind kurze, auf die konkreten Werkzeuge zugeschnittene Unterweisungen und klar benannte Ansprechpartner.

Welche Frist gilt für die technische Kennzeichnung?

Für bestimmte generative Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, besteht bis zum 2. Dezember 2026 eine begrenzte Übergangsfrist für die Anbieterpflicht zur technischen Markierung nach Artikel 50 Absatz 2. Daraus ergibt sich keine allgemeine Verschiebung sämtlicher Transparenzpflichten. Klären Sie mit Ihrem Anbieter, welche Vorgaben seine konkrete Anwendung erfüllen muss.