In diesem Ratgeber
Praxisfall: Aus dem Terminwunsch wird eine Krankengeschichte
Eine Patientin ruft wegen eines Termins an und schildert dabei Beschwerden, Medikamente und eine frühere Behandlung. Der Assistent erstellt ein Transkript und eine Zusammenfassung. Die Praxis erhält nur die Zusammenfassung, während beim Anbieter zusätzlich Audiodatei, Transkript und technische Protokolle liegen. Eine Prüfung, die nur auf das spätere PVS-Feld schaut, übersieht wesentliche Verarbeitungsschritte.
Lassen Sie sich den Weg vom ersten gesprochenen Wort bis zur Löschung erläutern: Telefoniedienst, Spracherkennung, KI-Modell, Administrationsoberfläche, PVS-Anbindung und Support. Für jeden Schritt sollten Datenarten, Empfänger, Speicherort und Speicherdauer nachvollziehbar sein.
Mit einem eng begrenzten Einsatz beginnen
Legen Sie schriftlich fest, welche Aufgaben das System erfüllen soll. Terminwünsche aufnehmen und Rückrufe vorbereiten ist etwas anderes als Beschwerden medizinisch bewerten, Behandlung empfehlen oder Dringlichkeit eigenständig entscheiden. Aus einem administrativen Pilotprojekt sollte nicht durch eine aktivierte Zusatzfunktion eine medizinische Entscheidungsanwendung werden.
Vor dem Pilotbetrieb beantworten
- Welche Anliegen darf der Assistent annehmen, und welche muss er an Menschen weitergeben?
- Welche Daten sind dafür notwendig, und welche Nachfragen sind ausdrücklich ausgeschlossen?
- Wie erreichen Anrufende eine geeignete Alternative, wenn sie die KI nicht nutzen möchten oder nicht verstanden werden?
- Wer liest Rückruflisten, wie schnell und mit welcher Vertretung?
- Wie werden Ausfälle, widersprüchliche Angaben und fehlerhafte Zusammenfassungen erkannt?
- Wie bleibt die Praxis für Situationen erreichbar, die der definierte Assistentenprozess nicht abdeckt?
Drei rechtliche Fragen getrennt beantworten
| Frage | Bedeutung für die Einführung |
|---|---|
| Ist erkennbar, dass eine KI spricht? | Eine klare Information muss zu Beginn passen. Artikel 50 Absatz 1 KI-Verordnung adressiert die entsprechende Gestaltungspflicht des Anbieters; die Praxis muss den transparenten Einsatz organisatorisch sicherstellen. |
| Auf welcher Grundlage werden Gesundheitsdaten verarbeitet? | Erforderlichkeit für den konkreten Behandlungs- oder Organisationszweck prüfen. Eine Einwilligung kann nötig sein; bloße Nützlichkeit macht eine Verarbeitung nicht automatisch erforderlich. |
| Wird das Gespräch aufgenommen? | Audioaufzeichnung, Transkription und Zusammenfassung technisch unterscheiden. Unbefugte Tonaufnahmen können § 201 StGB verletzen. Eine bloße KI-Begrüßung ist keine Zustimmung zu jeder Aufnahme oder weiteren Nutzung. |
Es gibt keine belastbare Pauschalantwort, dass jeder KI-Telefonassistent immer ohne Einwilligung oder immer nur mit Einwilligung betrieben werden darf. Entscheidend sind Funktion, Datenumfang, Erforderlichkeit und konkrete Ausgestaltung. Wird auf Einwilligung gestützt, müssen Informiertheit, ausdrückliche Erklärung bei Gesundheitsdaten, Freiwilligkeit und Nachweis organisiert werden. Schweigepflicht und Dienstleistereinbindung bleiben zusätzlich zu prüfen.
Den Anbieter anhand konkreter Antworten bewerten
Fragen Sie nach einem passenden AV-Vertrag, Unterauftragnehmern, vertraulichen Zugriffswegen und dem Umgang mit Patientengeheimnissen. Klären Sie, ob Gesprächsinhalte zur Modellverbesserung oder für eigene Zwecke verwendet werden, wer im Support Zugriff erhält und wie Daten aus sämtlichen beteiligten Systemen gelöscht werden. Ein europäischer Hauptserver schließt Drittlandzugriffe nicht automatisch aus.
Nützliche Nachweise für die Praxisakte
- Beschreibung des freigegebenen Anwendungsfalls und der beteiligten Systeme.
- Vertragsunterlagen, Schutzmaßnahmen und nachvollziehbare Speicher- und Löschregeln.
- Bewertung, ob eine Datenschutz-Folgenabschätzung erforderlich ist; bei voraussichtlich hohem Risiko Durchführung vor dem Einsatz.
- Ansage, Datenschutzinformation und gegebenenfalls dokumentierter Einwilligungsablauf.
- Pilotprotokoll mit typischen Fehlerfällen, Verantwortlichkeiten und Freigabeentscheidung.
Mit erfundenen Fällen testen und das Team einbeziehen
Testen Sie zunächst mit erfundenen Angaben: undeutliche Namen, abgebrochene Anrufe, Angehörigenanfragen, mehrere Anliegen und unerwartete medizinische Schilderungen. Kontrollieren Sie, ob Transkript und Zusammenfassung den Inhalt richtig wiedergeben. Besonders wichtig sind ausgelassene Verneinungen und falsch zugeordnete Personen. Eine überzeugend formulierte Zusammenfassung ist kein Richtigkeitsnachweis.
Die Mitarbeitenden brauchen Kenntnisse über Grenzen, Freigaben und Fehlerwege des konkret eingesetzten Systems. Planen Sie dafür passende Einweisung und Übungen ein. Artikel 4 KI-Verordnung betrifft Maßnahmen zur Unterstützung der KI-Kompetenzentwicklung; daraus folgt keine pauschale Pflicht zum Kauf eines bestimmten Zertifikats. Neue Funktionen oder Anbieteränderungen sollten eine erneute Prüfung auslösen.
Organisationshilfe und medizinische Entscheidung abgrenzen
Quellen & Rechtsgrundlagen
Grundlagen dieses Beitrags, geprüft zum angegebenen Stand. Gesetze und behördliche Hinweise können sich ändern; maßgeblich bleibt Ihre konkrete Verarbeitung.
- KBV: Künstliche Intelligenz in der Praxis (öffnet in neuem Tab)Abruf 29.10.2026
- EU-Kommission: Artikel 50 KI-Verordnung – Transparenzpflichten (öffnet in neuem Tab)Konsolidierter Text, Stand 27.07.2026; Abruf 29.10.2026
- EU-Kommission: Artikel 4 KI-Verordnung – KI-Kompetenz (öffnet in neuem Tab)Konsolidierter Text, Stand 27.07.2026; Abruf 29.10.2026
- § 201 StGB: Vertraulichkeit des Wortes (öffnet in neuem Tab)
- LfDI Baden-Württemberg: Rechtsgrundlagen beim Einsatz von KI (öffnet in neuem Tab)Abruf 29.10.2026
- DSK: Technische und organisatorische Maßnahmen bei KI-Systemen (öffnet in neuem Tab)Juni 2025
Dieser Ratgeber dient der datenschutzfachlichen und organisatorischen Orientierung. Er ersetzt keine anwaltliche Rechtsberatung im Einzelfall. Die Verantwortung für die Verarbeitung bleibt bei der Einrichtung. Für eine erste Beratungsanfrage genügen Angaben zum Anliegen; bitte keine Patientenakten über das öffentliche Kontaktformular senden.