ChatGPT in der Apotheke: Welche Daten hinein dürfen und welche nie

Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich untersagt und nur unter engen Voraussetzungen erlaubt. Dazu kommt die Schweigepflicht: Apothekerinnen und Apotheker sowie die Menschen, die bei ihnen mitarbeiten, dürfen nach § 203 StGB keine fremden Geheimnisse offenbaren, die ihnen im Beruf anvertraut wurden.

Wer Angaben zu einer Kundin in ein Online-System eingibt, übermittelt sie an einen Dritten, häufig mit Servern außerhalb der EU. Ohne Rechtsgrundlage, Vertrag und Prüfung ist das mit beiden Regeln nicht vereinbar.

• Namen, Geburtsdaten, Anschriften, Telefonnummern und Versichertennummern.
• Rezeptinhalte, Medikationspläne und Diagnosen, sobald sie einer Person zugeordnet werden können.
• Fotos oder Scans von Rezepten, Kundenkarten, Arztbriefen oder Ausweisen.
• Daten aus dem Team: Krankmeldungen, Beurteilungen, Gehälter.
• Zugangsdaten, Passwörter und interne Unterlagen, die nicht nach außen dringen sollen.

• Texte ohne Personenbezug: Aushänge, Newsletter, Stellenanzeigen, Texte für die Website.
• Entwürfe für E-Mails und Antworten, in denen Namen und Einzelheiten erst danach von Hand ergänzt werden.
• Übersetzungen allgemeiner Hinweise, etwa zur Einnahme oder zu Öffnungszeiten.
• Checklisten, Schulungsunterlagen und Arbeitsanweisungen aus den eigenen Abläufen.
• Allgemeine Fachfragen als Einstieg in eine Recherche, mit anschließender Prüfung.

Eine Angabe ist erst dann anonym, wenn sich die Person auch aus der Kombination der übrigen Angaben nicht mehr erkennen lässt. In einer kleinen Stadt kann schon die Mischung aus Alter, Wohnort und einer seltenen Erkrankung genügen. Formulieren Sie Beispiele deshalb so allgemein wie möglich, etwa „ältere Kundin mit Blutverdünner und Schmerzmittel“ statt einer genauen Beschreibung.

Bei den Versionen für Privatpersonen können Eingaben nach Angaben des Anbieters zur Verbesserung der Modelle verwendet werden, sofern Sie das nicht in den Einstellungen abschalten. Für die Tarife für Unternehmen und die Programmierschnittstelle gibt OpenAI an, Eingaben standardmäßig nicht zum Training zu verwenden, und bietet einen Auftragsverarbeitungsvertrag an.

Ein Unternehmenstarif mit Vertrag ist für eine Apotheke die sauberere Grundlage. Die Grundregel ändert er nicht: Auch mit Unternehmenstarif gehören personenbezogene Gesundheitsdaten nicht hinein, solange der Einsatz nicht rechtlich geprüft ist. Private Konten sollten für Aufgaben der Apotheke gar nicht genutzt werden.

Sprachmodelle formulieren überzeugend, auch wenn eine Angabe falsch ist. Für Dosierungen, Wechselwirkungen und Kontraindikationen bleiben Fachinformation und die gewohnten pharmazeutischen Datenbanken maßgeblich. Die fachliche Verantwortung liegt beim pharmazeutischen Personal, das System liefert höchstens einen Entwurf.

Wer ein System einsetzt, in das personenbezogene Daten gelangen können, braucht nach Art. 28 DSGVO einen Vertrag über die Auftragsverarbeitung mit dem Anbieter. Außerdem gehört die Verarbeitung in das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO, das jede Apotheke ohnehin führt.

• Vertrag zur Auftragsverarbeitung abschließen, bevor das System im Betrieb genutzt wird, nicht danach.
• Im Verzeichnis eintragen, zu welchem Zweck das System genutzt wird und welche Datenarten dabei anfallen.
• Festhalten, wo der Anbieter die Daten verarbeitet, und ob eine Übermittlung in ein Drittland stattfindet.
• Prüfen, ob der Anbieter Eingaben zum Training verwendet, und diese Einstellung dokumentieren.

Diese vier Punkte sind in einer halben Stunde erledigt, wenn man sie vorher einplant. Nachträglich kosten sie ein Vielfaches, weil dann erst rekonstruiert werden muss, wer wann was eingegeben hat.

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der KI-Verordnung. Für eine Apotheke ist davon vor allem der veröffentlichte Teil betroffen: Bild-, Audio- oder Videoinhalte, die mit KI erzeugt oder verändert wurden, sind als solche offenzulegen. Bei Texten greift die Pflicht enger, nämlich für Veröffentlichungen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, und auch dort nur, wenn der Text nicht redaktionell geprüft wurde.

Praktisch heißt das: Ein mit KI erzeugtes Motiv für ein Schaufenster oder einen Beitrag in sozialen Netzwerken gehört gekennzeichnet. Ein Entwurf, den eine Apothekerin durchsieht und verantwortet, nicht. Der interne Gebrauch löst gar keine Kennzeichnungspflicht aus.

Am besten wirkt eine kurze schriftliche Regel mit Beispielen: was erlaubt ist, was nie, welches System mit welchem Konto genutzt wird und wen man bei Unsicherheit fragt. Sie ist zugleich ein Baustein der KI-Kompetenz, die Artikel 4 der KI-Verordnung von Apotheken verlangt. Im Team entsteht so eine Regel an einem halben Tag, etwa in einem KI-Workshop für Apotheken.