Neue Enthüllungen rund um interne Qualitätssicherungsverfahren bei OpenAI sorgen in europäischen Datenschutzkreisen für Aufsehen: Recherchen zufolge setzen Dienstleister im Rahmen eines Projekts namens „Lily“ externe Prüfer ein, um tatsächliche Benutzerdialoge aus ChatGPT manuell zu lesen, zu kategorisieren und für Trainingsschleifen zu bewerten.
Zwar schließen vertraglich abgesicherte Enterprise- und API-Vereinbarungen eine Weiterverwendung von Kundendaten für das Modelltraining standardmäßig aus, bei regulären Einzelkonten und Team-Accounts ohne explizites Opt-Out greift dieser Schutz jedoch nicht lückenlos. Europäische Aufsichtsbehörden warnen Unternehmen daher erneut vor den Gefahren unregulierter Schatten-IT: Wenn Mitarbeiter vertrauliche Geschäftsberichte, Quellcode-Auszüge, Finanzdaten oder Kundendaten unbedarft in frei zugängliche Chat-Oberflächen kopieren, können diese Inhalte von Drittparteien außerhalb des EU-Rechtsraums eingesehen werden.
Die Praxis kollidiert zunehmend mit den strengen Auskunfts- und Löschpflichten der Datenschutz-Grundverordnung (DSGVO). Da einmal in Modellgewichte eingeflossene Informationen technisch kaum gezielt entfernt werden können, drohen Unternehmen bei Datenpannen empfindliche Haftungsrisiken. Rechtsexperten raten IT-Leitungen dringend dazu, klare Richtlinien für die Belegschaft zu erlassen und geschäftliche Anwendungsfälle ausschließlich über auditierbare Enterprise-Schnittstellen mit Zero-Retention-Garantie abzuwickeln.
Die aktuellen Berichte verdeutlichen die wachsende Kluft zwischen verbraucherorientierten Chat-Tools und rechtskonformen Unternehmenslösungen, wie die detaillierten Recherchen von Golem.de hervorheben.
Quellen
- Golem.de, „Berichte über manuelle Überprüfung von ChatGPT-Verläufen durch externe Dienstleister“, 15. September 2026
- Heise Online, „Datenschutzrisiken bei Standard-KI-Accounts: EU-Behörden mahnen Unternehmen“, 15. September 2026
