Personenbezug in großen Sprachmodellen - Die Ergebnisse der Konsultation der BfDI

KI-Modelle, insbesondere große Sprachmodelle (LLMs) werden mit  enormen Datenmengen trainiert. Der Europäische Datenschutzausschuss hat festgestellt, dass solche Modelle personenbezogene Daten enthalten – „memorisieren“ – können. Diese Feststellung wirft bedeutende Fragen zum Schutz personenbezogener Daten auf und erfordert eine systematische Auseinandersetzung mit den datenschutzrechtlichen Herausforderungen bei der Planung, dem Training und der Nutzung dieser Modelle.

Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit hat im Rahmen einer öffentlichen Konsultation praktische Erfahrungen, technische Einschätzungen und normative Überlegungen von Expert:innen aus verschiedenen Bereichen eingeholt.

Dr. Vyacheslav Bortnikov und Sarah Gosten stellen die Ergebnisse dieser Konsultation vor. Sie geben einen Überblick auf die im Verfahren aufgeworfenen Fragen sowie die eingegangenen Stellungnahmen – etwa zur Anonymität von Modellen, zur Bewertung und Begrenzung von Memorisierungs-Risiken sowie zu technischen und organisatorischen Schutzmaßnahmen.