Künstliche Intelligenz und Gleichstellung
Datenschutz- und Antidiskriminierungsrecht – was muss ich mir darunter vorstellen, und warum ist das wichtig?
Die Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht sind in Wissenschaft und Praxis bisher wenig beleuchtet. Dabei besteht kein Zweifel, dass beide Rechtsgebiete mehr und mehr an Bedeutung gewinnen. Insbesondere das Phänomen der „Algorithmendiskriminierung“ macht es erforderlich, die beiden Themenbereiche zusammen zu denken. Denn obwohl die beiden Rechtsgebiete auf den ersten Blick wenig gemeinsam haben und auch in der Fachöffentlichkeit häufig als getrennt voneinander operierende Themen- und Tätigkeitsbereiche wahrgenommen werden, können sie einander ergänzen.
Datenschutz- und Antidiskriminierungsrecht verfolgen sehr ähnliche und in Teilen sogar die gleichen Ziele. In beiden Rechtsgebieten geht es darum, gesellschaftliche Machtasymmetrien auszugleichen und zu regulieren. Beide wollen die freie Entfaltung der Persönlichkeit gewährleisten und Individuen vor Fremdzuschreibungen schützen. Es geht um den Schutz der einzelnen Person, aber auch um gesamtgesellschaftliche Freiheit und (Chancen-)Gleichheit.
Eine vergleichsweise junge Bedrohung für diese Werte und Rechte ist der Einsatz algorithmischer Systeme und Künstlicher Intelligenz (KI). Das betrifft sowohl den privaten als auch den öffentlichen Bereich. Moderner Technik wird das Potential zugeschrieben, effiziente, neutrale und faire Entscheidungen zu gewährleisten – sei es im Rahmen von Bewerbungs- und Einstellungsverfahren oder der „intelligenten“ Polizeiarbeit. Gleichzeitig mehren sich Berichte über diskriminierende Effekte algorithmischer Systeme: in der „analogen Welt“ benachteiligte Personen, werden auch beim Einsatz von Technik diskriminiert.
Das wollen sowohl das Antidiskriminierungs- als auch das Datenschutzrecht verhindern und setzen dafür an unterschiedlichen Stellen an. Diskriminierungsverbote verbieten kategoriale Benachteiligungen vulnerabler Gruppe im Nachhinein von Entscheidungen. Das Datenschutzrecht greift dagegen im Vorfeld von Entscheidungen und will diskriminierende Behandlungen verhindern, bevor es zu einem Schaden kommt.
Die Stiftung Datenschutz will das Zusammenwirken von Datenschutz- und Antidiskriminierungsrecht näher beleuchten und Synergien aufzeigen. Es gilt herauszuarbeiten, wie die Instrumente der beiden Rechtsgebiete miteinander korrespondieren und einander ergänzen (können).
Potenziale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht – Gutachten
Künstliche Intelligenz und Datenschutz stehen in einem notwendigen Spannungsverhältnis. KI-Systeme benötigen Daten, um ihr Potential zu entfalten, können aber Persönlichkeitsrechte beeinträchtigen. Ob das Datenschutzrecht die Nutzung der Potenziale von KI eher hemmt oder aber stärkt, ist die Leitfrage des Gutachtens, die an aktuellen Aspekten wie automatisierte Entscheidungen, individuelle Werbung und Gesichtserkennung verprobt wird.
Autor: Prof. Dr. Georg Borges
Chancen und Risiken von Künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive – Gutachten
Aufgrund der technischen Entwicklungen in den letzten Jahrzehnten kommen KI und Algorithmen in mehreren Lebensbereichen zum Einsatz. Durch die Verwendung entstehen Vor- und Nachteile. In diesem Gutachten werden die Chancen und Risiken der KI aus antidiskriminierungsrechtlicher Perspektive dargestellt und analysiert.
Autorin: Dr. Duygu Damar
Antidiskriminierungs- und datenschutzrechtliche Grenzen algorithmischer Entscheidungsprozesse – Eine Handreichung
Algorithmische Systeme versprechen enormes Potential, bergen aber auch erhebliche Risiken. Insbesondere drohen Diskriminierungen und Datenschutzrechtsverstöße. Diese Handreichung steckt die antidiskriminierungs- und datenschutzrechtlichen Grenzen algorithmischer Entscheidungsprozesse ab. Sie gibt Orientierung dafür, wie ein rechtskonformer und diskriminierungssensibler Einsatz algorithmischer Systeme gelingen kann.
Autorin: Wiebke Fröhlich
