DatenTag Online: Datenschutz und Künstliche Intelligenz
13. Dezember 2021, 10:00 UhrChancen und Risiken von Künstlicher Intelligenz für Datenschutz und Gleichstellung
Am 13. Dezember diskutierten wir beim DatenTag ONLINE mit hochrangigen Expertinnen und Experten, wie sich Künstliche Intelligenz verantwortungsvoll und vor allem datenschutzgerecht einsetzen lässt. Wir erläuterten die Chancen und Risiken von Künstlicher Intelligenz für das Datenschutzrecht und das Antidiskriminierungsrecht und stellten Initiativen aus Forschung und Praxis vor.
VIDEO-AUFZEICHNUNG DATENTAG "Datenschutz und künstliche Intelligenz"
-
Begrüßung
Prof. Dr. Anne Riechert und Frederick Richter, Stiftung Datenschutz
-
Zukunftsfähige Regulierung von künstlicher Intelligenz
Paul Nemitz, Europäische Kommission
-
Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht
Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein
-
Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI
Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein
-
Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht
Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes
-
Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht
Wiebke Fröhlich, Goethe-Universität Frankfurt
-
Künstliche Intelligenz und Diskriminierung
Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.
-
Chancen und Risiken von künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive
Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.
-
Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung
Andreas Hartl, Bundesministerium für Wirtschaft und Energie
-
Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich
RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks
-
Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen
Dr. Timo Jakobi, Institut für Verbraucherinformatik
-
Neue Institutionen für ein besseres Verständnis von KI
Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz
AUDIO: DATENTAG "Datenschutz und künstliche Intelligenz" – ZUM HÖREN
-
Begrüßung
Prof. Dr. Anne Riechert und Frederick Richter, Stiftung Datenschutz
-
Zukunftsfähige Regulierung von künstlicher Intelligenz
Paul Nemitz, Europäische Kommission
-
Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht
Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein
-
Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI
Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein
-
Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht
Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes
-
Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht
Wiebke Fröhlich, Goethe-Universität Frankfurt
-
Künstliche Intelligenz und Diskriminierung
Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.
-
Chancen und Risiken von Künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive
Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.
-
Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung
Andreas Hartl, Bundesministerium für Wirtschaft und Energie
-
Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich
RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks
-
Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen
Dr. Timo Jakobi, Institut für Verbraucherinformatik
-
Neue Institutionen für ein besseres Verständnis von KI
Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz
Präsentationen
Gutachten und Handreichung
Prof. Dr. Georg Borges und Dr. Duygu Damar haben verschiedene Aspekte des Spannungsverhältnisses von Datenschutz und Künstlicher Intelligenz in ihren Gutachten beleuchtet. Georg Borges geht der Leitfrage nach, ob das Datenschutzrecht die Nutzung der Potenziale von KI eher hemmt oder schwächt. Duygu Damar analysiert in ihrem Gutachten die Chancen und Risiken in der Verwendung von künstlicher Intelligenz und Algorithmen.
Wiebke Fröhlich gibt in ihrer Handreichung eine Orientierung, wie ein rechtskonformer und diskriminierungssensibler Einsatz algorithmischer Systeme gelingen kann.
-
Potenziale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht – Gutachten
-
Chancen und Risiken von künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive – Gutachten
-
Antidiskriminierungs- und datenschutzrechtliche Grenzen algorithmischer Entscheidungsprozesse – Handreichung
Programm
- Prof. Dr. Anne Riechert, Stiftung Datenschutz
- Frederick Richter, Stiftung Datenschutz
Zukunftsfähige Regulierung von Künstlicher Intelligenz
- Paul Nemitz, Europäische Kommission
Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht
- Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein
Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI
- Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein
Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht
- Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes
Pause
Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht
Künstliche Intelligenz und Diskriminierung
- Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.
Chancen und Risiken von Künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive
- Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.
Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung
- Andreas Hartl, Bundesministerium für Wirtschaft und Energie
Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich
- RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks
Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen
- Dr. Timo Jakobi, Institut für Verbraucherinformatik
Neue Institutionen für ein besseres Verständnis von KI
- Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz
Unsere Referent*innen
-
Prof. Dr. Georg Borges
Professor Dr. Georg Borges leitet das Institut für Rechtsinformatik an der Universität des Saarlandes und ist Inhaber des Lehrstuhls für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie. Von 2012 bis 2015 war er zudem Richter am Oberlandesgericht Hamm, er ist u.a. Mitglied des Vorstands des EDV-Gerichtstags.
Prof. Dr. Borges ist einer der führenden Experten im Bereich des IT-Rechts und der Rechtsinformatik mit Forschungsschwerpunkten in Rechtsfragen der Künstlichen Intelligenz, des Datenschutzes sowie Big Data und Industrie 4.0. Er ist u.a. Mitherausgeber des Beck’schen Online-Kommentars zum IT-Recht.
-
Dr. Duygu Damar
Dr. Duygu Damar ist seit 2020 als wissenschaftliche Mitarbeiterin am Institut für Finanzdienstleistungen e.V. in Hamburg tätig. Ihre Schwerpunkte liegen in den Bereichen internationales Privatrecht, Rechtsvergleichung, Antidiskriminierungsrecht, Vertragsrecht und Wirtschaftsrecht. Derzeit arbeitet sie an ihrer Habilitationsschrift zum Thema „Diskriminierungsverbot im deutschen und US-amerikanischen Vertragsrecht“.
Duygu Damar absolvierte ihr Jura- und Masterstudium an der Istanbul Bilgi Universität. 2011 wurde sie an der Universität Hamburg mit einer Arbeit zum Thema „Wilful Misconduct in International Transport Law“ zum Dr. iur. promoviert. Danach arbeitete sie bis 2018 zunächst als Wissenschaftliche Referentin am Max-Planck-Institut für ausländisches und internationales und anschließen an der Universität Hamburg als Lehrbeauftragte.
Zum Zwecke der rechtsvergleichenden Forschung absolvierte sie Duygu Dmar Forschungsaufenthalte an der University of Cambridge und an der Yale Law School.
Sie erhielt Stipendien der Max Planck Research School for Maritime Affairs, der Deutschen Forschungsgemeinschaft, des Gleichstellungsreferats der Fakultät für Rechtswissenschaft, Universität Hamburg und der International Foundation for the Law of the Sea.
Überdies ist sie Mitglied des Netzwerks Verbraucherforschung des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) und Freunde des Hamburger Max-Planck-Instituts für ausländisches und internationales Privatrecht e.V.
-
Nina Diercks, M.Litt (University of Aberdeen)
Nina Diercks, M.Litt (University of Aberdeen) ist seit 2010 als Rechtsanwältin tätig und führt die Anwaltskanzlei Diercks in Hamburg. Sie arbeitet bundesweit, jedoch ausschließlich in den Bereichen des IT-| Medien-| Datenschutz- und des angrenzenden Arbeitsrechts.
Daneben veröffentlicht Nina Diercks regelmäßig Fachbeiträgeund betreibt – ebenfalls seit 2010 – den Blog Diercks Digital Recht. Dazu ist sie als(Fach-)Referentin, Interviewpartnerin und (Gast-)Autorin gefragt. -
Wiebke Fröhlich
Wiebke Fröhlich beschäftigt sich bei der Stiftung Datenschutz mit den Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht. An der Goethe-Universität Frankfurt am Main ist sie Wissenschaftliche Mitarbeiterin der Forschungsstelle Datenschutz und des Lehrstuhls für Öffentliches Recht, Informationsrecht, Datenschutzrecht, Umweltrecht und Verwaltungswissenschaften von Prof. Dr. Indra Spiecker gen. Döhmann, LL.M. (Georgetown). Dort forscht Wiebke Fröhlich unter anderem zum Gesundheitsdatenschutz und arbeitet in einem interdisziplinären Projekt zur Verarbeitung großer Datenmengen im Gesundheitswesen. Daneben promoviert sie zur antidiskriminierungs- und datenschutzrechtlichen Regulierung diskriminierender Algorithmen.
-
Marit Hansen
Landesbeauftragte für Datenschutz Schleswig-Holstein
Diplom-Informatikerin
1995 Referentin beim Landesbeauftragten für Datenschutz Schleswig-Holstein (verschiedene Referate zunächst im Technik-, dann im interdisziplinären Forschungsbereich),
2008 Stellvertretende Landesbeauftragte für Datenschutz Schleswig-Holstein,
seit 2015 Landesbeauftragte für Datenschutz und damit Leiterin des Unabhängigen Landeszentrums für Datenschutz in Kiel (ULD). -
Andreas Hartl
MinRat Andreas Hartl leitet seit August 2017 das Referat KI 1 (Künstliche Intelligenz, Datenökonomie, Blockchain) im Bundesministerium für Wirtschaft und Klimaschutz
Das Referat ist mit wirtschafts- und digitalpolitischen Gesichtspunkten der Künstlichen Intelligenz, der Blockchain-Technologie, der Politik offener Daten (Open Data) sowie weiterer Fragestellungen der Datenökonomie befasst. Es ist unter anderem zuständig für die Strategie Künstliche Intelligenz sowie die Blockchain-Strategie der Bundesregierung. Das Referat ist federführend zuständig für den EU-Data-Governance-Act sowie (gemeinsam mit dem BMJV) für die EU-Verordnung für Künstliche Intelligenz. Zudem ist es Koordinator für die Free-Flow-of-Data-Verordnung der EU und federführend für die Umsetzung der Open-Data- und PSI-Richtlinie in nationales Recht.
Andreas Hartl studierte Rechtswissenschaften an der Universität Marburg und bestand 2004 das Zweite Juristische Staatsexamen.
Von 2004 bis 2011 war er in der Bundesnetzagentur tätig. Anfang 2012 wechselte er in das BMWi und war bis August 2017 Referent für Grundsatzfragen der Telekommunikation sowie wettbewerbliche und regulatorische Fragen der Digitalisierung. Dort betreute er u.a. die Erstellung zunächst des Grünbuchs und im Jahr 2017 des Weißbuchs Digitale Plattformen. -
Dr. Timo Jakobi
Dr. Timo Jakobi ist Geschäftsführer des Instituts für Verbraucherinformatik an der Universität Siegen. Dort ist er Gruppenleiter für gebrauchstauglichen Datenschutz und erforscht mit nutzerzentrierten Methoden Bedarfe, Strategien und Unterstützungslösungen von VerbraucherInnen. Seine Erfahrung von über 40 nationalen und internationalen Veröffentlichungen bringt er auch freiberuflich ein, indem er Unternehmen berät, wie sie Datenschutz strategisch einsetzen und als Mehrwert gegenüber dem Kunden positionieren können.
-
Paul Nemitz
Paul NEMITZ is the Principal Advisor in the Directorate General for Justice
and Consumers of the European Commission. He was appointed in April 2017, following a 6-year appointment as Director
for Fundamental Rights and Citizen’s Rights in the same Directorate General.
As Director, Nemitz led the reform of Data Protection legislation in the EU,
the negotiations of the EU – US Privacy Shield and the negotiations with
major US Internet Companies of the EU Code of Conduct against incitement
to violence and hate speech on the Internet.
He is a Member of Commission for Media and Internet Policy of the Social
Democratic Party of Germany (SPD), Berlin and a visiting Professor of Law at
the College of Europe in Bruges. Nemitz is also a Member of the Board of
the Verein Gegen Vergessen – Für Demokratie e.V., Berlin and a Trustee of
the Leo Baeck Institute, New York. He chairs the Board of Trustees of the
Arthur Langerman Foundation, Berlin.
Nemitz studied Law at Hamburg University. He passed the state
examinations for the judiciary and for a short time was a teaching assistant
for Constitutional Law and the Law of the Sea at Hamburg University.
He obtained a Master of Comparative Law from George Washington
University Law School in Washington, D.C., where he was a Fulbright grantee.
He also passed the first and second cycle of the Strasbourg Faculty for
Comparative Law.
Recent publications: “The Human Imperative – Democracy, Law and Ethics in
the Age of Artificial Intelligence”, forthcoming 2021, enhanced translation of
“Prinzip Mensch – Demokratie, Recht und Ethik im Zeitalter der Künstlichen
Intelligenz, with Matthias Pfeffer, Dietz Verlag, 2020; Critical reflections on
Constitutional Democracy in the European Union, S. Garben, I. Govaere and P.
Nemitz (Eds.), Oxford, Hart Publishing, 2019.
Follow Paul Nemitz on Twitter: @PaulNemitz . He is the #1 Technology
influencer and overall #13 influencer on EU issues in the annual
#EUInfluencer Ranking. -
Martin Rost
Martin Rost ist Mitarbeiter des Unabhängigen Landeszentrums für
Datenschutz Schleswig-Holstein (ULD) und u. a. Leiter der
Arbeitsgruppe zur Entwicklung des „Standard-Datenschutzmodells“ (SDM). -
Verena Till
Verena Till ist im Team Forschung & Projekte beim iRights.Lab und koordiniert das Projekt „Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI)“. Sie hat in der Vergangenheit bereits verschiedene Forschungs- und Studienprojekte mit Digitalbezug geleitet.
-
Sina Youn
Sina Youn, mit einem akademischen Hintergrund in den Bereichen Informatik und Psychologie, arbeitet seit 1,5 Jahren als Senior Privacy & Technology Strategist bei dem Berliner Privacy-Tech Startup brighter AI. Die Firma entwickelt eine Anonymisierungslösung basierend auf generativer künstlicher Intelligenz. Zudem ist sie im KI-Bundesverband aktiv und leitet hier die Arbeitsgruppen "Data Privacy" und zur europäischen KI-Regulierung.