DatenTag Online: Datenschutz und Künstliche Intelligenz

13. Dezember 2021, 10:00 Uhr

Chancen und Risiken von Künstlicher Intelligenz für Datenschutz und Gleichstellung

Am 13. Dezember diskutierten wir beim DatenTag ONLINE mit hochrangigen Expertinnen und Experten, wie sich Künstliche Intelligenz verantwortungsvoll und vor allem datenschutzgerecht einsetzen lässt. Wir erläuterten die Chancen und Risiken von Künstlicher Intelligenz für das Datenschutzrecht und das Antidiskriminierungsrecht und stellten Initiativen aus Forschung und Praxis vor.

VIDEO-AUFZEICHNUNG DATENTAG "Datenschutz und künstliche Intelligenz"

  • Begrüßung

    Prof. Dr. Anne Riechert und Frederick Richter, Stiftung Datenschutz

  • Zukunftsfähige Regulierung von künstlicher Intelligenz

    Paul Nemitz, Europäische Kommission

  • Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht

    Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein

  • Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI

    Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein

  • Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht

    Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes

  • Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht

    Wiebke Fröhlich, Goethe-Universität Frankfurt

  • Künstliche Intelligenz und Diskriminierung

    Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.

  • Chancen und Risiken von künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive

    Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.

  • Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung

    Andreas Hartl, Bundesministerium für Wirtschaft und Energie

  • Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich

    RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks

  • Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen

    Dr. Timo Jakobi, Institut für Verbraucherinformatik

  • Neue Institutionen für ein besseres Verständnis von KI

    Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz

AUDIO: DATENTAG "Datenschutz und künstliche Intelligenz" – ZUM HÖREN

  • Audio-Vorschaubild

    Begrüßung

    Prof. Dr. Anne Riechert und Frederick Richter, Stiftung Datenschutz

  • Audio-Vorschaubild

    Zukunftsfähige Regulierung von künstlicher Intelligenz

    Paul Nemitz, Europäische Kommission

  • Audio-Vorschaubild

    Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht

    Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein

  • Audio-Vorschaubild

    Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI

    Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein

  • Audio-Vorschaubild

    Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht

    Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes

  • Audio-Vorschaubild

    Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht

    Wiebke Fröhlich, Goethe-Universität Frankfurt

  • Audio-Vorschaubild

    Künstliche Intelligenz und Diskriminierung

    Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.

  • Audio-Vorschaubild

    Chancen und Risiken von Künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive

    Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.

  • Audio-Vorschaubild

    Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung

    Andreas Hartl, Bundesministerium für Wirtschaft und Energie

  • Audio-Vorschaubild

    Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich

    RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks

  • Audio-Vorschaubild

    Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen

    Dr. Timo Jakobi, Institut für Verbraucherinformatik

  • Audio-Vorschaubild

    Neue Institutionen für ein besseres Verständnis von KI

    Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz

Präsentationen

  • Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht

    Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein

  • Potentiale von künstlicher Intelligenz mit Blick auf das Datenschutzrecht

    Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes

  • Künstliche Intelligenz und Diskriminierung

    Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.

  • Chancen und Risiken von künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive

    Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.

  • Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen

    Dr. Timo Jakobi, Institut für Verbraucherinformatik

Gutachten und Handreichung

Prof. Dr. Georg Borges und Dr. Duygu Damar haben verschiedene Aspekte des Spannungsverhältnisses von Datenschutz und Künstlicher Intelligenz in ihren Gutachten beleuchtet. Georg Borges geht der Leitfrage nach, ob das Datenschutzrecht die Nutzung der Potenziale von KI eher hemmt oder schwächt. Duygu Damar analysiert in ihrem Gutachten die Chancen und Risiken in der Verwendung von künstlicher Intelligenz und Algorithmen.

Wiebke Fröhlich gibt in ihrer Handreichung eine Orientierung, wie ein rechtskonformer und diskriminierungssensibler Einsatz algorithmischer Systeme gelingen kann.

  • Potenziale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht – Gutachten

    Download PDF
  • Chancen und Risiken von künstlicher Intelligenz und Algorith­men aus anti­diskrimi­nierungs­rechtlicher Perspektive – Gutachten

    Download PDF
  • Antidiskrimi­nierungs- und datenschutz­rechtliche Grenzen algorith­mischer Entscheidungs­prozesse – Handreichung

    Download PDF

Programm

10:00 Uhr
Begrüssung
  • Prof. Dr. Anne Riechert, Stiftung Datenschutz
  • Frederick Richter, Stiftung Datenschutz
10:05 Uhr
Vortrag

Zukunftsfähige Regulierung von Künstlicher Intelligenz

  • Paul Nemitz, Europäische Kommission
10:45 Uhr
Vortrag

Die KI-Empfehlungen der Datenethikkommission aus Sicht der Datenschutzaufsicht

  • Marit Hansen, Landesbeauftragte für Datenschutz Schleswig-Holstein
11:35 Uhr
Vortrag

Von Feuer und Gegenfeuer – zur Notwendigkeit einer Prüf-KI

  • Martin Rost, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein
12:05 Uhr
Vortrag

Potentiale von Künstlicher Intelligenz mit Blick auf das Datenschutzrecht

  • Prof. Dr. Georg Borges, Institut für Rechtsinformatik, Universität des Saarlandes
13:00 Uhr

Pause

13:30 Uhr
Vortrag

Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht

14:00 Uhr
Vortrag

Künstliche Intelligenz und Diskriminierung

  • Sina Youn, BrighterAI GmbH, KI Bundesverband e. V.
14:30 Uhr
Vortrag

Chancen und Risiken von Künstlicher Intelligenz und Algorithmen aus antidiskriminierungsrechtlicher Perspektive

  • Dr. Duygu Damar, Institut für Finanzdienstleistungen e. V.
15:15 Uhr
Vortrag

Die europäische KI-Verordnung: Innovation und Vertrauen durch Regulierung

  • Andreas Hartl, Bundesministerium für Wirtschaft und Energie
15:30 Uhr
Vortrag

Einsatz von KI in Recruitment-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich

  • RAin Nina Diercks, M.Litt. (University of Aberdeen), Anwaltskanzlei Diercks
16:30 Uhr
Vortrag

Explainable AI – Fairness und Transparenz in automatisierten Entscheidungen

  • Dr. Timo Jakobi, Institut für Verbraucherinformatik
17:15 Uhr
Vortrag

Neue Institutionen für ein besseres Verständnis von KI

  • Verena Till, Zentrum für vertrauenswürdige Künstliche Intelligenz

Unsere Referent*innen

  • Prof. Dr. Georg Borges

    Professor Dr. Georg Borges leitet das Institut für Rechtsinformatik an der Universität des Saarlandes und ist Inhaber des Lehrstuhls für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie. Von 2012 bis 2015 war er zudem Richter am Oberlandesgericht Hamm, er ist u.a. Mitglied des Vorstands des EDV-Gerichtstags.

    Prof. Dr. Borges ist einer der führenden Experten im Bereich des IT-Rechts und der Rechtsinformatik mit Forschungsschwerpunkten in Rechtsfragen der Künstlichen Intelligenz, des Datenschutzes sowie Big Data und Industrie 4.0. Er ist u.a. Mitherausgeber des Beck’schen Online-Kommentars zum IT-Recht.

  • Dr. Duygu Damar

    Dr. Duygu Damar ist seit 2020 als wissenschaftliche Mitarbeiterin am Institut für Finanzdienstleistungen e.V. in Hamburg tätig. Ihre Schwerpunkte liegen in den Bereichen internationales Privatrecht, Rechtsvergleichung, Antidiskriminierungsrecht, Vertragsrecht und Wirtschaftsrecht. Derzeit arbeitet sie an ihrer Habilitationsschrift zum Thema „Diskriminierungsverbot im deutschen und US-amerikanischen Vertragsrecht“.

    Duygu Damar absolvierte ihr Jura- und Masterstudium an der Istanbul Bilgi Universität. 2011 wurde sie an der Universität Hamburg mit einer Arbeit zum Thema „Wilful Misconduct in International Transport Law“ zum Dr. iur. promoviert. Danach arbeitete sie bis 2018 zunächst als Wissenschaftliche Referentin am Max-Planck-Institut für ausländisches und internationales und anschließen an der Universität Hamburg als Lehrbeauftragte.

    Zum Zwecke der rechtsvergleichenden Forschung absolvierte sie Duygu Dmar Forschungsaufenthalte an der University of Cambridge und an der Yale Law School.

    Sie erhielt Stipendien der Max Planck Research School for Maritime Affairs, der Deutschen Forschungsgemeinschaft, des Gleichstellungsreferats der Fakultät für Rechtswissenschaft, Universität Hamburg und der International Foundation for the Law of the Sea.

    Überdies ist sie Mitglied des Netzwerks Verbraucherforschung des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) und Freunde des Hamburger Max-Planck-Instituts für ausländisches und internationales Privatrecht e.V.

  • Nina Diercks, M.Litt (University of Aberdeen)

    Nina Diercks, M.Litt (University of Aberdeen) ist seit 2010 als Rechtsanwältin tätig und führt die Anwaltskanzlei Diercks in Hamburg. Sie arbeitet bundesweit, jedoch ausschließlich in den Bereichen des IT-| Medien-| Datenschutz- und des angrenzenden Arbeitsrechts.
    Daneben veröffentlicht Nina Diercks regelmäßig Fachbeiträgeund betreibt – ebenfalls seit 2010 – den Blog Diercks Digital Recht. Dazu ist sie als(Fach-)Referentin, Interviewpartnerin und (Gast-)Autorin gefragt.

  • Wiebke Fröhlich

    Wiebke Fröhlich beschäftigt sich bei der Stiftung Datenschutz mit den Wechselwirkungen von Datenschutz- und Antidiskriminierungsrecht. An der Goethe-Universität Frankfurt am Main ist sie Wissenschaftliche Mitarbeiterin der Forschungsstelle Datenschutz und des Lehrstuhls für Öffentliches Recht, Informationsrecht, Datenschutzrecht, Umweltrecht und Verwaltungswissenschaften von Prof. Dr. Indra Spiecker gen. Döhmann, LL.M. (Georgetown). Dort forscht Wiebke Fröhlich unter anderem zum Gesundheitsdatenschutz und arbeitet in einem interdisziplinären Projekt zur Verarbeitung großer Datenmengen im Gesundheitswesen. Daneben promoviert sie zur antidiskriminierungs- und datenschutzrechtlichen Regulierung diskriminierender Algorithmen.

  • Marit Hansen

    Landesbeauftragte für Datenschutz Schleswig-Holstein
    Diplom-Informatikerin
    1995 Referentin beim Landesbeauftragten für Datenschutz Schleswig-Holstein (verschiedene Referate zunächst im Technik-, dann im interdisziplinären Forschungsbereich),
    2008 Stellvertretende Landesbeauftragte für Datenschutz Schleswig-Holstein,
    seit 2015 Landesbeauftragte für Datenschutz und damit Leiterin des Unabhängigen Landeszentrums für Datenschutz in Kiel (ULD).

  • Andreas Hartl

    MinRat Andreas Hartl leitet seit August 2017 das Referat KI 1 (Künstliche Intelligenz, Datenökonomie, Blockchain) im Bundesministerium für Wirtschaft und Klimaschutz
    Das Referat ist mit wirtschafts- und digitalpolitischen Gesichtspunkten der Künstlichen Intelligenz, der Blockchain-Technologie, der Politik offener Daten (Open Data) sowie weiterer Fragestellungen der Datenökonomie befasst. Es ist unter anderem zuständig für die Strategie Künstliche Intelligenz sowie die Blockchain-Strategie der Bundesregierung. Das Referat ist federführend zuständig für den EU-Data-Governance-Act sowie (gemeinsam mit dem BMJV) für die EU-Verordnung für Künstliche Intelligenz. Zudem ist es Koordinator für die Free-Flow-of-Data-Verordnung der EU und federführend für die Umsetzung der Open-Data- und PSI-Richtlinie in nationales Recht.

    Andreas Hartl studierte Rechtswissenschaften an der Universität Marburg und bestand 2004 das Zweite Juristische Staatsexamen.
    Von 2004 bis 2011 war er in der Bundesnetzagentur tätig. Anfang 2012 wechselte er in das BMWi und war bis August 2017 Referent für Grundsatzfragen der Telekommunikation sowie wettbewerbliche und regulatorische Fragen der Digitalisierung. Dort betreute er u.a. die Erstellung zunächst des Grünbuchs und im Jahr 2017 des Weißbuchs Digitale Plattformen.

  • Dr. Timo Jakobi

    Dr. Timo Jakobi ist Geschäftsführer des Instituts für Verbraucherinformatik an der Universität Siegen. Dort ist er Gruppenleiter für gebrauchstauglichen Datenschutz und erforscht mit nutzerzentrierten Methoden Bedarfe, Strategien und Unterstützungslösungen von VerbraucherInnen. Seine Erfahrung von über 40 nationalen und internationalen Veröffentlichungen bringt er auch freiberuflich ein, indem er Unternehmen berät, wie sie Datenschutz strategisch einsetzen und als Mehrwert gegenüber dem Kunden positionieren können.

  • Paul Nemitz

    Paul NEMITZ is the Principal Advisor in the Directorate General for Justice
    and Consumers of the European Commission. He was appointed in April 2017, following a 6-year appointment as Director
    for Fundamental Rights and Citizen’s Rights in the same Directorate General.
    As Director, Nemitz led the reform of Data Protection legislation in the EU,
    the negotiations of the EU – US Privacy Shield and the negotiations with
    major US Internet Companies of the EU Code of Conduct against incitement
    to violence and hate speech on the Internet.

    He is a Member of Commission for Media and Internet Policy of the Social
    Democratic Party of Germany (SPD), Berlin and a visiting Professor of Law at
    the College of Europe in Bruges. Nemitz is also a Member of the Board of
    the Verein Gegen Vergessen – Für Demokratie e.V., Berlin and a Trustee of
    the Leo Baeck Institute, New York. He chairs the Board of Trustees of the
    Arthur Langerman Foundation, Berlin.

    Nemitz studied Law at Hamburg University. He passed the state
    examinations for the judiciary and for a short time was a teaching assistant
    for Constitutional Law and the Law of the Sea at Hamburg University.
    He obtained a Master of Comparative Law from George Washington
    University Law School in Washington, D.C., where he was a Fulbright grantee.
    He also passed the first and second cycle of the Strasbourg Faculty for
    Comparative Law.

    Recent publications: “The Human Imperative – Democracy, Law and Ethics in
    the Age of Artificial Intelligence”, forthcoming 2021, enhanced translation of
    “Prinzip Mensch – Demokratie, Recht und Ethik im Zeitalter der Künstlichen
    Intelligenz, with Matthias Pfeffer, Dietz Verlag, 2020; Critical reflections on
    Constitutional Democracy in the European Union, S. Garben, I. Govaere and P.
    Nemitz (Eds.), Oxford, Hart Publishing, 2019.

    Follow Paul Nemitz on Twitter: @PaulNemitz . He is the #1 Technology
    influencer and overall #13 influencer on EU issues in the annual
    #EUInfluencer Ranking.

  • Martin Rost

    Martin Rost ist Mitarbeiter des Unabhängigen Landeszentrums für
    Datenschutz Schleswig-Holstein (ULD) und u. a. Leiter der
    Arbeitsgruppe zur Entwicklung des „Standard-Datenschutzmodells“ (SDM).

  • Verena Till

    Verena Till ist im Team Forschung & Projekte beim iRights.Lab und koordiniert das Projekt „Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI)“. Sie hat in der Vergangenheit bereits verschiedene Forschungs- und Studienprojekte mit Digitalbezug geleitet.

  • Sina Youn

    Sina Youn, mit einem akademischen Hintergrund in den Bereichen Informatik und Psychologie, arbeitet seit 1,5 Jahren als Senior Privacy & Technology Strategist bei dem Berliner Privacy-Tech Startup brighter AI. Die Firma entwickelt eine Anonymisierungslösung basierend auf generativer künstlicher Intelligenz. Zudem ist sie im KI-Bundesverband aktiv und leitet hier die Arbeitsgruppen "Data Privacy" und zur europäischen KI-Regulierung.

Medienpartner