Dauer:
1 Semester | Angebotsturnus:
Jedes Sommersemester | Leistungspunkte:
6 |
Studiengang, Fachgebiet und Fachsemester: - Master Informatik 2019 (Wahlpflicht), Wahlpflicht, Beliebiges Fachsemester
- Master Medizinische Informatik 2019 (Wahlpflicht), eHealth / Informatik, 1. oder 2. Fachsemester
- Master IT-Sicherheit 2019 (Wahlpflicht), IT-Sicherheit Security und Privacy, 1., 2. oder 3. Fachsemester
|
Lehrveranstaltungen: - CS5075-Ü: Trustworthy AI (Übung, 1 SWS)
- CS5075-V: Trustworthy AI (Vorlesung, 3 SWS)
| Workload: - 20 Stunden Prüfungsvorbereitung
- 100 Stunden Selbststudium
- 60 Stunden Präsenzstudium
| |
Lehrinhalte: | - Leitgedanke von Trustworthy AI: rechtskonforme, ethische und robuste KI (lawful, ethical, robust)
- Grundbegriffe des Trustworthy Computing: Security, Privacy, Dependability, Safety, Transparency, Explainability, Traceability, Accountability
- De-anonymisierungsmethoden mit Hilfe von maschinell gelernten Modellen
- Mathematische Begriffe zum Schutz der Privatsphäre in maschinellen Lernverfahren
- Härtung von maschinellen Lernverfahren zum Schutz persönlicher Daten (Privacy-Preserving Machine Learning)
- Analyse maschinell gelernter Modellen (Robustness Check, Explainability)
- Verifikation maschinell gelernter Modellen (Statistical Testing, Model Checking)
- Black-Box Methoden zur Rekonstruktion maschinell gelernter Modelle (zur Analyse und Verifkation)
- Manipulationverfahren gegen maschinell gelernte Modelle (Adversarial Examples, Backdoors)
- Härtung von maschinellen Lernmethoden gegenüber Manipulationsverfahren
- Sichere und privatphärenschützende verteilte Lernmethoden (Privacy-Preserving Federated Learning)
| |
Qualifikationsziele/Kompetenzen: - Alle in dem Modul vermittelten Lehrinhalte können durch die Studierenden benannt, definiert und anhand von Anwendungen in ihrer Funktionsbeweise erläutert werden.
- Die jeweiligen formalen Grundlagen der Lehrinhalte können präzise erklärt werden
- Vor- und Nachteile von verschiedenen Ansätzen können durch die Studierenden benannt werden.
- Verständnis von Schwachstellen von maschinellen Lernmethoden bezüglich der Extraktion persönlicher Daten und bezüglich Manipulationen
- Verständnis von Härtungsmethoden gegenüber Deanonymisierungsverfahren und Manipulationsmethoden
- Studierende können komplexe Sicherheitsanforderungen analysieren
|
Vergabe von Leistungspunkten und Benotung durch: |
Voraussetzung für: |
Modulverantwortlicher: Lehrende: |
Literatur: - C. Dwork, A. Roth: The Algorithmic Foundations of Differential Privacy - Now Publishers Inc, 2014
- Andrej Bogdanov: Lecture notes by Andrej Bogdanov from Chinese University of Hong Kong
- : Aktuelle Konferenz- und Journal-Artikel zu den Themen der Veranstaltung werden im Falle des Seminars zu Veranstaltungsbeginn bekannt gegeben und im Falle der Vorlesung bei Besprechung des Themas.
|
Sprache: - Wird nur auf Englisch angeboten
|
Bemerkungen:Zulassungsvoraussetzungen zur Belegung des Moduls:
- Keine
Zulassungsvoraussetzungen zur Teilnahme an Modul-Prüfung(en):
- Erfolgreiche Bearbeitung von Übungs- und Projektaufgaben gemäß Vorgabe am Semesteranfang
Modulprüfung(en):
- CS5075-L1: Trustworthy AI, mündliche Prüfung, 100% der Modulnote
Laut Beschluss des Prüfungsausschusses Informatik vom 19.1.2022 kann dieses Modul für Master SGO ab WS 2019 im Bereich 5. Wahlpflicht gewählt werden. |
Letzte Änderung: 1.2.2022 |
für die Ukraine