Trustworthy AI

CS5075-KP06

In der Vorlesung behandeln wir Leitgedanke von Trustworthy AI: rechtskonforme, ethische und robuste KI (lawful, ethical, robust).

Grundbegriffe des Trustworthy Computing werden diskutiert: Security, Privacy, Dependability, Safety, Transparency, Explainability, Traceability, Accountability.

De-anonymisierungsmethoden mit Hilfe von maschinell gelernten Modellen werden beleuchtet. Mathematische Begriffe zum Schutz der Privatsphäre in maschinellen Lernverfahrenund die Härtung von maschinellen Lernverfahren zum Schutz persönlicher Daten (Privacy-Preserving Machine Learning) ergänzen das Programm.

Eine Analyse maschinell gelernter Modellen (Robustness Check, Explainability und eine Verifikation maschinell gelernter Modellen (Statistical Testing, Model Checking) schließt sich an, so dass Manipulationverfahren gegen maschinell gelernte Modelle (Adversarial Examples, Backdoors) durch Härtung von maschinellen Lernmethoden gegenüber Manipulationsverfahren und die Verwendung sicherer und privatphärenschützender verteilte Lernmethoden (Privacy-Preserving Federated Learning) in ihrer Wirkung abgeschwächt werden können.