Modul CS5625-KP04

Psychologie der Künstlichen Intelligenz (PsyKI)

Dauer:

1 Semester

Angebotsturnus:

Jedes Sommersemester

Leistungspunkte:

Studiengang, Fachgebiet und Fachsemester:

Master Medieninformatik 2020 (Wahlpflicht), Medieninformatik, Beliebiges Fachsemester

Lehrveranstaltungen:

CS5625-S Psychologie der Künstlichen Intelligenz (Seminar, 2 SWS)
CS5625-V Psychologie der Künstlichen Intelligenz (Vorlesung, 1 SWS)

Workload:

75 Stunden Selbststudium
45 Stunden Präsenzstudium

Lehrinhalte:

Einführung in die Psychologie der Mensch-KI Interaktion:Grundlegende Konzepte der Interkation zwischen Mensch und Künstliche Intelligenz (KI), insbesondere Stufen der Informationsverarbeitung, Grade von Automatisierung, Interdependenz und Voraussetzungen für Mensch-KI-Kooperation
User Experience von Erklärbarer KI:Definition von Erklärbarer KI und Abgrenzung zu z.B. vertrauenswürdiger KI, Wirkungen von Erklärbarer KI auf die Wahrnehmung von Vertrauen und Nachvollziehbarkeit und Leistungsfähigkeit, Anwendungsbeispiele und Formen, insbesondere Kontrastive Erklärungen, Shapley-Values, Pertubationsmethoden, Prozess der Entwicklung psychologisch fundierter Qualitätsmetriken im Kontext der Testdiagnostik, Fragebogenskalen und andere Messmethoden zur Bewertung guter UX im Kontext der KI-Nutzung.
Mensch-KI-Integration und andere psychologisch begründete Kopplungs-Paradigmen (z.B. Teaming, Kooperation, Partnerschaft):Modelle der Integration von Mensch und KI sowie Ansätze zur Verbesserung der Integration, insbesondere Darstellung von Input-Quellen, Korrektur von kognitiven Zielrahmen, Diagnostizität von Ergebnissen, relevante psychologische Grundtheorien zu zentralen Kopplungs-Paradigmen (z.B. aus Bereichen wie Teamarbeit, Kooperativitätswahrnehmung, Partnerschafts-Dynamiken)
Menschliche Aufsicht über KI-Systeme:Definition menschlicher Aufsicht aus psychologischer Sicht, Abgrenzung zu Konzepten wie Kontrolle, Verantwortung und Nachvollziehbarkeit, Überprüfung von menschlicher Aufsicht, Entwicklung von experimentellen Paradigmen in der Evaluation von KI-Systemen
KI-basierte Entscheidungsfindung: Menschliche Strategien bei der Verarbeitung von KI-Informationen, Relevanz von z.B. Reliabilitätsinformationen, Mitigationsmöglichkeiten
Psychologische Basisbedürfnisse & KI-Nutzung:Definition menschlicher Grundbedürfnisse und Anschluss an die Self-Determination Theory im Kontext der Mensch-KI-Interaktion, Übertragung auf automatisierte Systeme, Nutzercharakteristiken wie z.B. Technikaffinität & Automationspräferenz
Regulation im Kontext KI & Psychologie:High-Level Expert Group der EU, KI-Verordnung der EU, vergleichbare Gesetze aus den USA und Kanada und deren Zuordnung zu psychologischen Konzepten aus dem Modul, potentielle Karriereziele, Aufgabenumfang AI Officer in Organisationen
Nutzung von KI-Systemen für die psychologische Forschung:Der Kern des Moduls liegt in der Entwicklung eines KI-Interfaces. Hierbei sollen die Studierenden durch die Gestaltung des Systems Effekte erzeugen, die aus der Mensch-KI-Forschung bekannt sind, wie z.B. ein Übervertrauen in das System. Die Aufgabe ist dabei, ein theoretisch abgeleitetes Nutzungsverhalten (z.B. KI-Ergebnis immer ändern) durch die Gestaltung des Systems zu fördern und in einer abschließenden empirischen Evaluation die Differenz zum abgeleiteten Verhalten zu prüfen

Qualifikationsziele/Kompetenzen:

Die Studierenden in der Lage, psychologische Effekte der Gestaltung von KI-Systemen zu bewerten.
Sie können beeinflussen, wie KI-Systeme auf Nutzende wirken und welche Strategien Nutzende anwenden, wenn sie KI-Systeme nutzen.
Sie verfügen für diese Gestaltung über ein Repertoire von Ansätzen aus dem Bereich Erklärbare KI und Mensch-KI-Kooperation sowie Kenntnisse passender Evaluationsmethoden in Form von Fragebögen und Verhaltensmaßen.
Sie können angepasste Interaktionsformen experimentell umsetzen und wissenschaftlich evaluieren.
Sie können den Bezug zwischen normativen, ethischen und gesetzlichen Richtlinien und KI-bezogener psychologischer Forschung herstellen.

Vergabe von Leistungspunkten und Benotung durch:

Regelmäßige und erfolgreiche Teilnahme am Seminar (inkl. Vortrag)
Projektarbeit

Modulverantwortlicher:

Dr. rer. nat. Tim Schrills

Lehrende:

Institut für Multimediale und Interaktive Systeme

Dr. rer. nat. Tim Schrills

Sprache:

kann in Deutsch oder Englisch durchgeführt werden (nach Absprache mit den Teilnehmern)

Bemerkungen:

Zulassungsvoraussetzungen zur Belegung des Moduls:
- Kenntnisse in Programmierung und Interesse an der KI-Entwicklung.
- Kenntnisse in Front-Ends (z.B. Unity)

Zulassungsvoraussetzungen zur Teilnahme an der Modul-Prüfung(en):
- Erfolgreiche Teilnahme an den Übungen und Präsentationen während des Semesters
- Lauffähige vollständige Abgabe des finalen Experimentes und eine Dokumentation

Modulprüfung(en):
CS5625-L1: Abgabe einer Projektarbeit (Programmierprojekt + Dokumentation) (80%)
CS5625-L2: Regelmäßige Präsentation der Ergebnisse als Gruppe in Präsenz (20%)

- Die Lehrveranstaltung wird als ExperimentJam organisiert. Studierende geben in Kleingruppen ihre KI-Designideen für Feedback durch Kommiliton:innen und Dozierende ab.
- Dokumentation des Projektes kann in multimedialer Form z.B. eines LLM-basierten Podcasts oder als schriftliche Dokumentation abgegeben werden.
- Literatur und weiterführende Ressourcen werden in der Vorlesung bekannt gegeben.
- Es wird erwartet, dass Studierende sich selbstständig in die Experimentalsoftware einarbeiten, die genutzt werden soll.
- Das Modul beinhaltet keine Klausur. Stattdessen wird die praktische Arbeit und die Präsentation der Ergebnisse benotet.
- Im Rahmen des Moduls werden Daten mittels Prolific oder einen vergleichbaren Plattform zur Probandenakquise erhoben, Effort zur Rekrutierung von Teilnehmenden ist damit nicht notwendig.