gefördert durch die Hans-Böckler-Stiftung (for an english version follow this link).
Das Projekt TranKI entwickelt Standards für die Benutzerschnittstellen von KI-Systemen, die es Nutzer:innen der Systeme erlauben, die Ergebnisse des Systems besser zu verstehen und einzuordnen.
Es ist nicht nötig und auch nicht möglich, dass Anwender:innen KI-gestützte Entscheidungs- oder Vorschlagsysteme (beispielsweise Systeme für Personal- und Schichtplanung, Empfehlungssysteme für Weiterbildungen oder Systeme zur Unterstützung von Einstellungsprozessen) im Detail verstehen, nachvollziehen oder überprüfen können. Diese Systeme verwenden große Datenmengen, die sich kontinuierlich ändern. Die dahinterliegenden Modelle und Algorithmen sind auch für Expert:innen nur mit großem Zeitaufwand nachvollziehbar.
Für viele Anwendungsgebiete ist es jedoch notwendig, die Ausgaben des Systems, d.h. die Einflussfaktoren auf die Systemergebnisse, verstehen zu können, um diese zu akzeptieren oder ggf. auch korrigieren zu können. Dieses Ziel kann auf der Ebene der Benutzerschnittstelle teilweise erreicht werden:
- durch die Darstellung von Variablen, die das Ergebnis beeinflussen,
- durch die graphische Darstellung der Unschärfe von Ergebnissen,
- durch die Möglichkeit, Ergebnisse durch Änderung von Variablen zu beeinflussen,
- durch die Darstellung von Kennzahlen zur Fairness („37% der angezeigten Profile sind weiblich“),
- durch kontrafaktische Erklärungen („eine Person mit 2 Jahren weniger Berufserfahrung hätte folgende Stelle empfohlen bekommen“).
Die entwickelten Standards normieren die Auditierung von KI-Systemen und können die Entwicklung, die Auswahl und den Einsatz von HR-Systemen hinzugezogen werden können.
Projektlaufzeit
01.10.2023 – 30.09.2026
Projektleitung
Prof. Dr. Katharina Simbeck
Projektmitarbeiter/innen
Dr. Yannick Kalff
Studentische Hilfskraft
B.Sc. Thao Do
Mittelgeber
Hans-Böckler-Stiftung