Diskriminiert durch Künstliche Intelligenz (DiKI)

Vorträge und Veröffentlichungen

Ein Forschungsprojekt der HTW Berlin gefördert von der Hans-Böckler-Stiftung

Passend zum Ideenwettbewerb „Digitalisierung, Mitbestimmung, gute Arbeit“ der Hans-Böckler-Stiftung, soll sich das Projekt „DiKI – Diskriminiert durch Künstliche Intelligenz“ damit beschäftigen, wie die Diskriminierung nach Geschlecht, Alter oder Herkunft durch Künstliche Intelligenz verhindert werden kann. Ergänzend soll betrachtet werden, wie gerade Künstliche Intelligenz durch vorurteilsfreie Vorschläge Diskriminierung reduzieren kann. Dabei ist darauf zu achten, dass nicht eine Form der Diskriminierung, die durch den bereits bestehenden (menschlichen) Auswahlprozess beeinflusst wird, durch eine weitere Art der Diskriminierung ersetzt oder ergänzt wird. Die Diskriminierung durch Daten ist dabei mit deutlich höheren Risiken verbunden, weil sie nicht erwartet wird.

Im Rahmen des Projektes soll analysiert werden, welche typischen Ansätze zur Mustererkennung für HR-Analytics bereits genutzt werden. Unter HR-Analytics verstehen wir die Analyse von personen- und prozessbezogenen Daten mit dem Ziel Beschäftigte auszuwählen, einzuarbeiten, zu bewerten, weiterzuentwickeln bzw. in Teams zusammenzustellen und zu halten. Im Projekt „DiKI“ sollen reale Daten mit typischen Algorithmen analysiert werden, dabei soll untersucht werden inwiefern die Algorithmen anfällig für Diskriminierung sind.

Als Ergebnis soll Best-Practice Handlungswissen erstellt werden, mit welchem Mitarbeiter-VertreterInnen, Personalverantwortliche und/oder PolitikerInnen die Nutzung von Methoden der Künstlichen Intelligenz im Rahmen von Talent Analytics verstehen, potentielle Diskriminierung erkennen und damit im Idealfall vermeiden können.

Projektlaufzeit
1.12.2017 – 1.12.2019

Projektleitung
Prof. Dr. phil. Jürgen Radel
Prof. Dr. Katharina Simbeck

Projektmitarbeiter/innen
Tina Arens
Finn Folkerts
Vanessa Schreck

Mittelgeber
Hans-Böckler-Stiftung