Projekt „Fair Enough?“ und TranKI
Literaturstudie: Sammeln und Systematisieren von existierenden XAI-Ansätzen für User-Interfaces in HR-KI-Systemen. Handlungsempfehlung: Welche eignen sich besonders für die Gestaltung von transparenten / fairen Systemen?
Literaturstudie: Welche Transparenz- und Fairnessfaktoren sind für KI-Systeme im Personalwesen von besonderer Bedeutung und wie können sie in der Entwicklung der Systeme berücksichtigt werden?
KI-Systeme im “sozio-technischen System” des Betriebs: Wie können KI-Systeme an das Spannungsfeld zwischen Mensch, Organisation und Technik angepasst werden? Methoden und Techniken partizipativer Designworkshops und ihre Rolle für die Implementierung und das Rollout von KI-Systemen.
Beurteilung eines/mehrer selbstgewählter KI-Systeme in Bezug auf compliance mit EU AI Act (in Anlehnung an Bommasani et al.)
IT-Sicherheit und das Nutzer_innenverhalten – Diskussion ethischer Aspekte (z.B. Privatsphäre, Verantwortung, Fairness)
Vergleich von KI Systemen in HR oder Bildung analog zu Link
Transparente Benutzerschnittstellen für KI – Systeme – Prototypen (z.B. mit Figma)
Apply one or multiple XAI approaches on one or multiple ML models, e.g. LIME, SHAP, counterfactuals (Guidotti, Wachter et al.), prototypes (Kim et al., Li et al.), concepts, rule-based explanations (Delauny et al., Ribeiro et al.)
Themengebiet People Analytics
Analyse des ESCO Datensatzes (skills und/oder occupations) in Hinblick auf Beruf die überwiegend von Männern/Frauen ausgeübt werden und die jeweils damit verbunden Skills.
Einsatz von Ontologien/semantischen Modellen im Personalbereich
Aufbau einer Skill-Ontology z.B. auf Basis von Modulbeschreibungen
Systematische Untersuchung von historischen Stellenanzeigen (z.B. durch Textmining in Zeitungsarchiven) zur Darstellung des Wandels gesuchter Kompetenzen in den letzten 20 Jahren
Systematische Untersuchung der Überwachungsfunktion von Office365 und Workplace Analytics (siehe auch Link)
Erweiterung des XAI Demonstrators https://github.com/XAI-Demonstrator/xai-demonstrator, https://www.erklaerbare-ki.de/xai-demonstrator/
Themengebiet Learning Analytics/Forschungsprojekte LADi, KIWI
Prototypische Implementierung eines Moodle-Plugins (z.B. für selbst-reguliertes Lernen)
Prototypische Implementierung eines inklusiven niedrigschwelligen Lernangebots für Programmieren für Sehbehinderte („Scratch mit Tönen“)
Scrapen von Modulbeschreibungen von deutschen Hochschulen und semi-automatisierte Analyse der Inhalte
Systematischer Vergleich von KI-Zertifizierungssystemen (z.B. Malta Digital Innovation Authority, Fraunhofer CertLab, IEEE P7000 series, CC ISo/IEC 15408).