Natural Language Processing, Mediendarstellung
Untersuchung der Darstellung von Geschlechtern in Medien für Kinder im Kita-Alter (z.B. Kinderbüchern, Kinderwebseiten, Kinderapps) ( Scrapen von entsprechenden Daten z.B. von Youtube, Appstore, Netflix/Disney+ Filmbeschreibungen (ohne Altersbeschränkung!);
dann Verwendung von Natural Language Processing – z.B. welche Berufe haben Frauen/Männer)
Welche „Vorstellung“ haben Sprachmodelle z.B. von Konstrukten wie Geschlecht oder Nationalität?
(Nutzung der Webseite GemmaScope https://www.neuronpedia.org/gemma-2-2b/12-gemmascope-att-16k/13166, Doku: https://docs.neuronpedia.org/search,
https://ai.google.dev/gemma/docs/gemma_scope)
Bastelprojekt
Mit einem nicht-kommerziellen Projektpartner: Prototypische Implementierung eines Chatbots zur Beratung von Handwerksbetrieben zum Thema Nachhaltigkeit
Entwicklung und Umsetzung eines Konzepts für einen Informatikworkshop mit selbstfahrenden Autos (Bastelthema, Technik vorhanden) (Zweitbetreuer Dr. Christian Krumnow)
Themen zu KI
Prototypische Umsetzung von Custom GPTs (Chatbot) für Handwerksbetriebe (mit Handwerkskammer)
Projekt „Fair Enough?“ und TranKI
Durchführunge eines Code Audits (z.B. von Moodle LA analog zu Tagharobi et al.) mit Hilfe von large context LLMs (Link)
Prototypische Implementierung einer LLM Anwendung, welche Nutzer_innen bei der Analyse von Datensätzen, z.B. in Bezug auf das Gender Data Gap unterstützt
Literaturstudie: Sammeln und Systematisieren von existierenden XAI-Ansätzen für User-Interfaces in HR-KI-Systemen. Handlungsempfehlung: Welche eignen sich besonders für die Gestaltung von transparenten / fairen Systemen?
Literaturstudie: Welche Transparenz- und Fairnessfaktoren sind für KI-Systeme im Personalwesen von besonderer Bedeutung und wie können sie in der Entwicklung der Systeme berücksichtigt werden?
Fallstudie zur Einführung eines KI-Systems in einem Unternehmen (falls das bei Ihnen auf Arbeit gerade der Fall ist.): Wie können KI-Systeme an das Spannungsfeld zwischen Mensch, Organisation und Technik angepasst werden? Methoden und Techniken partizipativer Designworkshops und ihre Rolle für die Implementierung und das Rollout von KI-Systemen.
Beurteilung eines/mehrer selbstgewählter KI-Systeme in Bezug auf compliance mit EU AI Act (in Anlehnung an Bommasani et al.)
IT-Sicherheit und das Nutzer_innenverhalten – Diskussion ethischer Aspekte (z.B. Privatsphäre, Verantwortung, Fairness)
Vergleich von KI Systemen in HR oder Bildung analog zu Link
Transparente Benutzerschnittstellen für KI – Systeme – Prototypen (z.B. mit Figma)
Apply one or multiple XAI approaches on one or multiple ML models, e.g. LIME, SHAP, counterfactuals (Guidotti, Wachter et al.), prototypes (Kim et al., Li et al.), concepts, rule-based explanations (Delauny et al., Ribeiro et al.)
Themengebiet People Analytics
Analyse des ESCO Datensatzes (skills und/oder occupations) in Hinblick auf Beruf die überwiegend von Männern/Frauen ausgeübt werden und die jeweils damit verbunden Skills.
Einsatz von Ontologien/semantischen Modellen im Personalbereich
Aufbau einer Skill-Ontology z.B. auf Basis von Modulbeschreibungen
Systematische Untersuchung der Überwachungsfunktion von Office365 und Workplace Analytics (siehe auch Link)
Erweiterung des XAI Demonstrators https://github.com/XAI-Demonstrator/xai-demonstrator, https://www.erklaerbare-ki.de/xai-demonstrator/
Themengebiet Learning Analytics/Forschungsprojekte LADi, KIWI
Prototypische Implementierung eines Moodle-Plugins (z.B. für selbst-reguliertes Lernen)
Scrapen von Modulbeschreibungen von deutschen Hochschulen und semi-automatisierte Analyse der Inhalte
Themengebiet Gender Data Gap
(Literaturhinweis: Invisible Women/Unsichtbare Frauen von Caroline Criado-Perez)
Untersuchung von öffentlich verfügbaren Datensätzen auf die Berücksichtigung aller Geschlechter/marginalisierter Gruppen
Prototypische Implementierung eines Webanwendung (Expertensystem) zur gendersensiblen Datenerfassung