KI-Bias entlarven: Praktische Strategien für faire Bildungspraxis

Dieser Beitrag ist zuerst am 13.05.25 am Blog der Referent:innen-Akademie der Arbeiterkammer Österreich veröffentlicht worden.

Ein einfacher Prompt: „Erstelle ein Bild eines erfolgreichen Mitarbeiters“.

Ein einziger Begriff – und ChatGPT zeigt mir einen weißen Mann im Business-Anzug. Erfolgreich scheint hier: männlich, weiß, um die 40. Neutral? Nicht wirklich. Dieses Bild erzählt mehr über unsere blinden Flecken als über Erfolg. Es erzählt von Bias – also von systematischen Verzerrungen. In KI-Systemen. Und in uns.

---

Was ist ein Bias und was hat das mit Bildungsarbeit zu tun?

Ein Bias ist eine systematische Verzerrung, z.B. in Bildern, Sprache, oder Bewertungen. KI-Systeme übernehmen solche Verzerrungen aus ihren Trainingsdaten: Wenn bestimmte Gruppen darin seltener vorkommen oder stereotyp dargestellt werden, reproduziert das KI-Modell genau das.

Für dich als Trainer:in bedeutet das: Wenn du mit KI-Tools arbeitest – sei es bei Texten, Bildern oder Ideen -, schleichen sich diese Muster unbemerkt in deine Materialien ein. Genau hier setzen wir mit #kidi an.

Lernziel dieses Blogbeitrags:

Du lernst, wie Verzerrungen (Bias) entstehen, wie du sie erkennst und wie du als Trainer:in bewusst gegensteuern kannst. Mit Übungen, Methoden und Reflexionsimpulsen entstehen einfache Anwendungsmöglichkeiten für deine Bildungsarbeit.

Erste Übung: Welche Bilder entstehen in deinem Kopf?

Bevor wir über KI-Verzerrungen sprechen, schauen wir in unsere eigene Vorstellungswelt. Lies dir die folgenden Begriffe durch und notiere dir spontan, was du dabei siehst oder male eine kleine Skizze:

• Eine glückliche Familie

• Eine Besprechung im Betriebsrat

• Ein Kaffeetratsch

Reflexionsfragen:

• Wer ist zu sehen?

• Wie alt sind die Personen?

• Welchen sozialen Status gibst du ihnen?

• Wer fehlt?

Warum diese Übung? Genau so „denken“ auch KI-Systeme – nur mit riesigen Datenmengen statt persönlichen Erfahrungen. Und genau wie wir greifen sie auf häufige Muster zurück. Das zeigt, wie schnell Verzerrungen entstehen. Ganz ohne böse Absicht.

„Bias in AI is not a technical problem to be solved, but a reflection of the society that builds it.“

Timnit Gebru, KI-Ethik-Forscherin

Vier typische Bias-Formen (und wie du sie erkennst)

Drei Übungen für deine Bildungsarbeit

Die Bildanalyse

Ziel: Analysiert KI-generierte Bilder (z.B. via ChatGPT oder Perplexity)
Reflexionsfragen: Wer wird dargestellt? Wer fehlt? Welche Rollen sind sichtbar? Welche Alternativen wären inklusiver?

Prompt Challenge

Ziel: Ergebnisse vergleichen und Wirkung reflektieren.
Ablauf: die Gruppe wird in zwei gleich große Gruppen geteilt und sie erhalten die Prompt-Vorlage: „Ein:e engagierte:r Betriebsrät:in leitet ein Seminar“.

• Gruppe A: Prompt soll 1:1 verwendet werden.

• Gruppe B: Prompt soll diversitätssensibel umformuliert werden.
  Abschließend werden die Ergebnisse verglichen und die Wirkung der Ergebnisse reflektiert.

Alltags-Bias

Ziel: Alltags-Bias erkennen
Ablauf: in Paaren soll je ein Prompt formuliert werden zu der Fragestellung „Wo begegnet dir im Alltag ein KI-Bias?“. Dieser Prompt erzeugt ein Ergebnis und dieser soll im Paar reflektiert werden.
Reflexionsfragen: Was zeigt das Bild/Text und was fehlt?

Fünf Strategien gegen KI-Bias

Egal ob du ein Lern-Quiz erstellst, eine Arbeitsanleitung, ein Rollenspiel-Skript oder ein Bild für die Seminarunterlagen: Wie du ein KI-System aufforderst, beeinflusst das Ergebnis enorm.

1. System-Hopping: Nutze mehrere Tools für unterschiedliche Ergebnisse. Du wirst staunen, wie unterschiedlich die Antworten ausfallen.
2. Widersprüche entdecken: Klingen die Inhalte logisch? Passt der Ton zur Zielgruppe?
3. Daten prüfen: Woher stammen die Trainingsdaten? Von wann sind sie? Wer fehlt?
4. Expert:innen-Radar aktivieren: Ergänze KI-Antworten mit deinem Know-how und hole dir Feedback aus deinem Netzwerk.
5. Erfahrungen teilen: Tausche dich mit Kolleg:innen aus und lernt voneinander.

Feedback ist Haltung

Du kannst KI-Modelle besser machen. Gib bewusst Feedback bei fehlerhaften Texten oder Bildern – mit einem Daumen runter, einer kurzen Notiz oder einem Alternativvorschlag. Ein kurzer Hinweis kann das Training der Modelle beeinflussen – und künftige Bilder vielfältiger machen.

Nutze die Rückmeldefunktion wie im Beispiel von Claude.ai.

Fazit: Du machst den Unterschied

KI-Systeme sind nicht neutral, sie sind aber gestaltbar.

• Wähle gezielt aus, was du übernimmst.

• Sprich es an, wenn etwas nicht passt.

• Teile starke Prompts und reflektiere stereotype Ergebnisse.

• Gib Feedback. Auch bei Kleinigkeiten.

• Mache Vielfalt sichtbar: in Bildern, Texten und Lernmaterialien.

Wir legen heute die Datengrundlage für die nächste Generation KI-Systeme.

Vertiefungsmöglichkeiten

• Online-Kurs „KI-Biases verstehen und vermeiden“ (openHPI). Kostenloser, praxisnaher Online-Kurs zum Erkennen, Verstehen und Vermeiden von KI-Biases mit vielen Übungen und Strategien für den fairen KI-Einsatz.

• Lehrerweb Wien: „Coded Bias – Wie KI diskriminiert“ Infografiken, Videos und Arbeitsaufträge, die sich leicht für die Erwachsenenbildung adaptieren lassen5.

• Faires KI-Prompting (Digitalzentrum Zukunftskultur) Leitfaden mit Praxisbeispielen, Strategien und Reflexionsfragen zum fairen Einsatz von KI in Unternehmen – sehr gut adaptierbar für die Erwachsenenbildung.

• Grundlagen – Bias und Fairness in KI Fundierte Einführung zu Bias-Arten, Fairness-Definitionen und Gegenstrategien im KI-Lebenszyklus – mit vielen Praxisbeispielen und Erklärungen.

Grundlagen der KI: Von Mythen und Fakten zur Praxis

Warum sollte ich mich als Trainer:in in der Erwachsenenbildung mit Systemen und Tools zu Künstlicher Intelligenz (KI) beschäftigen?

KI - was soll das?!

Vielleicht stellst du dir diese Frage. Vielleicht stresst dich die rasante Entwicklung oder du denkst: „Das habe ich doch längst verpasst.“ Vielleicht sorgt sich eine Stimme in deinem Kopf, dass KI dich irgendwann ersetzt. Aber ich sage dir: Das ist Quatsch! Es gibt keinen falschen Zeitpunkt, um sich mit KI auseinanderzusetzen. Und Angst vor Fehlern ist der größte Stolperstein. Einfach ausprobieren – das ist der Schlüssel.

KI ist kein Ersatz für uns als Trainer:innen, sondern ein Werkzeug, das uns unterstützen kann. Ein Werkzeug, das uns Zeit spart, neue kreative Möglichkeiten eröffnet und uns hilft, Routineaufgaben zu delegieren.

Meine eigene KI-Reise

IIm November 2022 hatte ich von ChatGPT und Co. keinen blassen Schimmer. Meine Tochter war gerade zwei Monate alt, und KI stand nicht mal ansatzweise auf meiner To-do-Liste. Doch ein Jahr später las ich den Call for Workshops eines Trainingskongresses, der KI ins Zentrum stellte. Ich wollte dabei sein – also reichte ich ein Konzept ein. Ohne echte Ahnung. Und dann: Workshop zugesagt. Jetzt musste ich liefern.

Ich begann mit den Basics: erste Versuche mit ChatGPT, die inspirierenden Inhalte von Nele Hirsch im eBildungslabor, ein Pro-Abo für ChatGPT. Ich experimentierte, scheiterte, lernte. Und ich stellte fest: Es stimmt, was Ethan Mollick sagt: „KI lernst du, indem du KI nutzt.“

Heute bin ich kein Allwissender, aber um viele Erfahrungen reicher. Und genau das wünsche ich auch dir: Einfach anfangen. Kleine Schritte. Dranbleiben.

Was ist KI eigentlich?

Kurz und knackig

KI (Künstliche Intelligenz) beschreibt Technologien, die Maschinen ermöglichen, Dinge zu tun, die normalerweise menschliche Intelligenz erfordern – etwa Lernen, Entscheidungen treffen oder Probleme lösen. KI ist längst Teil unseres Alltags: Netflix empfiehlt dir Filme, dein GPS plant die beste Route, und dein Spam-Ordner schützt dich vor unerwünschten E-Mails.

Generative KI - der große Durchbruch

Mit Tools wie ChatGPT, die Inhalte selbst erstellen können, hat KI eine neue Dimension erreicht. Texte schreiben, Bilder malen, Musik komponieren – all das kann generative KI. Aber: Sie basiert auf Wahrscheinlichkeiten, nicht auf Wahrheiten. Sie gibt dir eine Antwort, doch die muss nicht richtig sein. Kritisches Denken bleibt also essenziell.

Häufige Mythen rund um KI

• „KI weiß alles.“
  Realität: KI arbeitet mit Wahrscheinlichkeiten und liefert oft unvollständige oder verzerrte Ergebnisse.

• „KI ersetzt mich irgendwann.“
  Realität: KI unterstützt, ersetzt aber keine Empathie, Kreativität und Pädagogik.

• „KI ist unfehlbar.“
  Realität: Halluzinationen und Verzerrungen (Bias) sind bekannte Schwächen von KI-Systemen. Deshalb bleibt dein prüfender Blick unverzichtbar.

Wie du loslegst

1. Teste einfache Tools:
   Registriere dich bei ChatGPT oder nutze Tools wie You.com (ohne Anmeldung). Stell eine einfache Frage wie: „Welche kreativen Gruppenarbeitsmethoden kann ich in einem Training einsetzen?“

2. Vergleiche Ergebnisse:
   Probiere dieselbe Eingabe in verschiedenen Tools aus und finde heraus, welches am besten zu dir passt.

3. Gib mehr Kontext:
   Stelle präzisere Anfragen, z. B.: „Erstelle eine 30-minütige Gruppenarbeit zum Thema Zeitmanagement für Anfänger:innen.“

4. Sei kritisch:
   Überprüfe die Antworten, passe sie an, und sieh die Tools als Sparringpartner:innen – nicht als perfekte Lösung.

Fazit: Keine Angst vor dem ersten Schritt

KI ist kein mystisches Wesen, sondern ein Werkzeug. Und wie jedes Werkzeug entfaltet es seine Kraft erst, wenn du es nutzt. Es geht nicht darum, alles sofort zu verstehen. Es geht darum, zu starten. Kleine Schritte, Fehler zulassen, lernen und dranbleiben.