Woher Bias kommt | HiringLab

Woher Bias kommt und warum er kein Zufall ist.
Er zeigt sich zum Beispiel in Alters-, Geschlechts- oder Herkunftseffekten.
Definition
Bias ist eine systematische Verzerrung, die bestimmte Gruppen benachteiligt.
Im Recruiting bedeutet das: Alter, Geschlecht, Herkunft, Name oder Bildungsweg fließen direkt oder indirekt, bewusst oder unbewusst in die Bewertung ein. Oft sind es keine persönlichen Vorurteile, sondern Muster in Prozessen, Kriterien oder Daten.
Wo Bias entsteht
Historische Daten
Vergangenheit
KI lernt aus alten Entscheidungen und wiederholt deren Fehler.
Beispiel: Wenn früher mehr Männer eingestellt wurden, bewertet das System Männer besser.
Stellvertreter
Indirekte Hinweise
Scheinbar neutrale Infos sind mit Geschlecht oder Herkunft verknüpft.
Beispiel: Wohnort → soziale Herkunft. Abschlussjahr → Alter.
Anwendungsfehler
Nutzung im Alltag
Auch ein technisch sauberes Tool wird durch die Art der Nutzung verzerrt.
Beispiel: Eine Recruiterin vertraut dem KI-Score blind, ihr Kollege interpretiert ihn bei jeder Bewerbung anders. Gleiche Daten, andere Entscheidung.
Bias ist kein Fehler im System. Bias ist Teil des Systems.

8 Verzerrungen in KI-Systemen 
So zeigen sich die drei Quellen, sobald KI im Spiel ist. Wer das nicht erkennt, automatisiert Diskriminierung. Die Denkfehler, die bei Menschen im Kopf passieren, folgen in der nächsten Lektion.
  
01
Historischer Bias
Trainingsdaten spiegeln vergangene Diskriminierung wider
„Früher wurden nur Männer eingestellt. KI lernt: Mann = besser"
02
Repräsentations-Bias
Bestimmte Gruppen sind in den Daten unterrepräsentiert
„Wenig Daten über Quereinsteiger → KI bewertet sie schlechter"
03
Proxy-Bias
Neutrale Merkmale korrelieren mit geschützten Merkmalen
„Postleitzahl als Filter → sortiert nach Herkunft und Einkommen"
04
Verstärkungs-Bias
KI verstärkt bestehende Muster statt sie zu hinterfragen
„Team ist homogen → KI sucht weiter das gleiche Profil"
05
Sprach-Bias
Formulierungen werden bevorzugt oder abgewertet
„Englische Buzzwords scoren höher als klare deutsche Sprache"
06
Automatisierungs-Bias
Menschen vertrauen KI-Ergebnissen blind
„KI sagt Nein → wird nicht mehr hinterfragt"
07
Selektions-Bias
Nur bestimmte Bewerbungen fließen ins Training ein
„Nur Daten von angenommenen Bewerber:innen → Abgelehnte fehlen"
08
Bewertungs-Bias
Scoring-Kriterien bevorzugen bestimmte Profile systematisch
„Lücken im Lebenslauf = Abwertung → trifft Eltern & Pflegende"
Alle acht Typen haben etwas gemeinsam: Du siehst sie nicht, wenn du nicht gezielt hinschaust.

    Woher Bias kommt und warum er kein Zufall ist.
  
Bias ist kein Fehler im System. Bias ist Teil des Systems. Er zeigt sich z.B. in Alters-, Geschlechts- oder Herkunftseffekten.
Definition
Bias ist eine systematische Verzerrung, die bestimmte Gruppen benachteiligt.
Es handelt sich dabei nicht nur um persönliche Vorurteile, sondern oft um Muster, die in Prozessen, Kriterien oder Daten verankert sind.
Wo Bias entsteht
Historische Daten
Vergangenheit
KI lernt aus alten Entscheidungen und wiederholt deren Fehler.
Beispiel: Wenn früher mehr Männer eingestellt wurden, bewertet das System Männer besser.
Stellvertreter
Indirekte Hinweise
Scheinbar neutrale Infos sind mit Geschlecht oder Herkunft verknüpft.
Beispiel: Wohnort → soziale Herkunft. Abschlussjahr → Alter.
Anwendungsfehler
Nutzung im Alltag
Auch ein technisch sauberes Tool wird durch die Art der Nutzung verzerrt.
Beispiel: Ein Recruiter vertraut dem KI-Score blind, ein anderer interpretiert ihn bei jedem Bewerber anders. Gleiche Daten, andere Entscheidung.
Bias ist kein Fehler im System. Bias ist Teil des Systems.