Kapitel 5 | Dein Entscheidungs-Check
Bevor du ein KI-Tool einsetzt: Diese 4 Fragen entscheiden, ob du es einsetzen solltest. Gesetze sagen dir, was verboten ist. Wenn es keine klare Regel gibt: entscheidest du mit dem Kompass.
1
Ist das Effizienzversprechen realistisch und notwendig?
Prüfe den tatsächlichen Bedarf und den bewiesenen Nutzen.
JA → Weiter
NEIN → STOPP
↓
2
Haben wir die Auswirkung auf Menschen geprüft?
Analysiere potenzielle Benachteiligungen für alle Gruppen.
JA → Weiter
NEIN → STOPP
↓
3
Können wir die KI-Entscheidungen erklären?
Stelle sicher, dass Ergebnisse transparent kommuniziert werden können.
JA → Weiter
NEIN → STOPP
↓
4
Wissen wir, was wir tun, wenn ein Problem öffentlich wird?
Verantwortlichkeiten und Notfallplan stehen, bevor das Tool startet.
JA → Weiter
NEIN → STOPP
Entscheidungs-Regel
Jedes Nein heißt: Setze das Tool nicht ein, bis die Lücke geschlossen ist. Am schwersten wiegen Frage 2 und 3, denn genau dort sind Amazon, HireVue und Deliveroo gescheitert.
Amazon → Bias erkannt → Tool gestoppt
HireVue → Kritik → Feature entfernt
Deliveroo → Gericht → Entschädigung
Unsicher bei einer Frage? Prüfe mit dem Kompass
Dein Entscheidungs-Kompass für Grauzonen, der auf den zehn Richtlinien des Ethikbeirats HR-Tech basiert.
Verstehen
Weißt du, welche Daten genutzt werden?
Kannst du erklären, wie Entscheidungen entstehen?
Verstehst du das System oder vertraust du ihm nur?
Prüfen
Auf welche Merkmale stützt sich das System?
Könnten diese Verzerrungen enthalten?
Würdest du die Entscheidung selbst so treffen?
Entscheiden
Prüfst du Ergebnisse aktiv?
Gibt es klare Kriterien?
Könntest du die Entscheidung begründen?
Argumentation im Unternehmen
„Das ist nicht nur Meinung, sondern anerkannter Standard."
Tool-Entscheidung
Neues Tool? → Erst durch den Kompass prüfen. Nicht danach.
Interne Richtlinie
Das ist die Basis für deine KI-Policy im Recruiting.
Dieser Kompass fasst die 10 Richtlinien des Ethikbeirats HR-Tech zusammen. → Hier kannst du dir die Richtlinien im Detail anschauen