KI-Wettrüsten im Recruiting: Wer sorgt für Transparenz?

Für Transparenz im KI-Recruiting sorgt nicht ein Tool, sondern eine klar benannte Verantwortung.

Ein Auswahlprozess wird erst dann objektiv, wenn ein Mensch erklären kann, nach welchen Kriterien sortiert wird, und einer abgelehnten Person den Grund nennen kann. Genau das gerät aus dem Blick, während beide Seiten mit KI aufrüsten.

Gemeinsam mit einer Kollegin habe ich darüber gerätselt, ob eine Bewerbung mithilfe von KI verfasst wurde. Wir konnten es nicht mit Sicherheit sagen. In diesem Moment wurde mir klar, wie weit das Wettrüsten im Recruiting bereits fortgeschritten ist und wie wenig darüber gesprochen wird.

Goldman Sachs hat Bewerber:innen untersagt, im Auswahlverfahren KI zu nutzen. Die Bank selbst lässt Bewerbungen über eine KI-gestützte Plattform vorsortieren. Das ist Wall Street, weit weg. Ein ähnliches Muster entsteht gerade im deutschen Mittelstand, nur leiser. Bewerber:innen schreiben mit KI, Unternehmen filtern mit KI. Jeder Schritt wird schneller und glatter. Eins wächst dabei jedoch nicht mit: die Verantwortung dafür, wonach eigentlich entschieden wird. Das Tempo steigt, doch die Kriterien bleiben, wo sie vorher waren. Oft nirgends dokumentiert.

---

Warum das mehr ist als ein technisches Detail

Diese Lücke ist im Alltag ein handfestes Risiko. An drei Stellen gleichzeitig.

Fairness

Wenn ein Modell auf alten Einstellungsdaten lernt, übernimmt es alte Muster. Amazon baute ab 2014 ein Tool, das Bewerbungen mit Sternen bewerten sollte. Es wurde auf zehn Jahren überwiegend männlicher Lebensläufe trainiert. Das System lernte, Frauen systematisch schlechter zu bewerten, und stufte sogar Begriffe wie „Women's” herunter. 2018 wurde es wieder eingestellt.

Recht

Der EU AI Act stuft KI-Systeme im Bereich Beschäftigung, Auswahl und Bewerberbewertung als Hochrisiko ein (Anhang III). Die entsprechenden Pflichten wurden über den Digital Omnibus auf den 2. Dezember 2027 verschoben (Stand: Juni 2026; formale Annahme durch den Rat steht noch aus). Aufgeschoben heißt jedoch nicht aufgehoben. Wer eine Auswahllogik einsetzt, die niemand erklären kann, bewegt sich beim AGG schon heute auf dünnem Eis.

Arbeitgebermarke

Eine Absage ohne nachvollziehbaren Grund spricht sich herum. Kandidat:innen reden, gerade die guten. Nichts beschädigt eine Arbeitgebermarke schneller als das Gefühl, von einer Blackbox aussortiert worden zu sein.

---

Vier Fragen, die kein Tool beantwortet

Ich gebe jeder HR-Leitung vier Fragen mit auf den Weg. Sie kosten nichts, außer Ehrlichkeit.

Vier Fragen an Ihren Prozess

Wer entscheidet, wonach sortiert wird?

Wer prüft, ob fair sortiert wird?

Können Sie einer abgelehnten Person erklären, warum?

Würde Ihre Geschäftsführung diese Erklärung unterschreiben?

Wer bei einer Frage ins Stocken gerät, hat sein erstes Handlungsfeld gefunden. Da hilft kein neues Tool, sondern eine klare Zuständigkeit. Und die Antwort auf die Frage, was Sie beim KI-Einsatz dokumentieren müssen.

---

Was Sie in den nächsten 7 Tagen tun können

Sie brauchen kein Compliance-Projekt. Sie brauchen eine Stunde Zeit.

1

Kriterien sichtbar machen.

Schreiben Sie auf, nach welchen Kriterien Ihr Auswahlprozess tatsächlich erfolgt. Nicht das Anforderungsprofil, sondern das, wonach am Ende tatsächlich aussortiert wird.

2

KI-Stellen markieren.

Markieren Sie jede Stelle im Prozess, an der eine KI oder ein automatischer Filter mitentscheidet, vom Anzeigen-Ausspielen bis zum CV-Ranking.

3

Erklärbarkeit prüfen.

Fragen Sie für jede dieser Stellen: „Könnte ich einer abgelehnten Person den Grund erklären?” Wenn nicht, ist das Ihr erstes Handlungsfeld.

Das ist der Anfang. Belastbar wird es erst, wenn nicht nur Sie, sondern das ganze Team nach denselben Kriterien bewertet. Im Inhouse-Workshop „Bewerbungen sicher bewerten im KI-Zeitalter" trainiert Ihr Team genau das.

---

Erst die Kriterien, dann die Technik

Verstehen Sie mich nicht falsch. KI hat im Recruiting ihren Platz. Sie nimmt Arbeit ab, beschleunigt Prozesse und entlastet. Ein System wird jedoch erst dann objektiv, wenn ein Mensch sagen kann, wonach es sortiert. Genau da setze ich an. Zunächst müssen die Kriterien und die Verantwortung geklärt werden, dann erst kommt die Technik.

System statt Zufall

Ein KI-Prozess wird nicht durch das Tool selbst objektiviert, sondern durch die Person, die erklären kann, nach welchen Kriterien sortiert wird.

White Paper · Kostenlos

KI-Wettrüsten im Recruiting

Die Asymmetrie zwischen beiden Seiten, drei Praxisfälle, die Pflichten aus dem EU AI Act und eine Architektur, mit der Recruiting auch unter KI-Bedingungen trägt.

White Paper lesen →

KI-Tool-Check: Legen Sie das Ganze auf Ihren eigenen Prozess. Eine ehrliche Standortbestimmung, in 10 Minuten.

Zum Check →

---

Häufige Fragen zu KI und Transparenz im Recruiting

Ist der Einsatz von KI im Recruiting erlaubt?

Ja, allerdings gilt der Einsatz von KI-Systemen im Bereich Beschäftigung, Auswahl und Bewerberbewertung im Recruiting nach dem EU AI Act als Hochrisiko-Anwendung. Entscheidend ist, dass nachvollziehbar bleibt, nach welchen Kriterien sortiert wird und dass ein Mensch die Verantwortung dafür trägt.

Was ändert sich durch den EU AI Act für das Recruiting?

KI-Systeme für Beschäftigung, Auswahl und Bewerberbewertung fallen unter Anhang III des EU AI Act. Die Pflichten zu Transparenz, Dokumentation und menschlicher Aufsicht wurden jedoch durch den Digital Omnibus auf den 2. Dezember 2027 verschoben (Stand: Juni 2026; formale Annahme durch den Rat steht noch aus). Verstöße können mit bis zu 15 Millionen Euro oder drei Prozent des weltweiten Umsatzes geahndet werden.

Wie erkenne ich, ob mein Auswahlprozess fair ist?

Stellen Sie sich vier Fragen: Wer entscheidet, wonach sortiert wird? Wer prüft, ob fair sortiert wird? Können Sie einer abgelehnten Person den Grund erklären? Würde die Geschäftsführung diese Erklärung unterschreiben? Wer bei einer dieser Fragen ins Stocken gerät, hat sein erstes Handlungsfeld gefunden.

Was hat der Fall Amazon mit dem Mittelstand zu tun?

Amazon musste 2018 ein KI-Recruiting-Tool einstellen, weil es Frauen systematisch benachteiligte. Es war auf überwiegend männlichen Lebensläufen aus der Historie trainiert. Jedes Unternehmen, das KI auf alten Einstellungsdaten lernen lässt, riskiert dasselbe, auch im Mittelstand.

---

Wenn Sie gerade an einem ähnlichen Punkt stehen, schreiben Sie mir.

Bis zur nächsten Ausgabe.

Quellen

Fortune (2025): Goldman Sachs wants students to stop using ChatGPT in job interviews. fortune.com

Reuters / MIT Technology Review (2018): Amazon scraps secret AI recruiting tool that showed bias against women. technologyreview.com

EU Artificial Intelligence Act, Anhang III (Hochrisiko-KI, Beschäftigung & Recruiting). artificialintelligenceact.eu

Verordnung (EU) 2024/1689, Volltext. eur-lex.europa.eu

Gibson Dunn (2026): EU AI Act Omnibus Agreement, Postponed High-Risk Deadlines (Anhang III auf 2. Dezember 2027 verschoben). gibsondunn.com