Wenn Sie KI im Recruiting einsetzen, müssen Sie vier Dinge dokumentieren: das eingesetzte System, ein Protokoll jeder KI-gestützten Entscheidung, den Nachweis menschlicher Letztentscheidung und die Information an Bewerber:innen und Betriebsrat.
Warum Recruiting unter dem EU AI Act Hochrisiko ist
Recruiting fällt unter dem EU AI Act in die Hochrisiko-Stufe. Das heißt nicht, dass KI verboten ist. Es heißt, dass an die Nachvollziehbarkeit höhere Anforderungen gestellt werden. Ab Dezember 2027 greifen die Hochrisiko-Pflichten in voller Breite. Alle Fristen und Pflichten im Überblick finden Sie im Grundlagenartikel zum EU AI Act.
Und auch wenn Sie das Tool nur eingekauft und nicht selbst gebaut haben, sind Sie als Anwender in der Pflicht. Den Hut, dass alles dokumentiert ist, hat nicht der Anbieter auf, sondern Sie.
Die vier Dokumentationspflichten
1. Die System-Dokumentation
Halten Sie fest, welches System Sie einsetzen und wofür. Was macht es genau? Sortiert es vor, bewertet es, schlägt es Rankings vor? Lassen Sie sich vom Anbieter die technische Dokumentation geben und bewahren Sie sie zugänglich auf. Wenn morgen jemand fragt, auf welcher Grundlage Sie abgelehnt haben, wollen Sie nicht erst beim Hersteller anrufen müssen.
2. Das Protokoll jeder Entscheidung
Das ist das Herzstück. Der AI Act verlangt eine automatische Protokollierung der Nutzung. Übersetzt in Ihren Alltag: festhalten, wann das System eingesetzt wurde, mit welchen Eingabedaten, was dabei herauskam und wer das Ergebnis geprüft hat. Diese Logs halten Sie mindestens sechs Monate vor.
Speziell für die Finanzbranche relevant: Wer ohnehin unter aufsichtsrechtliche Governance-Pflichten fällt, führt diese Protokolle als Teil der bestehenden Dokumentation. Sie bauen keine zweite Welt auf. Sie hängen es an das an, was Sie sowieso schon sauber führen.
3. Der Mensch entscheidet
Eine vollautomatische Absage, ohne dass ein Mensch draufschaut, ist nach Datenschutz-Grundverordnung nicht zulässig. Sie brauchen den Nachweis, dass eine echte Person die Letztentscheidung getroffen hat. Nicht „das System hat aussortiert", sondern „Person X hat am Tag Y geprüft und entschieden". Das ist kein Misstrauen gegen die KI. Das ist der Punkt, an dem aus einem Vorschlag eine verantwortbare Entscheidung wird.
Diese Letztentscheidung trägt nur, wenn Ihr Team eine Bewertung auch begründen kann. Genau das trainiert der Inhouse-Workshop „Bewerbungen sicher bewerten im KI-Zeitalter".
4. Information an Bewerber:innen und Betriebsrat
Zwei Gruppen müssen Sie ins Bild setzen. Die Bewerber:innen, dass im Prozess KI mitläuft. Und, bevor Sie so ein System einführen, Ihre Arbeitnehmervertretung. Der Betriebsrat will und soll das wissen. Wer das überspringt, baut sich später genau die Konflikte, die er vermeiden wollte.
Was Sie den Bewerber:innen datenschutzrechtlich schulden und wie Sie es formulieren: Datenschutz-Grundlagen und Praxis-Prompts finden Sie im kostenlosen Workbook.
Die stille Risikokette
Das Risiko ist nicht, dass Sie KI einsetzen. Das Risiko ist, dass Sie im Zweifel nicht zeigen können, wie Sie sie eingesetzt haben. Ohne Protokoll wird aus einer ganz normalen Absage ein Vorgang, den Sie nicht mehr erklären können.
Wer heute anfängt zu dokumentieren, steht 2027 nicht unter Druck.
Die Frist ist verschoben. Der Aufbau der Strukturen dauert trotzdem länger als ein Quartal.
KI-Tool-Check
Erfüllt Ihr KI-Tool diese Anforderungen?
Prüfen Sie jedes eingesetzte Tool in drei Filtern: Was macht es, wer verantwortet die Entscheidung, was können Sie im Zweifel belegen.
Zum Tool-Check →
Tiefer einsteigen: White Paper „Das KI-Wettrüsten im Recruiting". Die Asymmetrie zwischen beiden Seiten, drei Praxisfälle, die Pflichten aus dem EU AI Act.
White Paper →
Häufige Fragen
Was muss ich dokumentieren, wenn ich KI im Recruiting einsetze?
Vier Dinge. Erstens das eingesetzte System und was es tut. Zweitens ein Protokoll jeder KI-gestützten Entscheidung: wann das System genutzt wurde, mit welchen Eingabedaten, was dabei herauskam und wer das Ergebnis geprüft hat. Drittens der Nachweis, dass ein Mensch die Letztentscheidung getroffen hat. Viertens die Information an Bewerber:innen und Arbeitnehmervertretung. Diese Protokolle sind mindestens sechs Monate aufzubewahren.
Ab wann gelten die Protokollierungspflichten für KI im Recruiting?
Die Hochrisiko-Pflichten des EU AI Acts für den Bereich Beschäftigung und Personalmanagement greifen in voller Breite ab Dezember 2027. Unabhängig davon gilt schon heute: In einem arbeitsrechtlichen Streit, etwa einer AGG-Klage, brauchen Sie eine lückenlose Nachweisbarkeit. Deshalb sollten die Dokumentationsstrukturen für eingesetzte KI-Tools jetzt aufgebaut werden, nicht erst 2027.
Wer ist für die KI-Dokumentation verantwortlich, der Anbieter oder mein Unternehmen?
Die Verantwortung liegt beim Anwender des Systems, dem sogenannten Deployer, also bei Ihrem Unternehmen, nicht beim Software-Anbieter. Sie müssen dafür sorgen, dass die Nutzung im Alltag nachvollziehbar bleibt. Vom Anbieter sollten Sie sich die technische Dokumentation und Systembeschreibung aushändigen lassen und für Ihre eigene Dokumentation bereithalten.
Müssen Banken, Sparkassen oder Finanzdienstleister eine separate KI-Dokumentation aufbauen?
Nein. Eine isolierte Dokumentationslandschaft ist nicht nötig. Der EU AI Act sieht für Finanzinstitute ausdrücklich vor, dass die erforderlichen KI-Protokolle als Teil der Dokumentation geführt werden können, die ohnehin nach dem Finanzaufsichtsrecht vorzuhalten ist. Sinnvoll ist es daher, die KI-Protokolle direkt in die bestehenden internen Kontroll- und Governance-Systeme zu integrieren.
Ist eine vollautomatische Absage durch ein KI-Tool im Bewerbungsprozess erlaubt?
Nein. Nach Artikel 22 der DSGVO ist eine rein automatisierte Entscheidung mit rechtlicher Wirkung oder erheblicher Beeinträchtigung grundsätzlich nicht zulässig. Es muss nachweisbar sein, dass ein Mensch die Letztentscheidung getroffen hat, der menschliche Vorbehalt. Die KI darf Vorschläge, Strukturierungen und Analysen liefern. Die finale Auswahl trifft und dokumentiert der Mensch.
