Kapitel 1 | Drei Regeln für deinen Alltag
3
Regel 3 von 3
KI darf keine Einstellungs- oder Absageentscheidung allein treffen.
Der Mensch muss die finale Entscheidung treffen und sie begründen können.
Der Mensch muss die finale Entscheidung treffen und sie begründen können.
Der EU AI Act verlangt ab Dezember 2027 bei KI-Systemen für Einstellung, Auswahl und Bewertung menschliche Aufsicht. Schon heute gilt Art. 22 DSGVO: Eine Absage darf nicht ausschließlich automatisiert entstehen, die Ausnahmen sind eng.
Nicht ok
KI rankt Kandidat:innen, du übernimmst die Top 3 ohne Prüfung. Du verstehst nicht, warum diese drei oben stehen. Du vertraust dem System blind.
Ok
KI schlägt vor, du hinterfragst die Kriterien, prüfst kritisch und entscheidest eigenverantwortlich. Du kannst begründen, warum du dich so entschieden hast.
Was heißt „echte menschliche Entscheidung"?
✓
Du verstehst, was die KI vorschlägt.
✓
Du prüfst die Kriterien kritisch
✓
Du kannst deine Entscheidung begründen
✓
Du prüfst den KI-Vorschlag eigenständig und folgst ihm nicht automatisch
Rechtlich
Eine Absage darf nicht ausschließlich automatisiert entstehen (Art. 22 DSGVO, Ausnahmen eng). Du brauchst nachweisbare menschliche Aufsicht.
Fairness
Menschen haben Anspruch auf nachvollziehbare Entscheidungen. „Das hat die KI so entschieden" reicht nicht.
Halte Entscheidungen kurz fest: „KI hat A, B und C vorgeschlagen. Ich habe mich für B entschieden, weil..." Das schützt dich bei Rückfragen.