Warum
Menschliche Aufsicht ist keine Unterschrift am Ende eines Prozesses. Sie braucht Zeit, Kompetenz, Eingriffsrechte und die Erlaubnis zum Zweifel. In Organisationen ohne legitimierten Widerspruch entsteht stille Zustimmung als Norm.
Psychologische Sicherheit ist die strukturelle Voraussetzung für wirksame Aufsicht. Wo Zweifel Statusverlust kosten, hört die echte Kontrolle auf, bevor sie beginnt. Was bleibt, ist Bestätigung ohne Prüfung.
Verantwortung konzentriert sich am Ende der Handlungskette, bei denjenigen, die bestätigt haben, auch wenn sie die Prozesse selbst kaum steuern konnten.
Reflexionsfrage
Wenn jemand in meinem Team morgen sagt, er traut der KI-Empfehlung nicht: Was passiert dann wirklich?
Was
Widerspruch als festen Prozessbestandteil verankern: Wer darf stoppen, wer muss gehört werden, bevor eine KI-Empfehlung bestätigt wird? Aufsichtspflichten mit echten Eingriffsrechten ausstatten, nicht mit Bestätigungsroutinen ohne Prüfmacht. Klar dokumentieren, wer echte Aufsicht übernimmt und wer nur nachgelagert bestätigt.
Belege
Wissenschaft
Moral Crumple Zones
In komplexen soziotechnischen Systemen verschiebt sich Verantwortung auf diejenigen am Ende der Handlungskette, auch wenn sie die Prozesse nur begrenzt kontrollierten.
Elish, 2019 · Engaging Science, Technology, and Society
Rechtliche Grundlage
EU AI Act · Art. 14
Menschliche Aufsicht muss wirksam, dokumentiert und mit Eingriffsrechten ausgestattet sein. Bestätigungsroutinen ohne Eingriffsmacht erfüllen das nicht.
EU AI Act, 2024
Eigene Experteninterviews
»Mensch bleibt Letztverantwortlicher. Explizit als einer der vier Manifesto-Werte.«
TN22 · AIDE F17 AI Literacy Trainings & Transfer (n=30)