Verantwortung im KI-Einsatz

Warum sie menschlich bleibt — und wie Sie sie gestalten

Wer verantwortet das Ergebnis, wenn ein Modell entscheidet?

Ein Kreditantrag wird in Sekunden bewertet. Ein Bewerbungsprofil ist vorgefiltert, bevor ein Mensch es überhaupt zu Gesicht bekommt. Eine Diagnose bereitet ein Modell vor, das im Haus niemand mehr im Detail erklären kann. Die Antworten werden schneller, die Wege kürzer. Und die Frage, wer am Ende dafür einsteht, wird dabei nicht lauter, sondern leiser.

Wir sollen Verantwortung tragen für Dinge, die wir immer weniger kontrollieren können. Das ist keine Zuspitzung, sondern der Alltag in Vorständen und Geschäftsführungen, die heute mit Künstlicher Intelligenz arbeiten. Was von Führung erwartet wird, hat sich nicht verändert: Sie soll Verantwortung übernehmen. Verschoben haben sich die Bedingungen, unter denen das überhaupt noch geht.

Genau darum geht es in diesem Beitrag. Nicht darum, Verantwortung als weitere Pflicht abzuhaken, sondern sie als das zu behandeln, was sie ist: eine Gestaltungsaufgabe.

Wenn Verantwortung verdunstet

In vielen Unternehmen läuft es derzeit so: KI kommt als technisches Thema ins Haus und wandert zur IT oder zu einem neu geschaffenen „AI Lead“. Daneben probieren die Fachbereiche längst eigene Werkzeuge aus, häufig ohne Freigabe. Der Vorstand erfährt davon in Zusammenfassungen, im Quartalsbericht oder im Lenkungskreis. Geht etwas schief – eine falsche Auskunft an Kunden, eine schiefe Vorauswahl, ein Datenschutzvorfall –, ist kaum jemand überrascht. Zuständig fühlt sich trotzdem niemand.

Aufgaben kann man delegieren. Werkzeuge kann man einkaufen, Prozesse automatisieren. Verantwortung lässt sich nicht weitergeben. Sie verdunstet, wenn niemand sie hält. Je weiter ein Unternehmen seine KI-Nutzung an einzelne Rollen oder Abteilungen abgibt, desto weniger entscheidet der Führungskreis selbst darüber, wie diese Nutzung das eigene Haus verändert. So entsteht die Lücke, die in vielen Organisationen gerade offensteht – und sie hat mit der vielleicht unbequemsten der 22 Thesen zu tun: Eure KI-Adoption entscheidet über eure Zukunftsfähigkeit. Und ihr delegiert sie an die IT-Abteilung.

Drei Arten von Verantwortung, die selten getrennt werden

„Verantwortung für KI“ wird meist in einem Atemzug gesagt – und bleibt deshalb diffus. Es hilft, drei Dinge auseinanderzuhalten.

Da ist erstens die tägliche Nutzung: Wer entscheidet, welche Aufgaben mit KI bearbeitet werden, mit welchen Eingaben, mit welcher Prüfung? Zweitens die Aufsicht: Wer schaut regelmäßig nach, ob die Vereinbarungen eingehalten werden, wo es abweicht, wo sich Risiken verschieben? Und drittens der strategische Rahmen: Wer legt fest, welche Wirkung der KI-Einsatz im Haus entfalten soll, welche ausdrücklich nicht, und woran man Erfolg erkennt?

Diese drei können in verschiedenen Händen liegen. Aber sie müssen benannt sein. Landen sie alle stillschweigend beim CIO oder in einer Stabsstelle, hat der Führungskreis seine strategische Verantwortung abgegeben, ohne das je entschieden zu haben.

Warum Compliance nicht reicht

EU AI Act und DSGVO stecken ab, in welchem Rahmen KI eingesetzt werden darf. Sie regeln, was unzulässig ist, was dokumentiert werden muss, welche Risikoklasse gilt. Das ist notwendig, und es ist gut, dass es das gibt. Nur beantwortet es eine andere Frage als die, um die es hier geht.

Compliance sagt, ob wir etwas dürfen. Sie sagt nicht, ob wir es tun sollten und wie. Wer Verantwortung auf das Erfüllen von Vorschriften verkürzt, kann am Ende ein Unternehmen führen, das mit KI legal arbeitet, aber nicht tragfähig.

Deshalb ist Compliance für uns ein Rahmen, nicht die eigentliche Linie. Die Arbeit fängt dort an, wo die Checkliste aufhört: bei den Beziehungen zwischen den Menschen, ihren sozialen Systemen und der KI im Haus. Wo entstehen Ergebnisse, die niemand mehr begründen kann? Wo wird entschieden, ohne dass jemand die Voraussetzungen dieser Entscheidung noch überblickt? An solchen Stellen entscheidet sich, ob Verantwortung im Alltag wirksam bleibt.

Was sich tatsächlich gestalten lässt

Die Kontrolle über jede einzelne KI-gestützte Entscheidung hat ein Führungskreis längst verloren, und er wird sie nicht zurückbekommen. Gestalten lassen sich aber die Voraussetzungen, unter denen bessere Ergebnisse wahrscheinlicher werden. Vier davon zeigen erfahrungsgemäß die größte Wirkung.

Das Erste sind sichtbare Entscheidungswege. Wo KI an einer Entscheidung mitwirkt, sollte das dort erkennbar sein, wo entschieden wird, und nicht in einer separaten Dokumentation, die niemand öffnet. Das Zweite sind klare Rollen: Es ist benannt, wer eine KI-gestützte Empfehlung prüft, wer sie freigibt, wer für sie geradesteht. Keine dieser Rollen liegt bei „der KI“. Das Dritte ist ein wiederkehrender Blick auf Muster statt auf Einzelfälle – in festen Abständen, mit der Frage, wo blinde Flecken entstehen und wohin sich Risiken verschieben. Und das Vierte sind festgehaltene Begründungen: Bei wesentlichen Entscheidungen wird nicht nur notiert, was entschieden wurde, sondern warum. Das verhindert keine Fehler, aber es hält die Verantwortungskette zusammen.

Nichts davon ersetzt Compliance. Es macht sie tragfähig.

Fünf Fragen für den eigenen Führungskreis

Bevor über ein KI-Programm, ein neues Werkzeug oder eine Governance-Struktur entschieden wird, lohnt ein ehrlicher Blick nach innen. Die folgenden Fragen lassen sich im Führungskreis in unter einer Stunde besprechen:

• Welche konkrete Entscheidung oder Spannung im Unternehmen ist überhaupt der Anlass, sich mit KI-Verantwortung zu befassen?
• Wo wird bei uns bereits KI eingesetzt – formell wie informell – und mit welcher Zuständigkeit?
• Welche Bereiche, Prozesse oder Entscheidungen sind heute am stärksten von KI betroffen?
• Wer im Führungskreis trägt aktuell die Verantwortung für den Umgang mit KI?
• Woran würden wir erkennen, dass ein erster gemeinsamer Schritt gelungen ist?

Wenn auf eine dieser Fragen keine schnelle, gemeinsame Antwort kommt, ist das kein schlechtes Zeichen. Es ist die ehrlichste Standortbestimmung, die im Moment zu haben ist – und ein guter Ausgangspunkt.

Wie es weitergeht

Verantwortung im KI-Einsatz lässt sich nicht mit einem Memo erledigen und nicht mit einer Richtlinie abschließen. Sie zeigt sich darin, wie ein Führungskreis die eigene Adoption führt: ob er sie als Tool-Rollout behandelt oder als die Frage, wie Menschen, ihre sozialen Systeme und KI gemeinsam arbeitsfähig werden.

Daran arbeiten wir im KI-Adoptionsdesign. Es macht das System sichtbar, in dem KI im Haus aufgenommen, genutzt oder umgangen wird, sorgt dafür, dass die Nutzung an die bestehende Praxis andockt, und macht Verantwortung dort sichtbar, wo sie wirklich liegt, statt sie zu verwalten.

Nächster Schritt
Machen wir die Verantwortungsstruktur Ihres KI-Einsatzes gemeinsam sichtbar – im KI-Adoptionsdesign. Oder beginnen Sie mit einem einstündigen Erstgespräch, aus dem Sie eine einseitige Standortbestimmung mitnehmen, die Sie intern weitergeben können.

→ Erstgespräch vereinbaren