KI im Unternehmen: Wo Führungskräfte menschliche Kontrolle verlangen

Künstliche Intelligenz darf in deutschen Unternehmen zunehmend mehr als Texte erzeugen oder Informationen bereitstellen. Viele Führungskräfte können sich inzwischen vorstellen, dass KI konkrete Aufgaben eigenständig übernimmt. Wie weit dieses Vertrauen reicht, hängt allerdings stark davon ab, welche Folgen eine Fehlentscheidung hätte. Das zeigt die aktuelle Erhebungswelle des „Expleo AI Pulse“. 71 Prozent der befragten deutschen Führungskräfte fühlen sich damit wohl, wenn KI Dokumente oder Besprechungsnotizen eigenständig zusammenfasst. Bei strategischen Geschäftsentscheidungen sind es dagegen nur noch 43 Prozent.
Dazwischen entsteht eine bemerkenswert klare Abstufung: Je stärker eine Aufgabe von Organisation und Unterstützung in Richtung tatsächlicher Entscheidungskompetenz wandert, desto größer wird der Wunsch nach menschlicher Kontrolle.

Vom Protokoll bis zur Strategie: Wo das Vertrauen sinkt

Bei klassischen Organisationsaufgaben ist die Akzeptanz autonomer KI bereits hoch. 68 Prozent würden der Technologie die eigenständige Organisation von Kalendern und Meetings überlassen. 65 Prozent akzeptieren, dass KI Aufgaben priorisiert und nächste Schritte empfiehlt. Sobald die Systeme selbst Entscheidungen treffen oder Maßnahmen auslösen sollen, nimmt die Bereitschaft ab. Administrative Maßnahmen mit geringem Risiko würden noch 57 Prozent einer KI überlassen. Entscheidungen innerhalb klar definierter Regeln kommen auf 55 Prozent.
Bei geschäftskritischeren Aufgaben fällt die Zustimmung anschließend unter die Hälfte: Nur 44 Prozent fühlen sich mit eigenständigen Finanz- oder Budgetentscheidungen durch KI wohl. Ebenfalls 44 Prozent akzeptieren autonome Personal- oder Einstellungsentscheidungen. Strategische Geschäftsentscheidungen bilden mit 43 Prozent das Schlusslicht.

Entscheidend ist offenbar nicht die Aufgabe, sondern ihr Fehlerpreis

Interessant ist weniger, dass die Zustimmungswerte unterschiedlich hoch ausfallen, als wo die Grenze verläuft. Dr. Yusuf Erdogan, Country Lead Digital & Technology bei Expleo Deutschland, beschreibt die Logik dahinter so: „Ein zusammengefasstes Protokoll lässt sich korrigieren, eine falsche Entscheidung über das Budget nicht ohne Weiteres.“ Die Ergebnisse sprechen damit gegen eine einfache Einteilung in Aufgaben, die Menschen erledigen, und solche, die künftig Maschinen übernehmen. Stattdessen scheint sich eine andere Grenze herauszubilden: Wie reversibel ist eine Entscheidung – und wie hoch sind die Folgen, wenn die KI falschliegt?
Ein fehlerhaft zusammengefasstes Meetingprotokoll kann ein Mitarbeiter korrigieren. Eine unpassende Terminplanung lässt sich ändern. Selbst eine falsche Priorisierung muss noch keine unmittelbaren finanziellen oder personellen Konsequenzen haben. Eine freigegebene Zahlung, eine Personalentscheidung oder eine strategische Weichenstellung kann dagegen Folgen erzeugen, die wesentlich schwieriger rückgängig zu machen sind.

Offen für KI heißt nicht bereit für autonome Entscheidungen

Die Zurückhaltung bei Entscheidungen mit hoher Tragweite ist dabei nicht mit einer grundsätzlichen Skepsis gegenüber Künstlicher Intelligenz gleichzusetzen. 69 Prozent der befragten Führungskräfte freuen sich über die Chancen, die KI ihrem Unternehmen eröffnet. 73 Prozent sind überzeugt, dass ihre Organisation die Technologie erfolgreich einsetzen kann. Auch der monatlich erhobene „AI Pulse Index“ deutet nicht auf einen Stimmungseinbruch hin. Deutschland erreicht aktuell 65 Punkte und damit denselben Wert wie im Vormonat. Der europäische Durchschnitt liegt mit 64 Punkten knapp darunter. Gerade die Kombination beider Befunde ist interessant: Unternehmen können KI grundsätzlich positiv gegenüberstehen und ihr gleichzeitig bei bestimmten Entscheidungen Grenzen setzen. Erdogan sieht darin sogar einen möglichen Indikator für den Reifegrad beim KI-Einsatz. Entscheidend sei zunehmend nicht mehr die Frage „KI: ja oder nein“, sondern „KI: wo genau“.

Kunden und Führungskräfte ziehen eine ähnliche Grenze

Ein vergleichbares Muster zeigt sich derzeit auch außerhalb der Unternehmen. Eine aktuelle Accenture-Untersuchung zur Versicherungsbranche zeigt, dass Kunden KI durchaus für die Suche, den Vergleich und die Aufbereitung von Versicherungsangeboten einsetzen würden. Sobald daraus jedoch eine konkrete finanzielle Entscheidung werden soll, steigt die Bedeutung menschlicher Beratung.

Die beiden Untersuchungen betrachten unterschiedliche Gruppen und sind methodisch nicht unmittelbar vergleichbar. In ihrer Grundrichtung weisen sie jedoch auf dieselbe Entwicklung hin: KI erhält dort vergleichsweise viel Handlungsspielraum, wo sie Informationen verarbeitet, Abläufe organisiert und Entscheidungen vorbereitet. Je größer dagegen finanzielle, personelle oder langfristige Konsequenzen werden, desto stärker bleibt der Mensch gefragt.
Für Versicherer ist diese Parallele besonders interessant. Die Branche steht gleichzeitig vor beiden Fragen: Wie viel Entscheidungskompetenz sollen KI-Systeme innerhalb der eigenen Organisation erhalten – und wie viel Autonomie akzeptieren Kunden, wenn die Technologie ihnen gegenübertritt?

Agentische KI verschärft die Frage nach den Grenzen

Mit der Entwicklung von KI-Agenten gewinnt diese Unterscheidung zusätzlich an Bedeutung. Generative KI konnte zunächst vor allem Informationen erzeugen, strukturieren und zusammenfassen. Agentische Systeme sollen dagegen Aufgabenketten zunehmend eigenständig bearbeiten, Entscheidungen innerhalb vorgegebener Grenzen treffen und Aktionen in angeschlossenen Systemen auslösen. Damit verschiebt sich die entscheidende Frage vom Können zum Dürfen.

Dass 55 Prozent der befragten Führungskräfte KI bereits Entscheidungen innerhalb klar definierter Regeln zutrauen, gleichzeitig aber nur 44 Prozent Finanz- oder Personalentscheidungen abgeben würden, deutet auf eine mögliche Arbeitsteilung hin: Autonomie innerhalb definierter Leitplanken – menschliche Kontrolle dort, wo der Fehlerpreis steigt. Gerade für regulierte Branchen dürfte diese Grenze entscheidend werden. Denn mit zunehmender technischer Leistungsfähigkeit verschwindet die Verantwortung für eine Entscheidung nicht automatisch.

Die eigentliche KI-Reife zeigt sich beim Nein

Damit liefert der Expleo AI Pulse einen interessanten Gegenentwurf zur Vorstellung, der Fortschritt beim KI-Einsatz lasse sich vor allem daran messen, wie viele Aufgaben Unternehmen automatisieren. Eine hohe Automatisierungsquote allein sagt wenig darüber aus, ob KI sinnvoll eingesetzt wird. Mindestens ebenso wichtig wird die Fähigkeit, zwischen delegierbaren Aufgaben und Entscheidungen zu unterscheiden, bei denen menschliche Kontrolle notwendig bleibt.