KI verlässt das Innovationslabor – und wird zum Aufsichtsthema

Künstliche Intelligenz war in der Finanzbranche lange vor allem ein Digitalisierungsprojekt. Banken und Versicherer testeten neue Anwendungen, automatisierten Prozesse und sammelten Erfahrungen mit Chatbots, Risikomodellen oder Schadenbearbeitung. Mit dem Inkrafttreten des deutschen Durchführungsgesetzes zur europäischen KI-Verordnung beginnt nun eine neue Phase: KI wird Teil der regulären Finanzaufsicht.
Die BaFin übernimmt künftig die Marktüberwachung von KI-Systemen, die unmittelbar mit regulierten Finanz- und Versicherungsgeschäften zusammenhängen. Betroffen sind Kreditinstitute, Versicherungsunternehmen und weitere Finanzdienstleister unter Aufsicht der Behörde. Ziel ist es, Innovationen zu ermöglichen und zugleich Grundrechte sowie einen diskriminierungsfreien Zugang zu Finanzdienstleistungen zu schützen.

Nicht jedes KI-System gerät unter Aufsicht

Die neue Zuständigkeit bedeutet jedoch keine flächendeckende Kontrolle sämtlicher KI-Anwendungen in Finanzunternehmen. Vielmehr konzentriert sich die Marktüberwachung auf Systeme, die unmittelbar für regulierte Finanzdienstleistungen eingesetzt werden. „Wir kontrollieren nicht jedes einzelne KI-System in jedem Finanzunternehmen. Der Auftrag der KI-Verordnung lautet nicht Aufsicht. Er lautet Überwachung“, erläutert Jens Obermöller, Leiter der Abteilung Cyberrisiken und Technologie im Finanzsektor der BaFin. So fallen beispielsweise KI-Systeme zur Kreditwürdigkeitsprüfung oder zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung künftig in den Zuständigkeitsbereich der Finanzaufsicht. Anwendungen außerhalb des eigentlichen Finanzgeschäfts – etwa im Personalmanagement – werden dagegen von anderen Behörden überwacht.

Transparenz, Fairness und Risikomanagement rücken in den Mittelpunkt

Bereits mit Inkrafttreten des Gesetzes beginnt die BaFin, die Einhaltung der Transparenzpflichten und der Vorgaben zu verbotenen KI-Praktiken zu überwachen. Ab Dezember 2027 kommen die Anforderungen an Hochrisiko-KI-Systeme hinzu. Dazu zählen unter anderem Anwendungen zur Bonitätsprüfung oder zur Risikobewertung in der Personenversicherung. Für die Aufsicht geht es dabei nicht allein um technische Fragen. Im Mittelpunkt stehen vielmehr Transparenz, Diskriminierungsfreiheit und ein wirksames Risikomanagement.
Bereits im Mai hatte Julia Wiens, Exekutivdirektorin Versicherungs- und Pensionsfondsaufsicht der BaFin, auf der InsureNXT darauf hingewiesen, dass Versicherer KI künftig vor allem in sensiblen Bereichen wie Underwriting, Pricing oder Schadenregulierung einsetzen werden. Gleichzeitig wachse die Verantwortung der Unternehmen, mögliche Risiken frühzeitig zu erkennen und zu beherrschen.

Vertrauen wird zur regulatorischen Aufgabe

Für Wiens ist deshalb ein Aspekt von zentraler Bedeutung: „KI braucht das Vertrauen der Kundinnen und Kunden.“
Dieses Vertrauen entstehe nur dann, wenn Anwendungen nachvollziehbar, fair und sicher gestaltet seien. Risiken wie Diskriminierung durch ungeeignete Trainingsdaten, eingeschränkte Erklärbarkeit von Modellen oder fehlerhafte Ergebnisse müssten deshalb systematisch adressiert werden. Gleichzeitig seien klare Governance-Strukturen und ein wirksames Risikomanagement erforderlich.
Nach Einschätzung der BaFin verfügen viele Finanzunternehmen dafür bereits über wichtige Grundlagen. Bestehende regulatorische Rahmenwerke wie DORA oder etablierte Governance- und Compliance-Strukturen könnten den Unternehmen den Einstieg in die Anforderungen der KI-Verordnung erleichtern. Gleichzeitig erwartet die Aufsicht, dass die Unternehmen ihre KI-Kompetenz kontinuierlich ausbauen und ihre Prozesse an die neuen Vorgaben anpassen.

Innovation bleibt ausdrücklich erwünscht

Trotz der zusätzlichen Regulierung versteht sich die BaFin ausdrücklich nicht als Innovationsbremse. „Die Vorschriften der KI-Verordnung setzen nur Leitplanken. Es bleibt viel Raum für Innovation“, betont Obermöller. Reallabore und Tests unter Realbedingungen sollen Unternehmen ermöglichen, neue Anwendungen unter regulatorischer Begleitung zu entwickeln. Ziel sei eine ausgewogene Balance zwischen Innovationsförderung und dem Schutz der Grundrechte. Auch der bereits 2023 eingerichtete AI-Roundtable mit Vertretern der Finanzbranche, der Deutschen Bundesbank, des BSI und der Bundesnetzagentur soll den kontinuierlichen Austausch zwischen Aufsicht und Unternehmen fördern. Auf diese Weise will die BaFin regulatorische Anforderungen frühzeitig vermitteln und gleichzeitig Einblicke in die praktische Entwicklung neuer KI-Anwendungen gewinnen.

KI wird Teil des regulatorischen Alltags

Mit der neuen Zuständigkeit verändert sich der Stellenwert von Künstlicher Intelligenz in der Finanzbranche grundlegend. KI ist damit nicht länger ausschließlich Innovationsprojekt oder Digitalisierungsinitiative, sondern wird Bestandteil der regulatorischen Kernanforderungen. Für Banken und Versicherer bedeutet das, technologische Entwicklung und regulatorische Compliance künftig gemeinsam zu denken. Wer KI erfolgreich einsetzen will, muss nicht nur leistungsfähige Modelle entwickeln, sondern auch Transparenz, Governance und Risikomanagement von Beginn an mitplanen.
Julia Wiens brachte diesen Anspruch bereits im Mai auf den Punkt: „Move fast – but stay compliant!“