KI in der Versicherungsbranche: BaFin sieht Verantwortung bei den Unternehmen

Künstliche Intelligenz (KI) spielt eine immer größere Rolle in der Versicherungsbranche – von der Dunkelverarbeitung über das Underwriting bis hin zur Risikobewertung. Doch mit der Nutzung dieser Technologie gehen auch Risiken einher. Julia Wiens, Exekutivdirektorin der BaFin, sprach auf dem Vorlesungstag des Instituts für Versicherungswissenschaften e. V. an der Universität Leipzig über die Herausforderungen und die regulatorischen Rahmenbedingungen für KI-Systeme in der Finanz- und Versicherungsbranche.

KI im Versicherungssektor: Potenziale und Herausforderungen

Immer mehr Versicherer setzen auf KI-gestützte Anwendungen, um Prozesse zu optimieren und Effizienzsteigerungen zu erzielen. So kommen Methoden des maschinellen Lernens beispielsweise bei der Klassifikation von Dokumenten, der Dunkelverarbeitung von Leistungsanträgen oder in cloudbasierten Entwicklungsplattformen für Versicherungsprodukte zum Einsatz.

Doch die Technologie birgt auch Risiken. Automatisierte Entscheidungsprozesse können unbewusst Diskriminierung verstärken, wenn Datensätze bestimmte Kundengruppen nicht ausreichend berücksichtigen. Zudem besteht die Gefahr, dass generative KI-Systeme fehlerhafte Informationen („Halluzinationen“) erzeugen, die Nutzer als wahr erachten.

„Wenn Maschinen Entscheidungen treffen, folgen sie scheinbar einer neutralen Logik. Aber eben nur scheinbar“, erklärte Julia Wiens. „Es gilt, Diskriminierung zu vermeiden, die Qualität der Trainingsdaten sicherzustellen und sicherzustellen, dass Menschen weiterhin Kontrolle über Entscheidungsprozesse behalten.“

Regulatorische Vorgaben und Verantwortung der Unternehmen

Die Europäische Union hat mit dem AI Act eine neue gesetzliche Grundlage geschaffen, die den Einsatz von KI in sensiblen Bereichen, darunter die Versicherungsmathematik für Lebens- und Krankenversicherungen, als Hochrisiko-Anwendungen einstuft. Unternehmen müssen sicherstellen, dass ihre KI-Modelle transparent, nachvollziehbar und nicht diskriminierend sind.
„Die Verantwortung für eine adäquate Governance von KI liegt klar bei den Unternehmen“, betonte Wiens. Die BaFin arbeitet gemeinsam mit der EIOPA an der Umsetzung der aufsichtlichen Mindestanforderungen für KI-Systeme, um sicherzustellen, dass der technologische Fortschritt mit regulatorischen Vorgaben in Einklang steht.

Quantencomputing als nächste Herausforderung

Neben KI sprach Wiens auch über die kommenden Herausforderungen durch Quantencomputing. Diese Technologie könnte nicht nur die Anwendungsbereiche von KI erheblich erweitern, sondern stellt auch ein Risiko für bestehende Verschlüsselungstechnologien dar.
„Die Finanz- und Versicherungsbranche muss sich bereits heute mit Quantencomputing auseinandersetzen“, warnte Wiens. „Insbesondere die Sicherheitsinfrastruktur muss auf zukünftige Bedrohungen vorbereitet werden.“ Die BaFin beobachtet die Entwicklungen genau und rät Unternehmen, sich frühzeitig mit Post-Quanten-Kryptographie zu beschäftigen.
Die BaFin wird den Einsatz von Hochrisiko-KI-Systemen in Banken und Versicherungen künftig intensiv überwachen. Zudem wird der Dialog mit der Branche fortgesetzt, um die Entwicklung neuer Technologien mit passenden Governance-Strukturen und regulatorischen Leitplanken zu begleiten.

Die vollständige Rede von BaFin-Exekutivdirektorin Julia Wiens.