KI in der Versicherung: Dürfen die das überhaupt?

Nicht erst seit ChatGPT und Stable Diffusion sind Künstliche-Intelligenz-Systeme (KI) in aller Munde. Autos fahren autonom, Roboter reinigen automatisch das Haus, digitale Assistenten unterstützen im Alltag. Doch auch in Versicherungsunternehmen bieten sich viele Szenarien für den Einsatz von KI.

Ein Beitrag von Christian Nölke, Principal Consultant bei adesso SE

Künstliche Intelligenz kann für vielfältige Aufgaben eingesetzt werden: Chatbots klären Fragen des Kunden, Telefonbots lösen einfache Kundenanliegen und verweisen gegebenenfalls in die richtigen Fachabteilungen, Rechnungen werden geprüft und Anträge bewertet sowie Schadensmeldungen bearbeitet. Manches hiervon ist bereits heute üblich, anderes liegt noch in gewisser Ferne.

Aber über aller Euphorie schwebt immer das Damoklesschwert der Regulatorik. Was dürfen Versicherungen? Welche Regelungen und Vorschriften gibt es? Und was kommt noch?

EU Artificial Intelligence Act

Bereits seit 2021 diskutiert die EU über den Artificial Intelligence Act. Dieser wurde im Juni dieses Jahres vom Parlament beschlossen. Allerdings stehen noch Verhandlungen mit den Mitgliedsländern aus. Zudem gibt es viele Stimmen sowohl aus der Industrie wie auch der Politik in den Mitgliedsländern, Europa können sich angesichts der rasanten Entwicklungen der letzten Monate sich nicht durch zu strikte Regeln von der weltweiten Entwicklung abkoppeln. KI sei die Zukunftstechnologie dieser Dekade, und wenn sie durch zu hohe Hürden nicht in Europa entwickelt werde, dann woanders. Diese Entwicklungen müssen weiter beobachtet werden.

Datenschutz-Grundverordnung

Ein weiterer, zu beachtender Punkt bei KI-Systemen ist die Datenschutz-Grundverordnung (DSGVO). Hier sind zwei Aspekte von besonderer Relevanz:

1. Zweckbindung der Daten
2. Schutz vor automatisierten Entscheidungen

Kundendaten dürfen nur zu den Zwecken verarbeitet werden, über die der Kunde informiert worden ist (DSGVO Art. 13 Abs. 1 lit. c) , und die Teil des Vertrags sind. „Training einer KI“ gehört in der Regel nicht dazu. Um dies zu ermöglichen, muss der Versicherer also entweder eine passende Einwilligung erlangen, die Daten anonymisieren, künstliche Daten erzeugen oder Berechtigtes Interesse (DSGVO Art. 6 Abs. 1 lit. f) an dieser Verarbeitung vorbringen können. In jedem Fall sollte beim Training einer eigenen KI ein Datenschutzexperte zu Rate gezogen werden.

Weiterhin ist der Kunde nach DSGVO Art. 22 Abs. 1 vor automatisierten Entscheidungen durch eine KI geschützt. Im Mindesten sollte dabei der Kunde über das Vorliegen einer solchen Entscheidung informiert und die Möglichkeit der manuellen Überprüfung eingeräumt werden. Wird die KI jedoch nur als Entscheidungshilfe oder Arbeitshilfe für den Sachbearbeiter genutzt, ist dies unkritisch. Es sollte der Grundsatz gelten, im Zweifelsfall trifft ein Mensch die letzte Entscheidung.

Leitlinie der BaFin zu KI und Big Data

Bereits 2021 hat die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) aufsichtliche Prinzipien für den Einsatz von Big Data und Künstlicher Intelligenz beschlossen. Diese folgen den Grundsätzen analog zu den Versicherungsaufsichtlichen Anforderungen an die IT (VAIT) und besagen, dass die Verantwortung des Handelns immer bei der Geschäftsführung liegt und dass Maßnahmen angemessen, risikoorientiert und proportional sein sollen.

Nur weil eine Versicherung mit KI einen Algorithmus einsetzt, den man oft nicht in allen Details versteht und dessen Entscheidungen man nicht in Gänze nachvollziehen kann, kann sich dieser nicht aus der Verantwortung für dessen Entscheidungen ziehen.

Die Prinzipien geben eine Vielzahl praxisnaher Hinweise, welche Maßnahmen der Aufsicht beim Einsatz von KI angemessen erscheinen. So legt die Aufsicht besonderen Wert auf ausreichende Trainingsdaten für die KI, intensives und regelmäßiges Testen, menschliche Eingriffsmöglichkeiten und auf einen Plan, wie man im Bedarfsfall die KI abschalten und trotzdem den Geschäftsbetrieb aufrechterhalten kann.

Fazit

KI ist eine spannende Technologie mit vielen Einsatzmöglichkeiten im Versicherungsumfeld. Sie bietet Möglichkeiten der Arbeitserleichterung, Optimierung und Vereinfachung. So könnten Menschen rein anspruchsvolle und kreative Arbeit leisten, während die KI unterstützt und Routinearbeiten übernimmt. Hier sollten Versicherungen Erfahrungen sammeln.

Allerdings ist das regulatorische Umfeld derzeit noch recht volatil, die Technik eilt der Regulatorik voraus und wird vielfach bereits genutzt. Versicherer sollten deshalb den Einsatz erproben, aber immer einen Plan B haben, um das Geschäft zur Zufriedenheit des Kunden weiterführen zu können, wenn die KI ungeplant neu trainiert oder sogar ganz abgeschaltet werden muss.

Zum Autor

Christian Nölke ist Principal Consultant bei adesso SE. Er leitet seit vielen Jahren regulatorische Projekte bei Banken und Versicherungen, und berät die Unternehmen bei der Konzeption und Umsetzung solcher Projekte. Daneben ist er Autor mehrerer Fachartikel zu Banken- und Versicherungsregulatorik sowie zum Datenschutz.