Hinweisgeberfälle: KI soll sensible Daten automatisch erkennen

Hinweise auf mögliche Missstände können Unternehmen vor eine doppelte Aufgabe stellen. Einerseits müssen die notwendigen Informationen für die Untersuchung eines Falls verfügbar bleiben. Andererseits sollen personenbezogene Daten nicht unnötig verarbeitet oder länger als erforderlich gespeichert werden.
Gerade bei größeren Fallzahlen kann daraus erheblicher manueller Aufwand entstehen. Fallakten müssen geprüft und personenbezogene Informationen gegebenenfalls geschwärzt werden.
Der Compliance-Softwareanbieter NAVEX will diesen Prozess nun mit Künstlicher Intelligenz unterstützen. Seine Whistleblowing- und Fallmanagementlösung WhistleB erhält eine Funktion, die sensible personenbezogene Daten in Fallakten automatisch erkennen und zur Schwärzung identifizieren soll.

KI sucht – der Mensch entscheidet

Bemerkenswert ist dabei die vorgesehene Arbeitsteilung. Die KI soll mögliche sensible Informationen erkennen, die endgültige Entscheidung über eine Schwärzung bleibt jedoch bei den zuständigen Untersuchenden.
Nutzer sollen zwischen einem verbesserten manuellen Schwärzungsprozess und optionaler KI-Unterstützung wählen können. Die Software identifiziert dabei Informationen, die möglicherweise entfernt werden sollten. Erst anschließend entscheidet der Bearbeiter über die tatsächliche Schwärzung.
Damit folgt die Anwendung einem Human-in-the-loop-Prinzip: KI übernimmt die Suche und Vorarbeit, eine möglicherweise folgenreiche Entscheidung bleibt menschlicher Kontrolle unterworfen.

Warum Schwärzungen Arbeit verursachen

Bislang müssen entsprechende Fallakten nach Angaben von NAVEX vielfach manuell überprüft werden. Das kostet nicht nur Zeit. Bei umfangreichen Dokumentationen besteht zudem das Risiko, dass einzelne sensible Informationen übersehen werden.
Die KI-Unterstützung soll deshalb zwei Ziele miteinander verbinden: den manuellen Aufwand reduzieren und personenbezogene Daten einheitlicher identifizieren. Erena Langley, Director of Regulatory Solutions bei NAVEX, ordnet die Funktion in die europäischen Datenschutz- und Hinweisgeberanforderungen ein. Sie soll Organisationen insbesondere dabei unterstützen, ihre Prozesse beim Umgang mit personenbezogenen Informationen konsistenter zu gestalten.

Auch für größere Vermittlerunternehmen relevant

Das Thema betrifft nicht ausschließlich Großkonzerne. Das Hinweisgeberschutzgesetz verpflichtet Unternehmen grundsätzlich ab einer bestimmten Beschäftigtenzahl zur Einrichtung interner Meldestellen; für Unternehmen der Finanz- und Versicherungsbranche gelten teilweise besondere Vorgaben unabhängig von der Beschäftigtenzahl.
Für größere Maklerhäuser, Pools und Vertriebe kann deshalb nicht nur die Einrichtung eines Hinweisgebersystems relevant sein. Mit zunehmender Zahl dokumentierter Vorgänge stellt sich auch die praktische Frage, wie lange welche personenbezogenen Daten benötigt werden und wie sensible Informationen anschließend zuverlässig entfernt werden können.

Automatisierung erreicht die Compliance-Prozesse

Die Schwärzungsfunktion ist nach Angaben von NAVEX erst der Anfang. Das Unternehmen plant weitere KI-Anwendungen für Analysen, Berichterstattung, Untersuchungen und andere Compliance-Prozesse. Bei WhistleB handelt es sich um die erste angekündigte KI-gestützte Funktion dieser Art.
Gerade die Schwärzung zeigt dabei einen möglichen Einsatzbereich für KI jenseits vollständig autonomer Entscheidungen. Statt einen Compliance-Vorgang selbst zu bewerten, durchsucht das System umfangreiche Informationen und markiert Stellen, die menschliche Aufmerksamkeit benötigen.
Damit automatisiert KI nicht zwangsläufig die Entscheidung – sondern zunächst die Suche nach den Stellen, an denen entschieden werden muss.