„Deep Fakes“: Die dunkle Seite der Künstlichen Intelligenz

Was für Film- und Unterhaltungsindustrie kreatives Potenzial mit sich bringt, führt in anderen Bereichen zu völlig neuen Risiken: Denn „Deep Fakes“ können das Konzept der Realität systematisch aushebeln und zur Desinformation und gezielten Manipulation der öffentlichen Meinung eingesetzt werden. Dr. Heinz-Werner Rapp, Gründer und Leiter des FERI Cognitive Finance Institute, sagt:

Die ‚Deep Fake‘-Technologie verfügt in unserer multimedial vernetzten Welt über enormes destruktives Potential und hat speziell in liberalen Demokratien eine gefährliche politische und gesellschaftliche Dimension, die nicht unterschätzt werden darf.

Die Hintergründe und Gefahren medialer Manipulation durch Techniken der Künstlichen Intelligenz beschreibt das aktuelle Cognitive Briefing des FERI Cognitive Finance Institute „Herausforderung ‚Deep Fake‘ – Wie digitale Fälschungen die Realität zerstören“.

Absichtliche Verfälschung der Realität

Die Verständigung darüber, was „real“ ist, setze voraus, dass es objektive Belege gebe, mit deren Hilfe sich Informationen zweifelsfrei identifizieren und verifizieren ließen, heißt es in der Analyse. Dabei spiele das Kriterium der Sichtbarkeit eine besondere Rolle: Als „wahr“ gelte, was mit den eigenen Augen gesehen werde. „Deep Fakes“ missbrauchten diese „visuelle Kredibilität“, indem sie eine eigene, täuschend echt wirkende „virtuelle Realität“ schafften, die als authentisch wahrgenommen und weiterverbreitet würde. Rapp sagt:

Beispiele dafür sind etwa Videoaufnahmen von Politikern oder prominenten Persönlichkeiten, deren Äußerungen und Mimik digital so umgestaltet werden, dass der ursprüngliche Sinn der Botschaften entstellt oder sogar ins Gegenteil verkehrt wird. Damit ist der absichtlichen Täuschung Tür und Tor geöffnet.

Da „Deep Fakes“ aufgrund ihrer technisch hohen Qualität für den normalen Betrachter kaum erkennbar und digitale Fälschungen oft selbst mit modernsten Mitteln nicht mehr nachweisbar seien, würde das Vertrauen in die Legitimität und Authentizität von visuellen Informationen unterminiert. Damit wirkten „Deep Fakes“ in zwei Richtungen: Gefälschte Aufnahmen könnten für echt gehalten und – womöglich noch gefährlicher – echte Aufnahmen für gefälscht gehalten werden. Rapp warnt, dass Politik und Wirtschaft, kritische Medien, gesellschaftliche Gruppen, ebenso wie die breite Öffentlichkeit auf diese Weise gezielt diskreditiert, manipuliert und ‚gelenkt‘ werden können.

Erhöhte Wachsamkeit gefordert

Aufgrund rapider Fortschritte speziell im Bereich der KI werde das Potential von „Deep Fakes“ rapide zunehmen und schon in naher Zukunft eine völlig neue Dimension digitaler Datenmanipulation hervorbringen. Ein weiterer Beschleunigungsfaktor sei die hohe Durchdringung moderner Gesellschaften mit digitalen „sozialen Medien“, was speziell Videos eine enorme – meist sogar globale – Verbreitung ermögliche. Die Verknüpfung von politischer Skrupellosigkeit, manipulierten Bildern und massiver Reichweite sozialer Medien schaffe dann den perfekten Nährboden für ein chaotisches System alternativer Realitäten, die parallel und gleichrangig zur „wahren“ Realität existieren könnten. Rapp warnt:

Darin liegt eine sehr ernste Herausforderung, die in Zukunft nicht nur Nachrichtenredaktionen und Anlegern an den Kapitalmärkten schlaflose Nächte bereiten wird, sondern auch die Arbeit von Regierungen oder den Zusammenhalt ganzer Gesellschaften gefährden kann.

Erhöhte Transparenz zum Phänomen der „Deep Fakes“ sowie ein gezieltes Problemverständnis auf der Ebene von Politik und Öffentlichkeit seien daher dringend geboten.