„Deep Fakes“: Die dunkle Seite der Künstlichen Intelligenz

Neue Technologien und digitale Medien sind aus dem täglichen Leben nicht mehr wegzudenken. Doch aus der Kombination beider Bereiche entsteht derzeit eine neuartige Bedrohung, die als „Deep Fake“ bekannt ist. Immer häufiger tauchen im Internet und den sozialen Medien extrem realistisch wirkende Fälschungen von Fotos und Videos auf, die mit Hilfe Künstlicher Intelligenz erzeugt werden.

(PDF)
Young woman face recognitionYoung woman face recognitionImageFlow – stock.adobe.com

Was für Film- und Unterhaltungsindustrie kreatives Potenzial mit sich bringt, führt in anderen Bereichen zu völlig neuen Risiken: Denn „Deep Fakes“ können das Konzept der Realität systematisch aushebeln und zur Desinformation und gezielten Manipulation der öffentlichen Meinung eingesetzt werden. Dr. Heinz-Werner Rapp, Gründer und Leiter des FERI Cognitive Finance Institute, sagt:

Die ‚Deep Fake‘-Technologie verfügt in unserer multimedial vernetzten Welt über enormes destruktives Potential und hat speziell in liberalen Demokratien eine gefährliche politische und gesellschaftliche Dimension, die nicht unterschätzt werden darf.

Die Hintergründe und Gefahren medialer Manipulation durch Techniken der Künstlichen Intelligenz beschreibt das aktuelle Cognitive Briefing des FERI Cognitive Finance Institute „Herausforderung ‚Deep Fake‘ – Wie digitale Fälschungen die Realität zerstören“.

Absichtliche Verfälschung der Realität

Die Verständigung darüber, was „real“ ist, setze voraus, dass es objektive Belege gebe, mit deren Hilfe sich Informationen zweifelsfrei identifizieren und verifizieren ließen, heißt es in der Analyse. Dabei spiele das Kriterium der Sichtbarkeit eine besondere Rolle: Als „wahr“ gelte, was mit den eigenen Augen gesehen werde. „Deep Fakes“ missbrauchten diese „visuelle Kredibilität“, indem sie eine eigene, täuschend echt wirkende „virtuelle Realität“ schafften, die als authentisch wahrgenommen und weiterverbreitet würde. Rapp sagt:

Beispiele dafür sind etwa Videoaufnahmen von Politikern oder prominenten Persönlichkeiten, deren Äußerungen und Mimik digital so umgestaltet werden, dass der ursprüngliche Sinn der Botschaften entstellt oder sogar ins Gegenteil verkehrt wird. Damit ist der absichtlichen Täuschung Tür und Tor geöffnet.

Da „Deep Fakes“ aufgrund ihrer technisch hohen Qualität für den normalen Betrachter kaum erkennbar und digitale Fälschungen oft selbst mit modernsten Mitteln nicht mehr nachweisbar seien, würde das Vertrauen in die Legitimität und Authentizität von visuellen Informationen unterminiert. Damit wirkten „Deep Fakes“ in zwei Richtungen: Gefälschte Aufnahmen könnten für echt gehalten und – womöglich noch gefährlicher – echte Aufnahmen für gefälscht gehalten werden. Rapp warnt, dass Politik und Wirtschaft, kritische Medien, gesellschaftliche Gruppen, ebenso wie die breite Öffentlichkeit auf diese Weise gezielt diskreditiert, manipuliert und ‚gelenkt‘ werden können.

Erhöhte Wachsamkeit gefordert

Aufgrund rapider Fortschritte speziell im Bereich der KI werde das Potential von „Deep Fakes“ rapide zunehmen und schon in naher Zukunft eine völlig neue Dimension digitaler Datenmanipulation hervorbringen. Ein weiterer Beschleunigungsfaktor sei die hohe Durchdringung moderner Gesellschaften mit digitalen „sozialen Medien“, was speziell Videos eine enorme – meist sogar globale – Verbreitung ermögliche. Die Verknüpfung von politischer Skrupellosigkeit, manipulierten Bildern und massiver Reichweite sozialer Medien schaffe dann den perfekten Nährboden für ein chaotisches System alternativer Realitäten, die parallel und gleichrangig zur „wahren“ Realität existieren könnten. Rapp warnt:

Darin liegt eine sehr ernste Herausforderung, die in Zukunft nicht nur Nachrichtenredaktionen und Anlegern an den Kapitalmärkten schlaflose Nächte bereiten wird, sondern auch die Arbeit von Regierungen oder den Zusammenhalt ganzer Gesellschaften gefährden kann.

Erhöhte Transparenz zum Phänomen der „Deep Fakes“ sowie ein gezieltes Problemverständnis auf der Ebene von Politik und Öffentlichkeit seien daher dringend geboten.

(PDF)

LESEN SIE AUCH

Paragraph Paragraf Zeichen - blauer Wrfel auf TastaturParagraph Paragraf Zeichen - blauer Wrfel auf TastaturFalko Müller - Riesa – fotolia.comParagraph Paragraf Zeichen - blauer Wrfel auf TastaturFalko Müller - Riesa – fotolia.com
International

Datenschutz: Unternehmen stehen weiter unter Dauerdruck

Ein aufwändiger Prüfprozess vor der Einführung jedes digitalen Tools, regelmäßig neue Entscheidungen der Aufsichtsbehörden und Gerichtsurteile in ganz Europa, die Auswirkungen auf das eigene Unternehmen haben können – die Anforderungen an den Datenschutz setzen Unternehmen in Deutschland unter Dauerdruck. Z
Digitization process from books to ebooks. from paper to digital in a laptopDigitization process from books to ebooks. from paper to digital in a laptopalphaspirit – stock.adobe.comDigitization process from books to ebooks. from paper to digital in a laptopalphaspirit – stock.adobe.com
Bildung

Studieren in der Gen Z: Neue Herausforderungen und Chancen bei der Bachelorarbeit

Die Generation der digital Natives verfügt zweifellos über neue Hilfsmittel wie KI-Tools, Online-Datenbanken und vernetzte Kommunikationsplattformen, die das Verfassen einer Bachelorarbeit erleichtern können. Diese neuen Techniken bringen aber auch einzigartige Herausforderungen mit sich.

Cloud computing concept with laptop close upCloud computing concept with laptop close upmreco – stock.adobe.comCloud computing concept with laptop close upmreco – stock.adobe.com
Management

Mit Cloud und KI die Kundenbindung verbessern

Das Vertrauen der Deutschen hat während der Pandemie stark gelitten: 43 Prozent hatten 2020 eine „eher negative Meinung“ von der Versicherungsbranche. Wie können Versicherer mittels Cloud und KI Produkte auf Kundenbedürfnisse ein nutzerzentriertes Erlebnis bieten und Vertrauen wieder aufbauen?

conceptual image of crypto currency mining.conceptual image of crypto currency mining.diy13 – stock.adobe.comconceptual image of crypto currency mining.diy13 – stock.adobe.com
Produkte

Wie riskant sind Kryptowährungen? Die Fakten 

Der Handel mit Kryptowährungen birgt Risiken. Wie die Faktenlage tatsächlich ist, das geht aus einem neuen Handelskontor-Beitrag hervor. Unter der Lupe: Bereiche Volatilität, Blasengefahr, Politik, Scams, Umwelt und Stablecoins.
Laptop-Totenschaedel-245125119-AS-m-mphotoLaptop-Totenschaedel-245125119-AS-m-mphotom.mphoto – stock.adobe.comLaptop-Totenschaedel-245125119-AS-m-mphotom.mphoto – stock.adobe.com
Management

Das werden 2022 die gefährlichsten Cyber-Bedrohungen

Sowohl Staaten als auch cyberkriminelle Gruppen werden Betrug, Hijacking und Ransomware zu ihrem Vorteil nutzen: Cyber-Angriffe werden im kommenden Jahr eine besonders große Herausforderung für Sicherheitssysteme darstellen. McAfee Enterprise und FireEye haben die gefährlichsten Cyber-Bedrohungen untersucht, mit denen Unternehmen 2022 konfrontiert werden, und die Ergebnisse in den aktuellen 2022 Threat Predictions zusammengefasst. 2021 war das perfekte Jahr für Cyber-Kriminelle: Sie machten sich ...
Der deutsche Chiphersteller Infineon überrascht mit robusten ZahlenFoto: InfineonDer deutsche Chiphersteller Infineon überrascht mit robusten ZahlenFoto: Infineon
Wirtschaft

Infineon startet optimistisch ins neue Geschäftsjahr – Jahresprognose dank Währungseffekten angehoben


Infineon legt mit seinen ersten Quartalsergebnissen für 2025 einen vielversprechenden Start in das neue Geschäftsjahr hin, der selbst in einer von Flauten geprägten Branche für Aufsehen sorgt. Der deutsche Chiphersteller überrascht mit robusten Zahlen und hebt dank positiver Währungseffekte seine Jahresprognose an.

Mehr zum Thema

Wie wird der Investitionsabzugsbetrag, kurz IAB, richtig genutzt?Firmbee / pixabayWie wird der Investitionsabzugsbetrag, kurz IAB, richtig genutzt?Firmbee / pixabay
Management

Wie Unternehmer Steuern im Voraus sparen können

Wie heißt es zum Jahreswechsel immer so schön? Neues Jahr, neues Glück. Um diesem geflügelten Wort auch Taten folgen zu lassen, gibt die Gesetzgebung Unternehmern einige praktische Hilfsmittel an die Hand, damit sich der geschäftliche Erfolg einstellt. Eines davon ist der Investitionsabzugsbetrag, kurz IAB. Wie der richtig genutzt wird, erklärt Prof. Dr. Christoph Juhn, Professor für Steuerrecht an der FOM Hochschule und geschäftsführender Partner der Kanzlei JUHN Partner im Gastbeitrag.

Dr. Georg Kraus ist geschäftsführender Gesellschafter der Unternehmensberatung Kraus & PartnerKraus & PartnerDr. Georg Kraus ist geschäftsführender Gesellschafter der Unternehmensberatung Kraus & PartnerKraus & Partner
Management

Die Team- und Zusammenarbeit neu justieren

Viele Teams in den Unternehmen stehen aktuell vor der Herausforderung, sich selbst und ihre Zusammenarbeit neu zu definieren, um ihre Leistungsfähigkeit zu bewahren. Das zeigt eine Befragung von Personalverantwortlichen durch die Unternehmensberatung Kraus & Partner.

Business interactionBusiness interactionMitarbeiter-Benefits lassen sich inzwischen in vielfältiger Weise umsetzen.Photo credit: depositphotos.comBusiness interactionMitarbeiter-Benefits lassen sich inzwischen in vielfältiger Weise umsetzen.Photo credit: depositphotos.com
Management

Mit Mitarbeiter-Benefits die Attraktivität als Arbeitgeber erhöhen

Deutschlands Mittelstand steht aktuell vor einem Dilemma. Die Auftragsbücher zahlreicher Firmen sind gut gefüllt. Doch leider fehlen Fachkräfte, um die nötigen Aufgaben zu übernehmen. Mitarbeiter-Benefits können helfen, sich als attraktiver Arbeitgeber zu positionieren. Werden sie richtig aufgebaut, können sie im Wettkampf um die besten Leute ausschlaggebend sein.

Young worker sitting in his office thinking. Business conceptYoung worker sitting in his office thinking. Business conceptRomario Ien – stock.adobe.comYoung worker sitting in his office thinking. Business conceptRomario Ien – stock.adobe.com
Management

Voll versteuert!? Drei Stolperfallen, die Unternehmen mühelos vermeiden können

Teure Materialien sowie steigende Energie- und Transportpreise führen in zahlreichen Unternehmen zu Sparmaßnahmen. Unvorhergesehene und potenziell kostspielige Steuernachzahlungen können in einer angespannten Situation den Druck auf die finanziellen Ressourcen empfindlich erhöhen. . Dabei lassen sich einige steuerliche Stolperfallen umgehen.

Office-Team-423885258-DP-HayDmitriyOffice-Team-423885258-DP-HayDmitriyOffice-Team-423885258-DP-HayDmitriy
Management

ESG-Strategien stärken den Erfolg im Mittelstand

Jährlich veröffentlicht das Zentrum für Arbeitgeberattraktivität, kurz zeag GmbH, in Zusammenarbeit mit der Universität St. Gallen eine Trendstudie zum Status quo im Mittelstand und darüber hinaus. Dieses Jahr wurden ökologische und soziale Faktoren unter Berücksichtigung geltender ESG-Kriterien untersucht: ökologische Führung und ein ausgeprägtes Diversitätsklima wirken sich positiv auf den Unternehmenserfolg aus.

Mikrofon-3926344-PB-lograstudioMikrofon-3926344-PB-lograstudiolograstudio – pixabay.comMikrofon-3926344-PB-lograstudiolograstudio – pixabay.com
Management

MICHAELIS-LIVE am 24.09.: "Haftungsmantel GmbH“ vs. deliktische Durchgriffshaftung auf den Geschäftsführer

Eine GmbH soll vor der persönlichen Haftung schützen. Dies ist auch häufig bei einer GmbH oder anderen „juristischen Personen“ der Fall. Trotzdem werden Konstellationen festgestellt, die zu einer persönlichen Haftung des Geschäftsführers führen können. Rechtsanwalt Boris Glameyer erläutert anhand ausgewählter Fallbeispiele aus der Praxis diese problematischen Konstellationen.