🧪 Diese Plattform befindet sich in der Beta-Phase. Funktionen können sich ändern und es können Fehler auftreten. Danke für dein Feedback!
deepfake_manipulation
Deepfake-Manipulation umfasst die Verwendung von KI-generierten oder KI-veränderten Audio-, Video- oder Bilddateien, um realistische, aber falsche Darstellungen realer Personen zu fabrizieren, die Dinge sagen oder tun, die sie nie wirklich gesagt oder getan haben. Moderne Deepfake-Technologie kann immer überzeugendere Fälschungen produzieren, die ohne Spezialwerkzeuge schwer zu erkennen sind. Über die direkte Täuschung hinaus schafft die bloße Existenz von Deepfake-Technologie eine 'Dividende des Lügners' (Liar's Dividend) – Menschen können jetzt echte, belastende Beweise als potenziell gefälscht abtun.
Tage vor einer Wahl taucht ein realistisches Video auf, das einen Kandidaten scheinbar bei der Annahme von Bestechungsgeldern in einem Hotelzimmer zeigt. Das Video enthält die Stimme und die Manierismen des Kandidaten sowie eine Umgebung, die einem Hotel entspricht, das er bekanntermaßen besucht hat. Bis die forensische Analyse bestätigt, dass es sich um einen Deepfake handelt, haben Millionen es gesehen und die vorzeitige Stimmabgabe hat bereits begonnen.
In einer Unternehmensgruppe auf WhatsApp kursiert eine Audiodatei, die angeblich den CEO zeigt, wie er interne Entlassungspläne bespricht. Die Stimme klingt täuschend echt, doch das Gespräch wurde vollständig von einer KI generiert. Bis die IT-Abteilung die Fälschung nachweist, haben bereits Dutzende Mitarbeiter gekündigt.
Auf Instagram erscheint ein kurzes Video, das eine bekannte Ernährungswissenschaftlerin dabei zeigt, wie sie ein bestimmtes Nahrungsergänzungsmittel als 'wissenschaftlich bewiesen' empfiehlt. Sie hat das Produkt nie erwähnt – Gesicht, Stimme und Lippenbewegungen wurden per KI auf eine fremde Aufnahme übertragen. Das Produkt verkauft sich innerhalb eines Tages tausendfach.
Binäre (Ja/Nein) Fragen, die ein LLM beantworten muss, um diesen Aspekt zu identifizieren:
Stellen die Medieninhalte eine Person des öffentlichen Lebens dar, die etwas Untypisches sagt oder tut?
Typ: binaryStammen die Medieninhalte aus ungeprüften oder anonymen Quellen?
Typ: binaryGibt es visuelle oder auditive Artefakte, die auf eine synthetische Generierung hindeuten?
Typ: binaryDeepfake-Manipulation umfasst die Verwendung von KI-generierten oder KI-veränderten Audio-, Video- oder Bilddateien, um realistische, aber falsche Darstellungen realer Personen zu fabrizieren, die Dinge sagen oder tun, die sie nie wirklich gesagt oder getan haben. Moderne Deepfake-Technologie kann immer überzeugendere Fälschungen produzieren, die ohne Spezialwerkzeuge schwer zu erkennen sind. Über die direkte Täuschung hinaus schafft die bloße Existenz von Deepfake-Technologie eine 'Dividende des Lügners' (Liar's Dividend) – Menschen können jetzt echte, belastende Beweise als potenziell gefälscht abtun.
Menschen haben sich dahingehend entwickelt, ihren Sinnen zu vertrauen – 'Sehen heißt Glauben' ist tief verwurzelt. Videobeweise galten historisch als sehr zuverlässig, und den meisten Menschen fehlen die Werkzeuge oder das Fachwissen, um echtes Bildmaterial von synthetischen Medien zu unterscheiden. Die emotionale Wirkung, etwas zu sehen, ist weitaus stärker als das Lesen einer anschließenden Richtigstellung.
Vor dem Teilen überprüfen: Überprüfe die Quelle, suche nach Bestätigung durch die abgebildete Person oder glaubwürdige Journalisten und warte auf eine forensische Analyse. Sei skeptisch bei explosivem Videomaterial, das aus anonymen Quellen in der Nähe wichtiger Ereignisse auftaucht. Unterstütze die Bildung im Bereich Medienkompetenz und die Entwicklung von Erkennungstools.
Entwickelt sich zu einer großen Bedrohung für Wahlen weltweit. Wird bereits bei Finanzbetrug (gefälschte Videoanrufe von CEOs zur Autorisierung von Überweisungen), Rache-Inhalten und politischer Desinformation eingesetzt. Mehrere dokumentierte Fälle bei Wahlen in Südkorea, Indien, den USA und Europa. Die Technologie wird immer billiger und zugänglicher.
Nutze diese Tools, um diesen Aspekt zu erkennen, zu analysieren oder zu trainieren.