Innovation

Microsoft stellt Deepfake Detection Tool zur Bekämpfung von Desinformation vor

Microsoft stellt Deepfake Detection Tool zur Bekämpfung von Desinformation vor

Microsoft hat erfolgreich ein neues Tool entwickelt, mit dem Deepfakes lokalisiert werden können - ein computergestütztes Bild, das laut einem Blog-Beitrag auf der Microsoft-Website als überzeugendes Faksimile des Bilds einer realen Person verwendet wird.

Deepfakes werden jedoch von Tag zu Tag weiter fortgeschritten.

VERBINDUNG: EIN NEUER BERICHT WARNET, DASS AI UNS NICHT VOR TIEFEN RETTEN KANN

Microsoft debütierte neuartiges Deep Fake Detection Tool

Die Software von Microsoft analysiert Videos und Bilder, um eine Konfidenzbewertung hinsichtlich der Wahrscheinlichkeit künstlichen Ursprungs des Materials zu erstellen. Das Unternehmen will, dass die Technologie zur "Bekämpfung von Desinformation" beiträgt, berichtet BBC.

Ein Experte warnte jedoch davor, dass das Tool aufgrund des raschen Fortschritts der Deepfake-Technologie bald veraltet sein könnte. Um dieses Problem zu lösen, hat Microsoft außerdem die Existenz eines separaten Systems erklärt, das Inhaltsproduzenten dabei helfen soll, versteckten Code in Filmmaterial einzufügen, sodass nachfolgende Änderungen möglicherweise markiert werden.

Deepfakes mit Gesichtstausch funktionieren mit weniger Bildern

Deepfakes betraten den öffentlichen Raum Anfang 2018, als ein Entwickler modernste Techniken der künstlichen Intelligenz anpasste, um neue Software zu erstellen, die das Gesicht einer Person gegen eine andere austauscht.

Dies funktioniert durch Eingabe vieler Standbilder einer Person in Computer, einschließlich Videomaterial einer anderen Person. Mithilfe von Software konnten Benutzer dann neue Videos erstellen - indem sie das Gesicht des ersteren dort platzierten, wo es sich befand, und die Gesichtsausdrücke für die Lippensynchronisation und andere subtile menschliche Bewegungen anpassten.

Dieser Prozess wurde nach der Anfangsphase vereinfacht, um die Verfügbarkeit für mehr Benutzer zu erhöhen - und benötigt nicht so viele Bilder, um zu funktionieren. Jetzt benötigen einige Apps nur noch ein einziges Selfie, um das Gesicht eines Benutzers in Clips aus einem Hollywood-Film einzufügen.

Deepfake-Erkennungssoftware ist ein beweglicher Torpfosten

Bedenken hinsichtlich der Fähigkeit, diesen Prozess zu missbrauchen und Clips zu erstellen, die real erscheinen, aber in Wirklichkeit Illusionen sind. Stellen Sie sich Persönlichkeiten des öffentlichen Lebens vor, die dazu bestimmt sind, Dinge zu handeln oder zu sagen, die für politische oder andere Zwecke völlig von den Tatsachen vor Ort getrennt sind.

Da Computer-Supermächte wie Microsoft und Apple das Rechnen ins 21. Jahrhundert bringen, wird das Problem der Verwendung von Deepfakes zur Manipulation von Legacy-Systemen wie einem Social-Cheat-Code wahrscheinlich zu einem beweglichen Zielpfosten - für jede erfasste Fälschung werden anspruchsvollere Deepfakes kommen. Ob gut oder schlecht, es ist eine herausfordernde Zeit für Ideen über Realität und Authentizität.


Schau das Video: This AI Makes Audio Deepfakes (November 2021).