Google sagt Deepfakes den Kampf an – neues Werkzeug für Journalisten

Ein neues Werkzeug soll Journalisten im Kampf gegen Fake-Fotos und Deepfakes beistehen.

Ein neues Werkzeug soll Journalisten im Kampf gegen Fake-Fotos und Deepfakes beistehen.

Deepfakes sind ein heißes Thema im amerikanischen Wahlkampf: Twitter, Facebook, Reddit und YouTube wollen die manipulierten Videos aus dem Wahlkampf verbannen oder ihre Verbreitung stark einschränken.

Die Google-Schwester Jigsaw stellt mit „Assembler“ nun ein neues, KI-gestütztes Werkzeug vor, das Deepfakes und andere manipulierte Bilder erkennen soll. Assembler soll jedoch keine sozialen Netzwerke verwalten – es richtet sich gezielt an Journalisten. Die sollen mit Assembler manipulierte Bilder zuverlässig und schnell identifizieren.

Assembler ist bereits im Einsatz

Aktuell wird Assembler von einer Gruppe ausgewählter Publikationen getestet, darunter Animal Politico in Mexiko, Rappler in den Philippinen und der französischen Agence France-Presse. Eine frei zugängliche Version ist aktuell nicht geplant, berichtet die New York Times.

Jigsaw setzt für Assembler auf aktuell sieben Detektoren, die alle auf bestimmte Manipulationstechniken spezialisiert sind. Assembler kann so etwa Anomalien in Farbmustern, Mehrfachkopien in bestimmten Bildbereichen, mehrere beteiligte Kameramodelle und Hinweise auf Deepfakes erkennen.

Für das KI-Training von Assembler hat Jigsaw nach Schwachstellen in bereits genutzten Detektoren Ausschau gehalten und diese mit gezielt erstellten Trainingsdaten verbessert. Als Beispiele nennt Jigsaw etwa stark verkleinerte Bilder, geänderte Bildformate oder Screenshots von manipulierten Bildern. Damit würden häufig Manipulationen verschleiert.

Aufklärung und Technik

Assembler erkenne zwar nicht jedes manipulierte Bild , sei aber bereits jetzt ein starkes Werkzeug im Kampf gegen Desinformationen, sagt Luise Verdoliva, beteiligte Forscherin der Universität Neapel.

Zu diesem Kampf gehöre auch die Aufklärung über Fake-Bilder und Fake-News, meint Jigsaw und veröffentlicht eine interaktive Webseite, die über bekannte Desinformations-Kampagnen aufklärt.

In Zukunft will Jigsaw Assembler als Plattform weiter ausbauen und so gegen neue Fälschungsmethoden wappnen.

Titelbild: Jigsaw, Quelle: Jigsaw

Weiterlesen über Deepfakes:

steady2