Deepfakes: China-Propaganda bei Facebook und Instagram
Facebook hat laut eigenen Angaben Fake-Profile bei Facebook und Instagram gelöscht, die chinesische Propaganda verbreiteten. Die Profile verwendeten zum Teil Deepfake-Porträts.
Gemeinsam mit der auf die Entlarvung von Social-Media-Propaganda spezialisierten Analysefirma Graphika hat Facebook laut eigenen Angaben zwei Netzwerke mit Fake-Accounts bei Facebook und Instagram entfernt. Eines hatte den Ursprung in China, das andere in den Philippinen.
Insgesamt entfernte Facebook 212 Fake-Accounts, die “koordiniertes, nicht authentisches Verhalten im Namen einer ausländischen oder staatlichen Stelle” gezeigt haben sollen.
Die beiden Operationen sollen sich auf geografische und geopolitische Themen konzentriert haben, von Taiwan und Hongkong bis zu den Beziehungen Chinas zu den USA, mit einem Schwerpunkt auf maritime Sicherheit im Südchinesischen Meer. Ein geringer Teil der Inhalte hatte mit den anstehenden US-Wahlen zu tun.
Propaganda mit Deepfake-Unterstützung
Das chinesische Fake-Netzwerk nutzte laut des Berichts Deepfake-Profilfotos, also Social-Media-Porträtbilder, die von Grund auf KI-generiert sind. Sie haben den Vorteil, dass es sich um Originalbilder handelt. Anders als gestohlene Fotos können sie nicht über das Internet rückverfolgt oder anderweitig wiedererkannt werden.
Auf den ersten Blick sehen KI-generierte Porträts überzeugend echt aus. Schaut man genauer hin, entdeckt man Auffälligkeiten wie eine zu akkurate Ausrichtung der Augen (rechtes Bild, hier wurden alle Augenpaare von der linken Seite übereinandergelegt). | Bild: Graphika / Facebook
Der Einsatz von KI-generierten Fake-Porträts ist laut Graphika im Laufe des letzten Jahres “explodiert”, da die Technologie online einfach verfügbar sei. Auf Webseiten wie “thispersondoesnotexist” kann man Fake-Porträts kostenlos per Knopfdruck generieren.
Die Fake-Bilder seien ein Paradoxon: “Sie verschleiern eine Reihe von möglichen
Ermittlungen, aber sie liefern einen anderen Hinweis darauf, dass das fragliche Konto gefälscht ist.” Es bleibe abzuwarten, wie sich die weitere Nutzung der Technologie entwickelt, heißt es im Bericht.
Graphika-Chefanalyst Ben Nimmo äußert sich bei Twitter: KI-generierte Porträts seien vor einem Jahr noch die Ausnahme gewesen. Jetzt fühle es sich an, als würde jede analysierte Operation KI-Fakes wenigstens einmal testen.
Quelle: Graphika
Weiterlesen über Täuschungsversuche mit Deepfakes:
- Geschichte der Deepfakes: So rasant geht es mit KI-Fakes voran
- Erfundener Redakteur tarnt sich mit Deepfake-Porträt
- Spione unterwandern Linkedin mit KI-generierten Profilbildern
- Von unechten Mitarbeitern in echten Firmen
Filed under: Deepfakes,Künstliche Intelligenz,Social,Wandel - @ 26. September 2020 10:54