spatialcomputing.info

Nackt ist nackt – wer fragt da noch nach, ob Fake oder nicht?

Deepfakes sind eine beeindruckende Technologie, die sich schnell entwickelt. Doch ihre Herkunft als Pornofälscherwerkzeug ist anrüchig und setzt sich in der jüngsten Vergangenheit fort.

Meist sind es Männer, die mit der KI-Software Frauen digital entkleiden oder ihre Gesichter in einen Porno transferieren. Natürlich sieht man nicht ihren richtigen Körper nackt, klar, sie haben nie in dem Porno mitgespielt.

Doch wenn sich entsprechend gefälschte Fotos und Videos erst einmal in Messengern und sozialen Netzwerken verbreiten, wer schaut dann noch genau hin – oder fragt gar nach, wessen Körper da jetzt nackt gezeigt wird?

Viele Menschen wissen ja nicht einmal, dass man im KI-Zeitalter kein Spezialeffekte- und Bildbearbeitungsexperte mehr sein muss, um Videos und Fotos glaubhaft zu fälschen.

Den Anfängen wehren

Der Informatiker und KI-Forscher Hany Farid von der Universität Berkeley, Kalifornien, warnt jetzt, dass Deepfakes als Waffe gegen Frauen eingesetzt werden könnten.

Es sei schon jetzt erkennbar, dass sich die Technologie häufig gegen Frauen richte, so Farid, das müsse ernst genommen werden. “Da ist etwas sehr Verstörendes dran”, sagt Farid.

Das Recht zur freien Meinungsäußerung dürfe nicht zu Lasten einzelner Personen gehen. Gesetzgeber müssten Strategien entwickeln, diesen neuen Bereich zu regulieren, so Farid.

“Wir müssen weiter Druck aufbauen aus der Öffentlichkeit, der Presse, durch Werbetreibende und Drohungen mit Gesetzen und Sanktionen und hoffen, dass wir das aktuelle Chaos im Internet begrenzen können”, sagt Farid.

Jack Clark, Kommunikationschef bei OpenAI, hält speziell Deepnude für eine “gute Illustration der größeren Probleme, die mit immer mächtigeren KI-Systemen einhergehen”.

“KI-Systeme werden immer mächtiger und können auf sehr unterschiedliche Art genutzt werden”, schreibt Clark. In der Zukunft seien sie recht einfach zu programmieren und zusammenzustellen.

“Wie wir neue Normen für die Entwicklung und Veröffentlichung solcher Technologien schaffen, wird stark beeinflussen, was in der Gesellschaft geschieht”, schreibt Clark. “Und wenn wir nicht aufpassen, dann passiert sowas wie Deepnude häufiger.”

Zuletzt stellte der US-Bundesstaat Virgina mit Deepfakes erstellte Rachepornos unter Strafe. Online-Plattformen wie Github verbannten innerhalb weniger Tage die KI-Auszieh-App Deepnude von ihren Servern.

Titelbild: Deepfakes

Weiterlesen über Deepfakes:

• KI: Deepfake selbst erstellen – so geht es, so lange dauert es
• Scarlett Johansson vs. KI-Porno: “Das Internet ist ein dunkles Wurmloch”
• Alle Deepfake-Themen auf einen Blick