„Deepfake“-Gesichter vertrauenswürdiger als echte

Tom Wannenmacher, 15. Februar 2022

Untersuchung der Lancaster University untermauert große Gefahr durch KI-generierte Konterfeis

Viele Menschen fallen im wahrsten Sinne des Wortes auf Gesichter herein, die mittels Künstlicher Intelligenz (KI) erstellt wurden. Nicht nur können sie die KI-Kreationen, wie sie in sogenannten „Deepfakes“ zum Einsatz kommen, kaum von echten Gesichtern unterscheiden. Menschen finden diese auch vertrauenswürdiger. „Wir sollten uns Sorgen machen, da diese synthetischen Gesichter unglaublich effektiv für bösartige Zwecke sind, für Dinge wie Rachepornos und Betrug beispielsweise“, warnt Erstautorin Sophie Nightingale von der Lancaster University gegenüber dem „New Scientist“.

Tests mit Deepfakes

Mithilfe von KI lassen sich beliebige Gesichter in Bilder oder Videos einfügen, etwa auch das von Ex-Lovern in sogenannten Rachepornos. Nightingale und Hany Farid, Informatikprofessor an der University of California, Berkeley http://berkeley.edu , haben sich in ihrer Studie damit befasst, wie gut Menschen synthetische von echten Gesichtern unterscheiden können. „Wir haben festgestellt, dass synthetische Gesichter nicht nur sehr realistisch sind, sie werden als vertrauenswürdiger als echte Gesichter eingestuft“, erklärt Farid gegenüber „Scientific American“.
Das Team hat für die Untersuchung 400 KI-generierte Gesichter und 400 echte Fotos genutzt. Zunächst sollten 315 Probanden ohne und 219 mit Training im Erkennen von Fakes für je128 Bilder beurteilen, welche echt sind. Die Untrainierten kamen dabei auf knapp 50 Prozent Trefferquote, jene mit Training auf nur unwesentlich mehr (59 Prozent). Eine dritte Gruppe von 223 Studienteilnehmern durfte dann die Vertrauenswürdigkeit von Gesichtern auf einer siebenteiligen Skala bewerten. Mit einer durchschnittlichen Bewertung von 4,82 Punkten schnitten die KI-generierten Gesichter dabei um rund acht Prozent besser ab.

The most (Top and Upper Middle) and least (Bottom and Lower Middle) accurately classified real (R) and synthetic (S) faces.
The most (Top and Upper Middle) and least (Bottom and Lower Middle) accurately classified real (R) and synthetic (S) faces.

Täuschender Durchschnitt

Die Tatsache, dass die synthetischen Gesichter besser abschnitten, könnte Nightingale zufolge damit zusammenhängen, dass diese letztlich „durchschnittlicher“ aussehen. Denn die Menschen vertrauen alltäglicheren Gesichtern im Allgemeinen mehr. Zwischen Gesichtern verschiedener Abstammung gab es beim Test kaum Unterschiede, einzig Schwarze schnitten besser ab als Südasiaten. Insgesamt waren die drei vertrauenswürdigsten Gesichter Fakes, während die vier am schlechtesten bewerteten echt waren. Angesichts der Risiken und der Effektivität synthetischer Gesichter stellen die Autoren jedenfalls infrage, ob der potenzielle Nutzen dieser Technologie die möglichen Risiken aufwiegt. Möglicherweise gehöre die Entwicklung auf Eis gelegt.


Zur Studie „AI-synthesized faces are indistinguishable from real faces and more trustworthy“: http://pnas.org/content/119/8/e2120481119


Passend zum Thema: Erkennst du die Fälschung? (Deepfake-Videos)

Quelle: pte


Hinweis: Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell
war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur
Auseinandersetzung der Sache mit dem Thema.

  • Mit deiner Hilfe unterstützt du eine der wichtigsten unabhängigen Informationsquellen zum Thema Fake News und Verbraucherschutz im deutschsprachigen Raum. Ein unabhängiges und für jeden frei zugängliches Informationsmedium ist in Zeiten von Fake News, aber auch Message Control besonders wichtig. Wir sind seit 2011 bestrebt, allen Internetnutzern stets hochwertige Faktenchecks zu bieten.  Dies soll es auch langfristig bleiben. Dafür brauchen wir jetzt deine Unterstützung!

Mehr von Mimikama