
Seit der Verbreitung von künstlicher Intelligenz werden Deepfakes zunehmend zum Problem.
Vergangene Woche berichtete der «Tages-Anzeiger» von einem Fall in Appenzell Ausserrhoden: Ein 18-jähriger Schüler erhielt einen Videoanruf von einer unbekannten Nummer. Der Anrufer zeichnete das Gespräch auf und erstellte mithilfe künstlicher Intelligenz ein gefälschtes Video, ein sogenanntes Deepfake. Dieses Video zeigte den jungen Erwachsenen nicht, wie in Wahrheit im Gespräch, sondern beim Masturbieren. Der Täter versuchte, den 18-Jährigen mit dem Video um Geld zu erpressen. Das gelang in diesem Fall nicht.
Der Fall des Ausserrhoder Schülers zeigt, dass der Missbrauch von künstlicher Intelligenz nun auch in der Ostschweiz zum Problem wird. Im Rahmen der IT-Bildungsoffensive des Kantons St.Gallen bietet die Ostschweizer Fachhochschule (Ost) seit 2024 deshalb eine öffentliche Seminarreihe «KI für alle» an, welche unter anderem über Deepfakes aufklärt. Sonja Angehrn, Dozentin für künstliche Intelligenz an der Ost, organisiert die öffentliche Seminarreihe.

Sonja Angehrn, Dozentin für künstliche Intelligenz an der Ostschweizer Fachhochschule.
Was sind Deepfakes?
Sonja Angehrn: Deepfakes sind realistisch wirkende, aber gefälschte Bilder, Videos oder Audiodateien. Dabei sieht oder hört man Menschen Dinge sagen oder tun, die sie in Wirklichkeit nie gesagt oder getan haben.
Wie erkennt man einen Deepfake?
Früher konnte man Deepfakes oft an kleinen Fehlern erkennen, etwa an seltsamen Fingern oder verwachsenen Ohrläppchen. Die neuesten KI-Tools sind jedoch so gut, dass viele gefälschte Bilder oder Videos für uns Menschen kaum noch von echten zu unterscheiden sind. Statt sich auf skurrile Details zu verlassen, ist es heute wichtiger, einen kritischen Blick zu entwickeln. Dabei hilft es vor allem, den Ursprung eines Inhalts zu überprüfen. Bei direkter Kommunikation, etwa einem Videoanruf, kann man zur Sicherheit nach Informationen fragen, die nur die echte Person wissen kann.
Deepfakes gab es bereits vor künstlicher Intelligenz, doch mit ihr haben sie stark an Bedeutung gewonnen. Was hat sich verändert?
Früher benötigte man viel Fachwissen und Erfahrung mit Bildbearbeitungsprogrammen, um Deepfakes zu erstellen. Heute ist das dank moderner KI-Tools viel einfacher geworden. Einige Plattformen verfügen zwar über Schutzmechanismen, um missbräuchliche Inhalte wie Nacktbilder zu verhindern, diese lassen sich jedoch häufig durch gezielte Eingaben umgehen.
Wie kann man sich vor Deepfakes schützen?
Aus technischer Sicht ist ein vollständiger Schutz schwierig, da für die Erstellung eines Deepfakes oft ein einziges Foto oder eine kurze Stimmaufnahme ausreichen. Dennoch lässt sich das Risiko durch bewussten Medienumgang verringern. Man sollte sorgfältig prüfen, was man öffentlich teilt, und die Privatsphäre-Einstellungen in den sozialen Medien konsequent nutzen. Auch im persönlichen Umfeld kann man darauf achten, dass Bilder oder Videos nicht ohne Zustimmung veröffentlicht werden.
Was sollte man tun, wenn man ein Deepfake von sich entdeckt?
Man sollte zunächst dokumentieren, wo und wie das Deepfake verbreitet wurde. Erscheint es auf einer Plattform oder Website, kann man dort dessen Löschung über die Meldefunktion beantragen. Wird das Deepfake über einen Messenger verbreitet, sollte man die Personen, die es erhalten haben, bitten, das Deepfake zu löschen und nicht weiterzuleiten. Bei sexualisierten, intimen oder rufschädigenden Deepfakes ist es zudem wichtig, Anzeige bei der Polizei zu erstatten, damit diese die weitere Verbreitung verhindern kann. Auch wenn man nicht weiss, wer hinter dem Deepfake steckt, lohnt sich eine Anzeige.
Welche Möglichkeiten hätte der Kanton St.Gallen, gegen Deepfakes vorzugehen?
Ein wichtiger Punkt ist die Aufklärung. Viele Menschen, insbesondere Jugendliche, wissen nicht, dass die Erstellung von Deepfakes strafbar sein kann und welche psychischen Schäden sie bei Betroffenen anrichten können. Gleichzeitig könnten potenzielle Opfer noch besser darüber informiert werden, welche Schritte sie unternehmen können. Wichtig ist zudem, dass Betroffene niederschwellige Unterstützung erhalten, etwa durch eine Stärkung spezialisierter Beratungsstellen oder einen Ausbau der Opferhilfe in diesem Bereich. Da Deepfakes meist über Online-Plattformen verbreitet werden, sollte sich der Kanton zudem beim Bund für strengere Verpflichtungen der Plattformbetreiber einsetzen.
Gibt es auch positive Aspekte von Deepfakes?
Ja, die Deepfake-Technologie hat auch positive Anwendungen. In der Filmindustrie kann man damit beispielsweise simulieren, dass ein Schauspieler einen gefährlichen Stunt selbst ausführt, ohne dass dieser sich in Gefahr begeben muss. Auch werden Lippenbewegungen bei Synchronisationen angepasst. Im Marketing und in der Bildung kann die zugrunde liegende KI-Technologie nützlich sein, um Werbematerial oder Schulungsvideos zu erstellen.


