Es sind die Nachrichten, die in geradezu hektischem Tempo unsere theoretischen Zweifel darüber beantworten, welche und wie viele Einsatzgebiete generative künstliche Intelligenz haben kann.
Und vor allem sind es die Nachrichten, die indirekt die Frage beantworten: Ist KI gut oder schlecht? Und gerade die Diskrepanz in den Antworten zeigt, dass es, wie bei jedem Werkzeug, auf den Einsatz ankommt.
Wir haben kürzlich gelesen, wie ChatGPT in der Lage war, eine genaue medizinische Diagnose zu stellen, obwohl 17 Ärzte versagt hatten.
Aber es gibt auch die Kehrseite der Medaille. Wenn wir uns auf generative KI konzentrieren, die Bilder produziert, betreten wir gefährliches Terrain: das von Deepfake. Einige spanische Studenten wissen das gut, da sie gesehen haben, wie ihre von künstlicher Intelligenz manipulierten Bilder online veröffentlicht wurden.
Finden wir heraus, was passiert ist.
Deepfake: Fotos spanischer Studenten online
Es geschah in Almendralejo, einer Stadt mit 30.000 Einwohnern im Südwesten Spaniens. Eine Gruppe sehr kleiner Jungen im Alter zwischen 12 und 14 Jahren steht im Verdacht, den Deepfake gegen etwa zwanzig Schüler im Alter zwischen 11 und 17 Jahren eingesetzt zu habendie drei Schulen in der Stadt besuchen.
Ausgehend von Fotos der Mädchen und deren Manipulation mit künstlicher Intelligenz erstellten die jungen Angeklagten realistische Aktfotos. Was sie dann über WhatsApp und Telegram an ihre Kontakte weitergeben.
Der Fall geriet international in die Schlagzeilen, weil ein Gynäkologe aus Almendralejo, der Zehntausende Follower auf Instagram und TikTok hat, die Geschichte in einem Video erzählte.
Die Ermittlungen
Das Deepfake-Material gegen spanische Studenten hat natürlich in kurzer Zeit eine große Anzahl junger Menschen erreicht und gelangte auch in die Ohren und Hände der angegriffenen jungen Menschen selbst. Wer hat den Eltern erzählt, was passiert ist, wer hat sofort Anzeige erstattet?
Die Verdächtigen, sagten wir, seien sehr jung. Aber Unter ihnen könnten diejenigen, die das 14. Lebensjahr erreicht haben (selbst in Spanien das Mindestalter, um zurechenbar zu sein), ebenfalls Gefahr laufen, wegen der Verbreitung von kinderpornografischem Material strafrechtlich verfolgt zu werden.
An den Ermittlungen sind zehn Studierende beteiligt: Drei von ihnen hätten die manipulierten Bilder produziert, die anderen sieben hätten sie lediglich verbreitet.
Es ist nicht bekannt, ob die Deepfake-Fotos der spanischen Studenten nicht nur im Chat verbreitet wurden, sondern auch online veröffentlicht wurden. Wir wissen sicherlich, dass es äußerst kompliziert ist, Inhalte, die einmal online kursieren, vollständig zu entfernen.
Unterdessen untersuchen die Ermittler auch einen weiteren Aspekt der Angelegenheit. Eines der Mädchen soll nach einem Erpressungsversuch von der Verbreitung der Fotos erfahren haben: Jemand soll sie um Geld gebeten haben, damit sie ihre KI-manipulierten Bilder nicht im Internet veröffentlicht.
Vorherige
Der Deepfake gegen spanische Studenten ist nur der jüngste Fall von Bildmanipulation, der einige Resonanz gefunden hat.
Lassen wir mal die Schlagzeilen von vor einiger Zeit beiseite, für die wir uns vorstellen konnten, dass Trump im Gefängnis sitzt oder Papst Franziskus eine trendige Daunenjacke trägt.
Es gab auch weitaus weniger harmlose Operationen. Wie der Fall, bei dem Scarlett Johansson und Emma Watson, ähnlich wie in Almendralejo, unwissende Opfer waren. Und schon damals, im vergangenen März, fragten wir uns, ob das nicht die ersten Anzeichen möglicher digitaler Gewalt seien.
Dann gibt es noch den jüngsten Alarm, über den wir in einem Artikel des FBI berichtet haben. Das Phänomen der sogenannten „Sextortion“, der sexuellen Erpressung, wächst, was – wie wir geschrieben haben – genau das ist, was einem der Studenten der spanischen Stadt widerfahren ist. Mit Deepfakes werden Nacktbilder oder Videos erstellt und es wird Geld verlangt, wenn das Material nicht online veröffentlicht wird.
Wie kann man sich verteidigen?
Trotz der Ausbreitung des Phänomens und seiner Schwere scheint es unwahrscheinlich, dass eine zensierende Haltung eingenommen wird: Es ist notwendig Aufklärung über den korrekten und respektvollen Umgang mit dem Internet, eine Alphabetisierung, die nicht nur technischer, sondern auch ethischer Natur ist. Dies sollte in allen sozialen und demografischen Segmenten der Bevölkerung umgesetzt werden. Und dies wäre der unverzichtbare Schutz für potenzielle Deepfake-Spreader.