Die Plattform von Generative KI Midjourney hat kürzlich verboten ein Benutzer, der gespawnt hat Bilder von Politikern, die ihre Partner betrügenR. Der amerikanische Präsident Joe Bidendie ehemaligen Präsidenten Barack Obama und Donald Trumpzusätzlich zum Präsidentschaftskandidaten Ron DeSantis, Sie erschienen dabei, wie sie eine Person in einem Motelzimmer küssten. Alle gefälschten Bilder, die von der KI generiert wurden, bevor der Benutzer von der Plattform verbannt wurde.
Midjourney verbietet einem Nutzer Bilder von Politikern, die Ehepartner betrügen
Generative KI birgt das Risiko, die Erstellung gefälschter Nachrichten zu vereinfachen: Wenn man früher wissen musste, wie man Fotobearbeitungssoftware verwendet, um gefälschte, kompromittierende Bilder zu erstellen, fragen Sie jetzt einfach nach künstlicher Intelligenz.
Ein Benutzer hat es tatsächlich kürzlich getan nutzten Midjourney, um falsche Bilder von Politikern zu erzeugen, die ihre Ehepartner betrügen, mit der Absicht, das Problem der hervorzuhebenzu Desinformation, die durch künstliche Intelligenz erzeugt wird. Diese Person war es jedoch aus Midjourney verbannt.
Mit KI erstellte Bilder von Justin Brown
Der Schöpfer der Bilder, Justin Brown, ein Videoeditor, geschrieben über Twitter dass er von Midjourney AI ausgeschlossen wurde, weil er für eine Serie mit dem Titel „KI wird die Erpressungsindustrie revolutionieren“ realistische Bilder von Politikern erstellte, die ihre Frauen betrügen.
Plattformverbot
Mit dieser Aktion wollte Brown demonstrieren, wie einfach es ist, Fake News zu verbreiten, aber auch eine Person mit falschen Bildern zu erpressen. Doch Midjourney bezog eine klare Haltung und ergriff proaktive Maßnahmen, indem er sein Konto sperrte. Etwas besonders Interessantes, insbesondere im Hinblick auf die US-Präsidentschaftswahlen 2024.
In den von Brown auf „Midjourney“ erstellten Fälschungen gibt es tatsächlich mehrere politische Persönlichkeiten, darunter einige Kandidaten für die Präsidentschaftswahl 2024, wie etwa den aktuellen Präsidenten Joe Bidender ehemalige Präsident Donald Trumpder ehemalige Gouverneur von New Jersey Chris Christie und der Gouverneur von Florida Ron DeSantis.
Mit KI erstellte Bilder von Justin Brown
Obwohl die Bilder einer sorgfältigen Analyse nicht standhalten konnten (unnatürliche Positionen, Konturen der Figuren nicht perfekt), sie könnten dazu führen, dass ein Kandidat diskreditiert wird bevor eine glaubwürdige Ablehnung eintrifft. Etwas Gefährliches für die amerikanische Demokratie – und für alle anderen auch.
Das Verbot kommt, aber die Bilder sind online
Wichtig Midjourney verbannte Brown erst danach die Veröffentlichung von Bilder auf Reddit und Twitter. Aus Skrupelgründen haben wir das Wort „Fake“ in Rot hinzugefügt, aber es scheint klar, dass die Bilder mit ein paar Änderungen bereits online kursieren könnten. Das Verbot verhindert, dass dasselbe Konto mehrmals Bilder generiert, verhindert jedoch nicht die Verbreitung bereits erstellter Bilder.
„Die Serie wurde auf Reddit bekannt, wurde aber von den Moderatoren entfernt und von Midjourney gesperrt“, sagte Brown gegenüber PetaPixel. „Ich bin in der Vergangenheit schon auf Sperrvermerke wegen beleidigender Worte oder kontroverser Figuren gestoßen, aber ich wurde noch nie gesperrt.“
Obwohl es gut ist, dass Midjourney Maßnahmen gegen KI-generierte Bilder ergreift, sind strengere Kontrollen erforderlich, um die Generierung potenziell schädlicher Bilder zu verhindern. Gefälschte Bilder und Gerüchte stellen dar eine wachsende Bedrohung für den demokratischen Prozess.
Eine gesunde Skepsis auf Seiten von uns Nutzern bleibt wichtig, aber vielleicht bedarf es klarer Regeln, um zu verhindern, dass falsche Bilder für die nächsten Wahlen irreführend werden – nicht nur in Amerika.