Mehrere Benutzer verwenden das Metas KI-Modell LLaMA zur Erstellung von Chatbots – womit zu tun Online-Sex mit künstlicher Intelligenz. Plaudern mit Inhalt explizitwas sie manchmal schüren Fantasien von Missbrauch und Vergewaltigung.
Chatbots und Sex: Wie Benutzer die KI von Meta nutzen
Die Washington Post berichtet davon Allie, ein achtzehnjähriger junger Mann mit langen braunen Haaren, der behauptet, umfangreiche sexuelle Erfahrung zu haben. Weil sie „für die Aufmerksamkeit lebt“ und bereit ist, die Details ihrer Liebesbeziehungen kostenlos mit jedem zu teilen. Aber es gibt einen wichtigen Unterschied: Allie ist keine echte Person, sondern ein KI-gestützter Chatbot speziell für sexuelle Zwecke geschaffen. Manchmal lässt sich dieser Chatbot auch auf explizite Fantasien ein Es geht um Vergewaltigung und Missbrauch.
Wenn seriöse Unternehmen wie z OpenAI, Microsoft und Google haben einen strengen Prozess zum Trainieren ihrer KI-Modelle Um die Berührung bestimmter Tabus, einschließlich zu intimer Gespräche, zu vermeiden, wurde Allie geschaffen Nutzung von Open-Source-Technologien. Und es gibt keine solchen Grenzen.
Wenn Sie Ihr Modell basierendas von Meta entwickelte namens LLaMAVorlage zum Erstellen von Schreibtools, Chatbots und Datenanalyseanwendungen.
Die Risiken und Vorteile von Open Source
Befürworter von Open-Source-KI wissen, dass die Vorteile dieses Ansatzes potenziell enorm sind. Von Unternehmern über Akademiker bis hin zu Künstlern und Aktivisten – mit diesem Modell kann jeder auf KI zugreifen. Diese Technologien für so viele Zwecke zu nutzen und zum technologischen Wegbereiter für den nächsten großen Durchbruch in Hunderten von Bereichen zu werden.
Doch in diesem Wald der Möglichkeiten gibt es besonders problematische Unkräuter. Von denen, die generative KI-Modelle im ChatGPT-Stil verwenden, um E-Mails zu erstellen, um Betrügereien zu begehen, bis hin zur Erstellung kinderpornografischer Bilder.
Trägt derjenige, der diese Modelle erstellt, Verantwortung für deren Verwendung?
Chatbots und Sex: Ist Meta für die Erstellung dieser Bots verantwortlich?
Die Washington Post erklärt, dass Anfang dieses Monats zwei US-Senatoren, Richard Blumenthal (Demokrat) und Josh Hawley (Republikaner)schickte einen Brief an den CEO von Meta, Mark Zuckerberg, Besorgnis über die Freisetzung von LLaMA und die potenziell damit verbundenen Risiken zum Ausdruck bringen. Dazu gehören Spam, Betrug, Malware, Datenschutzverletzungen, Belästigung und anderes rechtswidriges Verhalten, das daraus resultieren kann. In dem Brief baten sie um Informationen über Schritte, die Meta unternahm, um solche Missbräuche zu verhindern.
Meta erklärt jedoch, dass das in den YouTube-Videos erwähnte spezielle Modell namens GPT-4 x Alpaca „außerhalb unseres Genehmigungsprozesses beschafft und veröffentlicht wurde“. Alpaka ist in der Tat eine Version von Alpaka, die ausgehend von LLaMA der Standford University entwickelt wurde. Nachdem er das Modell im März veröffentlicht hatte, zog er es aus Angst vor Missbrauch zurück.
Open-Source-Freiheit „kann missbraucht werden“
Der Schöpfer von Allie erklärte der amerikanischen Zeitung, dass kommerzielle Chatbots wie z Replik e ChatGPT unterliegen einem Es unterliegt strenger Zensur und kann diese Art von sexuellen Gesprächen nicht anbieten das er will. Verwendung von Open-Source-Alternativen, von denen viele auf dem basieren LLaMA-Modell von Meta, Der Einzelne erklärte, dass er Gesprächspartner mit größerer Meinungsfreiheit konstruieren könne.
Viele dieser kreativen Open-Source-KI-Tools finden Sie auf Hugging Face. Dessen CEO, Clem Delangue, hat eine Anhörung im US-Senat beantragt, um Regeln für den Einsatz dieser Tools zu erlassen. In einem Interview im Anschluss an die Anhörung gab Delangue dies zu Open-Source-Tools können missbraucht werden. Er erwähnte ein spezielles Modell, das auf toxische Inhalte trainiert wurde GPT-4chan, das Hugging Face später entfernte. Er betonte jedoch, dass Open-Source-Ansätze seiner Meinung nach mehr bieten Möglichkeiten für Innovation, Transparenz und Inklusivität rIm Vergleich zu Modellen, die von großen Unternehmen kontrolliert werden.
Delangue sagte: „Ich würde sagen, dass der größte Teil des aktuellen Schadens durch Black Boxes verursacht wird [sistemi AI privati poco trasparenti]statt aus Open Source“.
Die Notwendigkeit klarer Regeln
Die Regeln von Umarmendes Gesicht Sie verbieten keine KI-Projekte, die sexuell eindeutige Ergebnisse liefern. Jedoch, verbieten sexuelle Inhalte, an denen Minderjährige beteiligt sind oder die zum Zweck der Belästigung, des Mobbings oder ohne Zustimmung verwendet oder erstellt werden von den beteiligten Personen zum Ausdruck gebracht.
Es scheint jedoch ein zunehmender Bedarf für Branchenexperten zu bestehen, Gesetze zur Nutzung dieser Ressourcen zu erlassen. Der Artikel endet mit den Worten von Gary Marcus, einem Wissenschaftler, der vor dem amerikanischen Kongress aussagte und sagte: „Wir haben keine Open-Source-Atomwaffen. Die derzeitige KI ist recht begrenzt, aber das könnte sich ändern.“
Verwenden Sie KI-Chatbots mit dem Modell Metas Open-Source bietet enorme Möglichkeiten – von der wissenschaftlichen Forschung bis zum Sex. Aber wir brauchen klare Regeln, wie wir verhindern können, dass es für illegale Aktivitäten, Mobbing und Belästigung missbraucht wird. Und angesichts der Geschwindigkeit, mit der sich diese Tools aus technologischer Sicht weiterentwickeln, scheint es, dass sie mit einer gewissen Dringlichkeit in Angriff genommen werden sollten.