KI-Begleitseite gehackt – Daten zeigen, dass Benutzer versuchten, Kindesmissbrauch zu simulieren

Ein neuer Bericht über einen Hack “KI-Freundin„Die Website behauptet, dass viele Benutzer versuchen (und möglicherweise erfolgreich sind), die Chatbot um grausamen sexuellen Missbrauch von Kindern zu simulieren.

Am 8. Oktober 404Medien berichtete, dass die Chatbot-Website Muah.ai – auf der Benutzer ihre eigenen „unzensierten“, KI-gestützten Chatbots zum Sex erstellen können – gehackt und eine große Menge an Benutzerdaten gestohlen wurde. Diese Daten enthüllen unter anderem Informationen darüber, wie Muah-Benutzer mit den Chatbots interagierten.. 404 Medien, sah die gestohlenen Daten und schreibt, dass Benutzer in vielen Fällen angeblich versucht haben, Chatbots zu erstellen, die die Rolle von Kindern spielen könnten.

„Ich habe die Site besucht, um zu wichsen (um das klar zu sagen in einem *Erwachsenenszenario*) und habe auf gemerkt, dass [Muah.ai] ziemlich schlecht zusammengebaut zu sein schien“, erklärte der Hacker 404Medien. „Im Grunde handelt es sich um eine Handvoll von Open-Source-Projekten, die mit Klebeband zusammengehalten wurden. Ich fing an herumzustöbern und fand relativ schnell einige Schwachstellen. Zu Anfang war es hauptsächlich nur Neugier aber ich beschloss Kontakt zu nehmen [404Medien] als ich sah, was in der Datenbank war.“

Laut 404MedienEinige der gehackten Daten enthalten explizite Aufforderungen und Nachrichten zum sexuellen Missbrauch von Kleinkindern. Die Verkaufsstelle berichtet, dass sie eine Aufforderung gesehen habe, in der zu einer Orgie mit „Neugeborenen“ und „kleinen Kindern“ aufgefordert wurde. 404 Medien und der Hacker konnte nicht bestätigen, ob Muah.ai tatsächlich das generiert hat, was die Benutzer erreichen wollten, aber es bietet einen düsteren Blick auf das, was viele Leute mit umstrittenen Tools zur KI-Generierung zu erreichen versuchen.

404Medien sagt, dass der Administrator von Muah.ai, der als Harvard Han bekannt ist, den Hack letzte Woche entdeckt hat. Die Person, die die KI-Chatbot-Site betreibt, behauptete auch, dass der Hack von Chatbot-Konkurrenten in der „unzensierten KI-Branche finanziert wurde. 404 Medien hat nach Beweisen für diese Behauptung gefragt und keine erhalten. Der Hacker teilte der Verkaufsstelle mit, dass er nicht in der KI-Branche arbeite.

„Wir haben ein Moderationsteam, das ALLE Chatbots mit Bezug zu Kindern in unserer Kartengalerie, auf Discord, Reddit usw. sperrt und löscht“, sagte Han. Die Kartengalerie ist die Liste der von der Community erstellten KI-Chatbots, die auf der Site verfügbar sind.

Wie hervorgehoben von 404MedienMuah.ai behauptet, eine „unzensierte“ KI-Chatbot-Plattform zu sein, auf der explizite Gespräche und Fotos erstellt werden können. Laut der Website behauptet die Seite jedoch auch, alle Inhalte für Minderjährige zu verbieten. Als zwei Personen auf dem Discord-Server der Seite über eine angeblich minderjährige KI-Figur posteten, 404Medien fordert ein Moderator den Benutzern auf, diesen Mist hier nicht „zu posten“, sondern sich gegenseitig „Direktnachrichten zu schicken oder so etwas“.

Es ist ein weiteres Beispiel dafür, wie Tools zur KI-Generierung und Chatbots lassen sich immer einfacher entwickeln und online teilen, während Gesetze und Vorschriften für diese neuen Technologien hinken weit hinterher. Es ist ein böse Kombination und eine, die wahrscheinlich nur noch schlimmer wird da Tools zur KI-Generierung einfacher, günstiger und schneller werden.

.