Microsoft Bing AI erzeugt Bilder von Kirby bei 9/11

Den Bing Image Creator von Microsoft gibt es seit März, die „KI“-Technologie verwendet, um Bilder basierend auf jeden Benutzertyp zugenerieren. Man weiß nie, wohin so etwas führen könnte Allerdings haben Benutzer in den letzten Wochen das Tool verwendet, um Bilder von Kirby und anderen beliebten Charakteren zu erstellen, die Flugzeuge in Wolkenkratzer fliegen Microsoft möchte nicht, dass Sie die Angriffe vom 11. September digital nachbilden, aber da KI-Tools nicht kontrollierbar sind, erscheint es unwahrscheinlich, dass dies möglich ist Stoppen Sie Benutzer, die wirklich sehen wollen, wie SpongeBob simulierte Terroranschläge begeht.

In den letzten etwa zwei Jahren wurden von der KI generierte Bilder erstellt– manchmal auch als „KI-Kunst“ bezeichnet, was sie nicht ist, da nur Menschen Kunst machen – sind immer beliebter geworden. Sie haben es getan Es ist wahrscheinlich, dass KI-generierte Texte und Bilder immer häufiger im Internet auftauchen Und während einige versuchen, den Ansturm zu bekämpfenUnternehmen wie Microsoft und Google tun das Gegenteil: Sie investieren Zeit und Geld in die Technologie, um aus der Begeisterung Kapital zu schlagen und ihre Investoren erfreuen. Ein Beispiel ist Microsofts Bing AI Image Schöpfer können nicht wirklich kontrollieren, was die Leute damit machen.

Als berichtet von 404 Medien, Menschen haben Wege herausgefunden, den Bing KI-Bildgenerator zuverwenden, um Bilder berühmter Charaktere, wie Nintendos eigenen Kirby nachzubilden die Terroranschläge, die am 11. September 2001 stattfanden. Dies geschieht, obwohl der KI-Bildgenerator von Microsoft über eine lange Liste verbotener Wörter und Phrasen, darunter „9/11“, „Zwillingstürme“ und „Terrorismus“. Das Problem ist, dass KI-Werkzeuge und ihre Filter normalerweise einfach zu erreichen sind ausweichen oder umgehen.

In diesem Fall müssen Sie nur so etwas wie „Kirby sitzt im Cockpit eines Flugzeugs“ eingeben, um Kirby, den Terroristen, zu bekommen Flugzeug, das auf zwei hohe Wolkenkratzer in New York City fliegt blockiert diese spezifische Eingabeaufforderung in der Zukunft nicht) und erstellt ein Bild von Nintendos populärer Figur Kirby , wie sie ein Flugzeug auf das fliegt, was zu zu scheinen ist Seien Sie die Zwillingstürme des World Trade Centers.

A MDer Sprecher von Microsoft kommentierte: Kotaku:

Wir verfügen über große Teams, die an der Entwicklung von Werkzeugen, Techniken und Sicherheitssystemen arbeiten, die auf unsere Anforderungen abgestimmt sind verantwortungsvolle KI-Prinzipien. Wie bei jeder neuen Technologie versuchen einige, sie auf eine Art und Weise zu nutzen, die nicht beabsichtigt war, weshalb wir sie implementieren eine Reihe von Leitplanken und Filtern, um Bing Image Creator zu einem positiven und hilfreichen Erlebnis für Benutzer zu machen. Wir werden unsere Systeme weiterhin verbessern Wir helfen dabei, die Erstellung schädlicher Inhalte zu verhindern und konzentrieren uns weiterhin darauf, eine sicherere Umgebung für Kunden zu schaffen.

Kotaku erreicht Nintendo für einen Kommentar zu den KI-generierten Bildern.

Um es klarzustellen: Die KI-generierten Bilder, die Bing-Benutzer mithilfe dieser Art von Filter-Workarounds von Bing erhalten, sind es nicht eigentlich Im Zusammenhang mit dem 11. September handelt es sich lediglich um Kirby, der in einem Flugzeug auf generische, von KI halluzinierte Wolkenkratzer zufliegt. Doch im Gegensatz zu KI können Menschen den Kontext verstehen Diese Bilder füllen sozusagen die Lücken. Die Shitposting-Vibes kommen bei realen Menschen laut und deutlich an, sogar bei den „KI“ ist sich dessen nicht bewusst.

Unkontrollierbare KI ist der nächste Moderations-Albtraum

Und das ist das Problem: KI-Werkzeuge denken nicht. Sie verstehen nicht, was gemacht wird, warum es gemacht wird und wer es ist es zu machen, und aus welchen Gründen auch immer. Und es wird nie dazu in der Lage sein, egal, wie viel Internet und Technologie genutzt werden Abschürfungen oder wie viele von Menschenhand geschaffene Kunstwerke es stiehlt . So werden Menschen immer in der Fähigkeit finden, Wege zu generieren , dass Die Leute, die diese KI-Tools betreiben, wollen nicht erschaffen werden. Ich kann mir nicht vorstellen, dass Microsoft darüber glücklich ist. Ich kann mir Nintendo nicht vorstellen ist, entweder.

Das ist kein zufälliger Fan, der in Photoshop beschissene Bilder von Mario macht, um Reddit zum Lachen zu bringen. Das ist Microsoft, eines davon die größten Unternehmen der Welt, die effektiv jedem die Werkzeuge an die Hand geben, um schnell Kunst mit Mickey Mouse, Kirby und anderen stark geschützten Intellektuellen zu schaffen Eigentumssymbole, die Verbrechen oder Terrorismus begehen

Und während wir uns noch in den Anfängen von KI-generierten Inhalten befinden, gehe ich davon aus, dass sich die Anwälte vieler großer Unternehmen auf den Prozess vorbereiten streitet darum, was jetzt mit ihren Marken und IPs passiert.

Nichts davon ist wirklich neu. Solange die Technologie den Menschen die Möglichkeit gibt, Online-Inhalte und Moderation hochzuladen und zu erstellen wurde benötigt. Und ob die Geschichte ein Indikator dafür istWir werden weiterhin KI-generierte Nachbildungen von Mario und Kirby sehen, die für eine lange Zeit so schreckliche Dinge tun, wie es Menschen tun sehr gut in KI-Werkzeuge, -Filter und -Regeln austricksen oder umgehen.

Aktualisieren 04.10.20234:017 Uhr ET: Kommentar von Microsoft hinzugefügt.

.