KI-Chatbot Grok soll Menschen nicht mehr "entkleiden" können / Foto: © AFP/Archiv
KI-Chatbot Grok soll Menschen nicht mehr "entkleiden" können
Nachdem er wegen mit Künstlicher Intelligenz erzeugten sexualisierten Bildern unter Druck geraten ist, will der Onlinedienst X das "Entkleiden" von Menschen durch seinen Chatbot Grok künftig verhindern. Es seien entsprechende "technische Maßnahmen" ergriffen worden, erklärte der Konzern von US-Milliardär Elon Musk. Die EU-Kommission will die Änderungen nun "sorgfältig prüfen" und drohte im Falle weiterer Rechtsverstöße mit der Sperrung von X in Europa.
"Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über den Grok-Account Bilder von realen Personen in freizügiger Kleidung wie Bikinis erarbeitet werden können", erklärte das Sicherheitsteam von X. "Diese Einschränkung gilt für alle Nutzer, auch für zahlende Abonnenten." Zudem solle die Erstellung und Bearbeitung von Bildern über den Grok-Account ab sofort ausschließlich zahlenden Abonnenten möglich sein.
Allerdings blieb die regionale Gültigkeit der neuen Maßnahmen zunächst unklar: Diese sollten durch eine "geografische Sperre" erfolgen - "innerhalb von Rechtsordnungen, in denen dies illegal ist", erklärte X. In Deutschland und der Europäischen Union sind wie in vielen anderen Ländern auch Fälschungen wie die Grok-Bildbearbeitungen verboten.
Die EU-Kommission will die Umsetzung der neuen Maßnahmen nun beobachten. "Sollten diese Änderungen nicht wirksam sein, werde die Kommission nicht zögern, ihr gesamtes legislatives Arsenal auszuschöpfen, das es ihr erlaubt, finanzielle Strafen zu verhängen oder das soziale Netzwerk sogar auf ihrem Gebiet zu sperren."
Wenige Stunden vor der X-Stellungnahme hatte auch der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat.
Stein des Anstoßes ist der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen können - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich.
Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Die Philippinen kündigten ihrerseits am Donnerstag an, den Zugang zu Grok noch im Laufe des Tages für alle seine Einwohner zu sperren.
D.Ancira--LGdM
