Datum13.01.2026 10:36

Quellewww.zeit.de

TLDRMalaysia plant rechtliche Schritte gegen die Social-Media-Plattform X aufgrund der missbräuchlichen Nutzung des KI-Chatbots Grok, der sexualisierte Bilder generierte. Die malaysische Kommunikationsaufsichtsbehörde äußert Sicherheitsbedenken und fordert von X und dem Entwickler xAI, problematische Inhalte zu entfernen. Weltweit haben auch britische und französische Behörden Ermittlungen eingeleitet. Malaysia und Indonesien haben Grok vorübergehend gesperrt, da die Inhalte besonders Frauen und Minderjährige betreffen und gegen lokale Gesetze verstoßen.

InhaltNachdem mit Grok sexualisierte Bilder generiert wurden, will Malaysia rechtlich gegen X vorgehen. Das Unternehmen solle mehr gegen missbräuchliche Nutzung tun. Die malaysische Kommunikationsaufsichtsbehörde hat angekündigt, rechtliche Schritte gegen die Social-Media-Plattform X einzuleiten. Grund dafür sind Sicherheitsbedenken im Zusammenhang mit der KI-Anwendung Grok, die von Nutzern geäußert wurden. Der KI-Chatbot Grok hatte zuvor international für Aufruhr gesorgt, weil Nutzer damit sexualisierte Bilder generieren und verbreiten konnten. Dies führte dazu, dass Behörden weltweit Maßnahmen gegen xAI, das Unternehmen hinter Grok, ergriffen. Parallel dazu hat die britische Medienaufsicht Ermittlungen gegen X aufgenommen, während französische Behörden das Social-Media-Unternehmen sowohl bei der Staatsanwaltschaft als auch bei den zuständigen Aufsichtsstellen angezeigt haben. Bereits am Wochenende hatten Malaysia und Indonesien den KI-Dienst vorübergehend gesperrt. Nach Angaben der malaysischen Kommunikations- und Multimediakommission wurde Grok missbräuchlich zur Erstellung und Verbreitung schädlicher Inhalte genutzt, darunter obszöne, sexuell eindeutige, unanständige und grob beleidigende Beiträge sowie manipulierte Bilder ohne Zustimmung der Betroffenen. Besonders besorgniserregend seien Inhalte, die Frauen und Minderjährige betreffen, teilte die Behörde mit. Solches Verhalten verstoße gegen malaysisches Recht und stelle einen Bruch der von den Unternehmen zugesicherten Sicherheitsstandards dar, hieß es in einer Stellungnahme. Die Kommission habe X und das Unternehmen xAI – das die KI Grok entwickelt – bereits in diesem Monat aufgefordert, die problematischen Inhalte zu entfernen. Bislang habe es jedoch keine Reaktion der Unternehmen gegeben. Dieser Artikel wird weiter aktualsiert.