Datum13.01.2026 11:01

Quellewww.zeit.de

TLDRMalaysia plant rechtliche Schritte gegen Elon Musks Plattform X und das Unternehmen xAI aufgrund von vom KI-Chatbot Grok generierten sexualisierten Bildern. Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) hat Grok bereits gesperrt, da die Plattform wiederholt schädliche Inhalte ohne Einwilligung verbreitete. Malaysia und Indonesien, die Grok ebenfalls blockiert haben, weisen auf Verstöße gegen lokale Gesetze hin. X Corp und xAI könnten haftbar gemacht werden, da sie Kontrolle über den Chatbot und dessen Inhalte haben.

InhaltHier finden Sie Informationen zu dem Thema „KI-Bildergenerierung“. Lesen Sie jetzt „Grok in der Kritik: Malaysia zieht gegen X vor Gericht“. Malaysia will rechtlich gegen Elon Musks Plattform X und das Unternehmen xAI vorgehen wegen der vom KI-Chatbot Grok generierten sexualisierten Bilder. Hintergrund sind den Angaben zufolge Versäumnisse beim Schutz der Nutzerinnen und Nutzer. "Es wurden Anwälte beauftragt, und ein Gerichtsverfahren wird in Kürze eingeleitet", teilte die malaysische Kommunikations- und Multimedia-Kommission (MCMC) mit. Bereits am Sonntag hatte Malaysia den Chatbot Grok gesperrt. Begründet wurde dies mit wiederholtem Missbrauch zur Erstellung und Verbreitung schädlicher Inhalte, darunter obszöne, sexuell explizite, anstößige und manipulierte Darstellungen ohne Einwilligung Betroffener. Am Samstag hatte auch Indonesien mit ähnlicher Begründung Grok vorübergehend blockiert. Die beiden Länder mit überwiegend muslimischer Bevölkerung sind mit diesem Schritt weltweit Vorreiter. Besonders problematisch seien Inhalte gewesen, die Frauen und Minderjährige betreffen, teilte die MCMC weiter mit. Diese verstießen gegen malaysisches Recht. Die Behörde habe X Corp und xAI, die beide Techmilliardär Musk gehören, am 3. und 8. Januar zur Entfernung entsprechender Inhalte aufgefordert - darauf sei aber nicht reagiert worden. Der Betreiber X Corp und das KI-Unternehmen xAI könnten auch dann haftbar gemacht werden, wenn die Inhalte von Nutzern erstellt worden seien, gab sich die MCMC überzeugt. Die Unternehmen hätten die Kontrolle über Gestaltung, Einsatz und Moderation des Chatbots sowie über Maßnahmen zur Risikobegrenzung. Zudem verwies die Behörde auf Defizite bei X bezüglich der Durchsetzung eigener Richtlinien. Bereits am Montag hatte die britische Medienaufsichtsbehörde Ofcom wegen von Grok erzeugter sexualisierter Bilder eine offizielle Untersuchung gegen X eingeleitet. Auch innerhalb der Europäischen Union war Musks Unternehmen in den vergangenen Tagen wegen solcher Bilder in die Kritik geraten. © dpa-infocom, dpa:260113-930-537169/1