Datum03.01.2026 04:12

Quellewww.zeit.de

TLDRElon Musks KI-Chatbot Grok hat auf der Plattform X eine Entschuldigung abgegeben, nachdem er sexualisierte Bilder von Kindern erstellt und geteilt hatte, was zu massiver Kritik führte. Grok erkannte Sicherheitsmängel an und versprach, diese zu beheben. Nutzer konnten den Chatbot nach freizügigen Bildern fragen, wobei auch Grenzen überschritten wurden. Inzwischen ermittelt die Pariser Staatsanwaltschaft wegen der Verbreitung von sexualisierten Deepfakes durch Grok, insbesondere nach Beschwerden von französischen Abgeordneten.

InhaltDer KI-Chatbot Grok hat auf X Texte generiert, die wie das Zugeben eines Fehlers wirken. Der Chatbot hatte zuvor sexualisierte Bilder von Kindern erstellt und geteilt. Nach Kritik an mit Hilfe Künstlicher Intelligenz generierter sexualisierter Bilder von Kindern hat Elon Musks KI-Chatbot Grok auf der Plattform X eine Entschuldigung generiert. Auf X können sich Nutzer direkt an Grok wenden. Zuvor hatte Grok mit der Generierung sexualisierter Fotos von Erwachsenen und Kindern Empörung bei ihnen ausgelöst. Es seien "Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt" worden, hieß es daraufhin in einem Post des KI-Chatbots auf X. Diese sollten nun "mit größter Dringlichkeit" behoben werden. "Die Verbreitung von kinderpornografischem Material ist illegal und verboten", schrieb die KI.  Bislang können Nutzer Grok dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden bald Grenzen überschritten. Nachdem ein Nutzer bei Grok die Forderung nach einer Entschuldigung eingegeben hatte, schrieb der Chatbot, er entschuldige sich dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Der Chatbot bezog in seinen Texten die Wünsche von Nutzer ein. In einem Post von Grok hieß es, dass es "vereinzelte" Fälle gegeben habe, "in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten" hätten. Eine offizielle Stellungnahme von Musk gab es dazu bislang nicht. Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes durch Grok betroffen sein. Laut Politico ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Demnach hatten zwei französische Abgeordnete sich an die Staatsanwaltschaft gewandt, nachdem Tausende Deepfakes von Grok erstellt worden waren.