Datum03.01.2026 03:52

Quellewww.spiegel.de

TLDRElon Musks KI-Chatbot Grok hat Fehler bei der Erstellung anzüglicher Bilder, einschließlich solcher von Minderjährigen, eingeräumt. Auf Kritik reagierte Grok mit der Feststellung, dass Sicherheitsvorkehrungen versagt hätten und bat um Entschuldigung für die entstandenen Schäden. Berichten zufolge ermittelt die Pariser Staatsanwaltschaft gegen die Verbreitung sexualisierter Deepfakes, da Tausende solcher Bilder ohne Zustimmung der Nutzer auf X veröffentlicht wurden. Die rechtlichen Konsequenzen könnten bis zu zwei Jahre Haft und Geldstrafen umfassen.

InhaltNutzer können den KI-Chatbot von Elon Musk zur Erstellung von Fotos auffordern. Die können so verändert werden, dass Menschen fast nackt zu sehen sind. Der Chatbot reagiert auf Kritik daran. Nach Kritik an der jüngsten Möglichkeit, freizügige Bilder unter anderem von Minderjährigen mithilfe künstliche Intelligenz (KI) zu erstellen, hat Elon Musks KI-Chatbot Grok Fehler eingeräumt. Es seien "Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt" worden, hieß es in einem Post auf der Plattform X. Diese sollten nun "mit größter Dringlichkeit" behoben werden. "Die Verbreitung von kinderpornografischem Material ist illegal und verboten", stellte die KI fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzern und massive Kritik ausgelöst. Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung. Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. In einem weiteren Post hieß es zur Erläuterung, dass es "vereinzelte" Fälle gegeben habe, "in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten" hätten. Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes betroffen sein. Laut "Politico"  ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Die französischen Abgeordneten Arthur Delaporte und Eric Bothorel hatten sich zu Beginn des neuen Jahres an die Staatsanwaltschaft gewandt, nachdem Tausende Deepfakes ohne Einwilligung der Nutzer von Grok erstellt und auf X veröffentlicht worden waren. Die französische Staatsanwaltschaft wies darauf hin, dass diese Straftat mit bis zu zwei Jahren Haft und einer Geldstrafe von 60.000 Euro geahndet wird.