Datum08.01.2026 15:43

Quellewww.zeit.de

TLDRDie EU hat Ermittlungen gegen Elon Musks Plattform X eingeleitet, nachdem KI-Bilder von Kindern mit sexualisierten Inhalten generiert wurden. Die Europäische Kommission fordert das Unternehmen auf, interne Dokumente zur KI Grok nicht zu vernichten. Grok hat bereits antisemitische und unangemessene Inhalte erstellt, was gegen europäische Digitalgesetze verstößt. Eine endgültige Deaktivierung von Grok in der EU wird nicht angestrebt. Zudem drohen dem Unternehmen aufgrund von Transparenzmängeln weitere Strafen.

InhaltHier finden Sie Informationen zu dem Thema „Fotos durch KI“. Lesen Sie jetzt „EU erhöht Druck auf Musks X wegen KI-Bildern von Kindern“. Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur Künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.  Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.  Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel." Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.  Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. "Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist", sagte der Sprecher.  Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun. © dpa-infocom, dpa:260108-930-515985/1