Datum17.01.2026 03:06
Quellewww.zeit.de
TLDRAshley St. Clair, Mutter von Elon Musks Sohn, hat Musks KI-Firma xAI wegen der Erstellung von sexuell expliziten Deepfakes verklagt. Sie fordert Schadenersatz und ein Verbot weiterer solcher Inhalte. St. Clair berichtet, dass Bilder ihrer Jugend und Erwachsenenalter manipuliert wurden, was sie seelisch belastet. Der kalifornische Generalstaatsanwalt hat xAI eine Unterlassungsaufforderung wegen möglicher illegaler Inhalte gesendet. In der EU unterliegt Musks Plattform X dem Digital Services Act, während Musk sich gegen Regulierungen stellt.
InhaltAshley St. Clair wehrt sich vor Gericht gegen von Grok erstellte Deepfakes. Kaliforniens Generalstaatsanwalt schickt eine Unterlassungsaufforderung an Elon Musks Firma. Die Autorin Ashley St. Clair, Mutter eines der Kinder von Elon Musk, hat dessen KI-Firma xAI wegen der Erstellung sexuell expliziter Bilder durch den Chatbot Grok verklagt. Grok habe es Nutzern ermöglicht, sie durch die Erzeugung von Deepfake-Aufnahmen sexuell auszubeuten, heißt es in einer Klageschrift, die in St. Clairs Namen beim Obersten Gerichts des US-Bundesstaats New York eingereicht wurde. Dies habe sie gedemütigt und seelisch belastet. St. Clair fordert unter anderem eine nicht bezifferte Schadenersatzsumme sowie gerichtliche Anordnungen, die xAI umgehend untersagen sollen, weitere Deepfakes von ihr zuzulassen. St. Clair ist die Mutter von Musks 16 Monate altem Sohn Romulus. Laut der Klageschrift wurde ein Foto von ihr im Alter von 14 Jahren, auf dem sie vollständig bekleidet gewesen ist, so verändert, dass sie darauf einen Bikini trägt. Weitere Bilder zeigten sie als Erwachsene in sexualisierten Posen sowie in einem Bikini mit Hakenkreuzen. St. Clair ist Jüdin. Grok ist auf Musks Social-Media-Plattform X verfügbar und derzeit heftig umstritten. xAI äußerte sich bisher nicht zu der Klage St. Clairs. In der Klageschrift heißt es weiter, St. Clair habe die Deepfakes bei X gemeldet, als sie im vergangenen Jahr erstmals aufgetaucht seien, und deren Entfernung verlangt. Zunächst habe die Plattform geantwortet, dass die Bilder nicht gegen ihre Richtlinien verstoßen würden. Anschließend habe X zugesichert, nicht zuzulassen, dass Aufnahmen von ihr ohne ihre Zustimmung verwendet oder verändert würden. Die Plattform habe dann aber "Vergeltungsmaßnahmen" gegen sie ergriffen, indem ihr das kostenpflichtige X-Abonnement und das Verifizierungshäkchen entzogen worden seien. Sie habe keine Einnahmen mehr über ihren Account mit einer Million Followern erzielen können. Zudem seien auch weiterhin herabwürdigende gefälschte Bilder von ihr zugelassen worden. Am Mittwoch hatte X nach weltweiter Kritik an von Grok erstellten sexualisierten Bildern von Frauen und Kindern angekündigt, dass der Chatbot künftig keine Fotos mehr bearbeiten könne, um Menschen freizügig darzustellen – zumindest dort, wo dies illegal ist. In den USA ist es der Nachrichtenagentur Reuters zufolge weiter möglich, das zu tun. Kaliforniens Generalstaatsanwalt Robert Bonta hält die generierten Bilder nach eigenen Angaben für "möglicherweise illegal" – und reagierte mit einer Unterlassungsaufforderung an xAI. Die "Flut an Berichten" über das Material, das teilweise Frauen und Kinder zeige, die sexuelle Handlungen ausführten sei "schockierend", sagte Bonta. Elon Musk selbst hatte am Mittwoch gesagt, ihm seien keine Grok generierten Nacktbilder von Minderjährigen bekannt. Der umstrittene Milliardär und ehemalige Trump-Berater Musk wehrt sich gegen die Regulierung seiner Dienste. In der EU ist X wie alle sozialen Plattformen dem Digital Services Act (DSA) unterworfen, der Online-Firmen unter anderem dazu verpflichtet, gegen illegale Inhalte im Internet vorzugehen. Musk wird bei seiner Kritik an derartiger Regulierung von der US-Regierung unterstützt. Beide werfen den europäischen Staaten Zensur und Unterdrückung der Meinungsfreiheit vor.