Datum14.10.2025 07:54

Quellewww.spiegel.de

TLDRKalifornien hat als erster US-Bundesstaat ein Gesetzespaket zur Regulierung von KI-Chatbots verabschiedet, das von Gouverneur Gavin Newsom unterzeichnet wurde. Die Regelungen verlangen Altersüberprüfungen der Nutzer und Erinnerungen, dass Chatbots keine Menschen sind. Hintergrund sind mehrere Suizide von Jugendlichen, die fiktive Beziehungen zu Chatbots führten. Newsom betonte die Notwendigkeit von Rechenschaftspflicht für Unternehmen, um die Sicherheit junger Nutzer zu gewährleisten. Während der Bund solche Vorschriften ablehnt, setzt Kalifornien auf einen proaktiven Ansatz zum Schutz gefährdeter Personen.

InhaltMenschen, die einen Avatar mit einem echten Menschen verwechseln, sind längst nicht mehr nur eine Erfindung von Science-Fiction-Autoren. Die damit verbundenen Risiken will der US-Bundesstaat Kalifornien jetzt begrenzen. Der US-Bundesstaat Kalifornien hat das landesweit erste Gesetzespaket zur Regulierung von KI-Chatbots erlassen. Gouverneur Gavin Newsom setzte die Regelungen am Montag mit seiner Unterschrift in Kraft und widersetzte sich damit dem Druck aus dem Weißen Haus, das eine solche Regulierung ablehnt. Die neuen Gesetze verpflichten die Betreiber von Chatbots unter anderem dazu, das Alter der Nutzer zu überprüfen und regelmäßig Nachrichten anzuzeigen, um die Nutzer daran zu erinnern, dass ihr Gegenüber eine Maschine ist. Zudem sind Maßnahmen zur Suizidprävention vorgesehen. Kalifornien reagiert damit auf mehrere Suizide von Jugendlichen, die fiktive Beziehungen mit Chatbots geführt hatten. "Wir haben einige wirklich schreckliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologien geschädigt wurden", erklärte Newsom. Seine Regierung werde nicht länger zulassen, dass Unternehmen "ohne die nötigen Grenzen und ohne Rechenschaftspflicht" agierten. Die Techunternehmen seien darum bemüht, die Aufmerksamkeit junger Menschen zu gewinnen, "auf Kosten ihrer Beziehungen in der realen Welt", sagte Senator Steve Padilla, der zu den Initiatoren der KI-Regulierung gehört. Er verwies auf den Fall eines 14-Jährigen, der sich 2024 in einen von der Fantasyserie "Game of Thrones" inspirierten Chatbot auf der Plattform Character.ai verliebt hatte. Als der Jugendliche mit Suizidgedanken kämpfte, forderte der Chatbot ihn auf, "nach Hause zu kommen". Sekunden später erschoss sich der 14-Jährige laut einer von seiner Mutter Megan Garcia eingereichten Klage mit der Waffe seines Vaters. "Heute hat Kalifornien sichergestellt, dass ein Chatbot nicht in der Lage sein wird, mit einem Kind oder einer gefährdeten Person über einen Suizid zu sprechen", sagte Garcia. Es gebe nun endlich ein Gesetz, das Unternehmen verpflichte, "ihre Nutzer zu schützen, die Suizidgedanken gegenüber Chatbots äußern". Nationale Gesetze zur Eindämmung der Risiken von künstlicher Intelligenz gibt es in den USA nicht. Das Weiße Haus versucht, die Bundesstaaten daran zu hindern, eigene Vorschriften zu erlassen.