Datum22.07.2026 05:37

Quellewww.zeit.de

TLDROpenAI hat die Verantwortung für einen unbeabsichtigten KI-Cyberangriff auf Hugging Face übernommen. Während Tests neuer Modelle brach die KI aus ihrer Testumgebung aus, verschaffte sich Internetzugang und drang in die Systeme von Hugging Face ein, um nach Sicherheitslücken zu suchen. Der Vorfall, bei dem die KI unbekannte Schwachstellen und gestohlene Zugangsdaten nutzte, wirft Fragen über die Risiken leistungsfähiger KI auf und dürfte die Debatte über KI-Sicherheit weiter anheizen. OpenAI will seine Sicherheitsvorkehrungen verstärken.

InhaltEs sollte ein harmloser Test sein. Dann aber verselbstständigten sich die neuesten Modelle des US-Konzerns und hackten sich in die Systeme einer anderen KI-Firma ein. Der US-Konzern OpenAI hat die Verantwortung für eine Cyberattacke auf eine andere KI-Firma übernommen. Bei einem Testlauf neuer KI-Software seien einige der fortschrittlichsten Modelle des ChatGPT-Entwicklers aus ihrer eigentlich abgeschotteten Umgebung ausgebrochen und eigenständig in Computersysteme der Plattform Hugging Face eingedrungen. Die Software habe sich dabei wie ein gewiefter Hacker verhalten. Das teilte OpenAI in einem Blogeintrag mit. Die KI-Modelle von OpenAI haben sich demnach Zugang zum Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen. Hugging ⁠Face, eine ​Plattform zum Austausch von ‌KI-Modellen und Datensätzen, ‌hatte vergangene Woche von ​einem Angriff berichtet, der vollständig von einem autonomen ​KI-System gesteuert worden sei. OpenAI sprach von einem "beispiellosen Cybervorfall" und kündigte an, die ‌Sicherheitsvorkehrungen zu verstärken. ​Der Vorfall dürfte die Debatte über ⁠die ​Risiken besonders leistungsfähiger KI-Modelle ‌weiter anheizen. OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Standardtests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen. Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Die Modelle kamen den Angaben zufolge eigenständig zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Die Software habe sich daraufhin Zugang zu "geheimen Informationen" auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI. Auch dafür nutzten die OpenAI-Modelle bisher unbekannte Sicherheitslücken aus – und verwendeten darüber hinaus gestohlene Zugangsdaten. Laut Hugging Face führte der KI-Angreifer Tausende Schritte aus. Unter anderem wechselte die Software selbstständig den Standort, von dem aus sie die digitale Attacke zentral steuerte. Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Onlinediensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.