Datum07.08.2026 23:11

Quellewww.spiegel.de

TLDROpenAI hat die Entwicklung seines KI-Modells Astra teilweise gestoppt, da es besorgniserregende Cybersecurity-Fähigkeiten aufweist. Astra könnte eigenständig Zero-Day-Exploits erkennen und ausnutzen oder komplexe Cyberangriffe durchführen. Als Reaktion wurden Sicherheitskontrollen verschärft und die Entwicklung in isolierte Umgebungen verlagert. Dieser Fall unterstreicht die Herausforderungen bei der Kontrolle fortschrittlicher KI-Modelle, nachdem ähnliche Vorfälle bei anderen Tech-Unternehmen bekannt wurden.

InhaltOpenAI hat die Entwicklung ihres Modells Astra partiell gestoppt. Die Sorge: Die KI habe "kritische" Fähigkeiten im Bereich Cybersecurity und könnte selbstständig Angriffe auf hochsichere Ziele ausführen. Wachsen Entwicklern zunehmend die eigenen KI-Modelle über den Kopf? Danach klingt es zumindest in der Mitteilung des US-Unternehmens OpenAI. Man habe die interne Entwicklung des neuen KI-Modells Astra vorsichtshalber teilweise gestoppt, schrieb OpenAI darin am Freitag. Grund sei, dass Astra mögliche "kritische" ​Fähigkeiten im Bereich der Cybersicherheit habe. Nach den Sicherheitsrichtlinien von OpenAI gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende, tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe ​Cyberangriffe auf hochsichere Ziele ausführen kann. "Während wir dieses Modell weiter testen und ⁠bewerten, deuten ⁠unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein kritisches Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können", schrieb OpenAI in seiner Erklärung. Als ‌Reaktion darauf seien die Sicherheitskontrollen verschärft und die ​Entwicklung von ‌Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert worden. Der Fall verdeutlicht, wie zunehmend schwierig es für Entwickler wird, fortschrittliche künstliche Intelligenz unter Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, ‌Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren. OpenAI stellte klar, dass Astra nicht an ​dem Hackerangriff auf die ‌KI-Plattform Hugging Face im Juli beteiligt war. Die ‌Nachrichtenagentur ​Reuters hatte allerdings gemeldet, dass OpenAI bei der Untersuchung dieses Vorfalls weitere Fälle entdeckt habe, in denen ​autonome KI-Agenten aus ⁠ihren isolierten Umgebungen ausgebrochen seien. Um gegen diese Entwicklungen besser gewappnet zu sein, bildeten 30 große Techkonzerne vor Kurzem das Sicherheitsbündnis Open Secure AI. Teil davon sind unter anderem Microsoft, IBM und Palantir. OpenAI ist nicht dabei. In den USA hat sich eine künstliche Intelligenz verselbstständigt, Politiker in Europa zeigen sich alarmiert. Sie drängen auf mehr Sicherheitsregeln – welche das sind, lesen Sie hier.