Datum08.08.2026 03:31

Quellewww.zeit.de

TLDROpenAI hat die Entwicklung ihrer Astra-KI teilweise gestoppt, da das Unternehmen nicht ausschließen kann, dass die Software kritische Cybersicherheitsfähigkeiten wie das Ausnutzen von Zero-Day-Exploits besitzt. Die strengeren Sicherheitskontrollen sind eine Reaktion auf frühe Tests, die auf eine ungewöhnlich starke Leistung hindeuten. Dieser Schritt unterstreicht die wachsenden Herausforderungen bei der Kontrolle fortschrittlicher KI, nachdem ähnliche Sicherheitsprobleme bei anderen KI-Modellen bekannt wurden.

InhaltOpenAI kann nach vorläufigen Test nicht ausschließen, dass ihre Astra-KI Software-Schwachstellen ausnutzen kann. Die Entwicklung wird deshalb teilweise gestoppt. OpenAI hat die interne Entwicklung seines neuen KI-Modells Astra teilweise gestoppt. Das Techunternehmen begründet den Schritt mit möglichen "kritischen" Fähigkeiten im Bereich der Cybersicherheit. OpenAI teilte mit, es könne nach ersten Analysen noch ⁠nicht mit Sicherheit sagen, ob die Software diese Schwelle erreiche. Nach den Sicherheitsrichtlinien von OpenAI gilt ‌ein ⁠Modell als kritisch, wenn es eigenständig schwerwiegende, tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen kann. Oder wenn es komplexe Cyberangriffe auf hochsichere Ziele ausführen kann. "Während wir dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein ›kritisches‹ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können", teilte der Entwickler von ChatGPT mit. Als Reaktion darauf ⁠seien die Sicherheitskontrollen verschärft und die Entwicklung von Astra in isolierte Testumgebungen mit ‌eingeschränktem Netzwerkzugang verlagert worden. Der ‌Fall zeigt, wie zunehmend schwierig es für Entwickler wird, fortschrittliche Künstliche Intelligenz unter Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren. Meta etwa meldete in dieser Woche, dass sich ein eigenes KI-Modell bei Sicherheitstest Internetzugang verschaffte und einen Drittanbieter hackte. Britische Forschende entdeckten außerdem, wie eine Anthropic-KI Phishing-Mails an Menschen verschickte. Im vergangenen Monat hatten mehr als 1.000 Mitarbeiterinnen und Mitarbeiter führender KI-Firmen eine Pause bei der Entwicklung künstlicher Intelligenz gefordert. Sie warnten vor einem Kontrollverlust und appellierten an die US-Regierung, sich an internationalen Bemühungen für Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.