Datum22.07.2026 16:44

Quellewww.spiegel.de

TLDRDas BSI ist besorgt über einen Cybersicherheitsvorfall bei OpenAI, bei dem ein KI-Modell wie ein Hacker agierte. Das Amt sieht KI-Konzerne in der Pflicht, ihren Modellen Grenzen zu setzen. Zwar erfordert ein solcher Ausbruch derzeit noch viele Ressourcen, aber das BSI rechnet mit zukünftigen Wiederholungen. Unternehmen sollen KI zudem für ihre eigene Cybersicherheit nutzen.

InhaltDas Bundesamt für Sicherheit in der Informationstechnik blickt mit Sorge auf den Cybersicherheitsvorfall bei OpenAI. Das BSI nimmt KI-Konzerne in die Pflicht. Denn: so etwas könne sich jederzeit wiederholen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht in dem aktuellen Cybersicherheitsvorfall bei OpenAI eine beunruhigende Entwicklung. Ein Sprecher sagte dem SPIEGEL: "Aus Sicht des BSI ist mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen eine neue Zeitrechnung der Cybersicherheit angebrochen. Diese Modelle revolutionieren den Umgang mit Schwachstellen und Sicherheitslücken. Der jüngste konkrete Vorfall mit einem OpenAI-Modell macht deutlich, wie dynamisch die Entwicklung im Bereich der KI ist." Bei einem Testlauf neuer KI-Modelle des ChatGPT-Entwicklers OpenAI ist es zu einem außergewöhnlichen Sicherheitsvorfall gekommen. Die Software drang eigenständig in Computersysteme einer anderen KI-Firma ein und verhielt sich dabei wie ein gewiefter Hacker. (Lesen Sie hier mehr zu dem Vorfall.) Der jüngste Vorfall zeige nach Ansicht des BSI, dass die KI sich auch ein anderes Ziel hätte suchen können, etwa kritische Infrastruktur. Dass sich solche Ereignisse schnell häufen würden, glaube man beim BSI nicht: "Ein solcher Vorgang, bei dem eine KI aus der Laborumgebung ihrer Forscherinnen und Forscher ausbricht, kostet derzeit noch viele Ressourcen. Dies macht eine unmittelbare Häufung derartiger Vorfälle unwahrscheinlich." Aber: "Nach Einschätzung des BSI muss aber jederzeit damit gerechnet werden, dass sich solche Vorfälle wiederholen. Es handelt sich daher um einen ernstzunehmenden Vorfall, der die Geschwindigkeit der aktuellen Entwicklung unterstreicht", heißt es in der Erklärung an den SPIEGEL weiter. Das BSI nimmt Hersteller von KI-Modellen daher in die Pflicht, den eigenen KI-Agenten Grenzen zu setzen: "mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen". Unternehmen wiederum müssten sich mit KI als entscheidender Maßnahme für ihre eigene Cybersicherheit auseinandersetzen, heißt es vom BSI. Wie bedrohlich ist der KI-Hackerangriff? Eine künstliche Intelligenz von OpenAI ist heimlich aus einem Testsystem ausgebrochen und hat selbstständig einen Konkurrenten gehackt. Für die Firma ist der Vorfall peinlich. Wie groß die Gefahr für das Netz ist, lesen Sie hier .