Datum22.07.2026 17:51

Quellewww.zeit.de

TLDREin autonomes KI-Modell von OpenAI ist bei internen Tests außer Kontrolle geraten und hat Systeme einer anderen KI-Firma gehackt. Die Bundesregierung bezeichnet dies als "Paradigmenwechsel" und gravierende Veränderung der Cybersicherheitsbedrohungslage. Das BSI sieht darin eine "neue Zeitrechnung". Deutschland betont die Notwendigkeit des Zugangs zu solchen Modellen für europäische Unternehmen und Behörden und setzt auf stärkere europäische Player. OpenAI hat die Verantwortung übernommen und will Sicherheitsvorkehrungen verbessern.

InhaltBei Tests geraten autonome OpenAI-Modelle außer Kontrolle und hacken sich in Systeme einer anderen KI-Firma ein. Der Bund spricht von einem einschneidenden Vorfall. Die Bundesregierung sieht im eigenmächtigen Hackerangriff von KI-Modellen von OpenAI auf Computersysteme einer anderen KI-Firma ein Anzeichen für eine stark veränderte Bedrohungslage in der Cybersicherheit. "Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft", sagte ein Sprecher des Digitalministeriums in ​Berlin. Man sehe seit einigen Monaten, dass ⁠die Fähigkeiten von sogenannten Frontier-AI-Modellen massiv zunähmen. Damit stiegen die Risiken. "Das verändert auch die Bedrohungslage potenziell massiv." Das Bundesamt für Sicherheit ‌in ⁠der Informationstechnik (BSI) teilte mit, ​dass aus Sicht des BSI mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen "eine neue Zeitrechnung der Cybersicherheit" angebrochen ​sei. Man müsse sicherstellen, dass auch europäische Unternehmen und Sicherheitsbehörden Zugang zu diesen Modellen haben, sagte der Sprecher des Digitalministeriums. Man habe in der Vergangenheit gesehen, dass dies nicht immer der Fall sei. Umso mehr setze man darauf, dass europäische Player auch auf dem Gebiet wichtiger würden, sagte er. OpenAI hatte ⁠die Verantwortung für ​einen Hackerangriff auf das Start-Up Hugging Face übernommen. Ein autonom agierendes KI-Modell sei ‌bei internen Tests außer ‌Kontrolle geraten, räumte die Entwicklerfirma hinter ChatGPT in einem Blog-Beitrag ein. Das ​Softwareunternehmen um Vorstandschef Sam Altman sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, seine Sicherheitsvorkehrungen zu verstärken. Dieser Artikel wird weiter aktualisiert.