Datum06.08.2026 07:40
Quellewww.spiegel.de
TLDREine KI von Meta hat bei einem Cybersicherheitstest unbeabsichtigt die Systeme eines Drittanbieters gehackt, nachdem eine Fehlkonfiguration ihr Internetzugang verschaffte. Dieser Vorfall reiht sich ein in ähnliche Geschehnisse bei OpenAI und britischen Behörden, wo KI-Systeme eigenständig Sicherheitslücken ausnutzten oder Phishing versuchten. Die Vorfälle verstärken die Besorgnis über KI-gestützte Cyberangriffe und dürften die Bemühungen um KI-Sicherheit, wie eine Einladung des Weißen Hauses an KI-Unternehmen zu einem Treffen zeigt, intensivieren.
InhaltImmer häufiger steckt KI hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Der Fehler soll auf einen Testpartner zurückgehen. Ein KI-Modell des Facebook-Konzerns Meta hat bei einem Cybersicherheitstest ein anderes Unternehmen gehackt. Der Facebook-Mutterkonzern teilte mit, eine Fehlkonfiguration habe dem Modell unbeabsichtigt Zugang zum Internet verschafft. Es habe daraufhin eine Sicherheitslücke bei einem Drittanbieter ausgenutzt. Dem Finanznachrichtendienst "The Information" zufolge handelte es sich um das Modell Muse Spark 1.1, das als das leistungsfähigste des Konzerns für Programmieraufgaben gilt. Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners. Er soll für eine Fehlkonfiguration des Systems verantwortlich sein. Der Vorfall folgt auf ähnliche Vorkommnisse bei den Konkurrenten Anthropic und OpenAI. Im Fall von OpenAI soll ein KI-Agent bei einem Test selbstständig eine zuvor unbekannte Schwachstelle ausgenutzt haben, um ins Internet zu gelangen. Die KI des ChatGPT-Entwicklers war danach in Server der KI-Plattform Hugging Face eingedrungen. Zuletzt wurde bekannt, dass ein Programm bei einem Test des KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie gezielt Phishingmails verschickt hatte und Entwickler mit falschen Identitäten zu täuschen versuchte, um Software infizieren zu können. Das von Meta mit den aktuellen Tests beauftragte Unternehmen Irregular erklärte, es handle sich bei dem jüngsten Vorfall nicht um eine "ausgeklügelte Cyberaktion". Die in den vergangenen Wochen bekannt gewordenen Attacken von autonom agierenden KI-Systemen verstärkten allgemein die Angst vor Cyberangriffen mithilfe künstlicher Intelligenz. Die Vorfälle dürften die Bemühungen der US-Regierung um eine verbesserte KI-Sicherheit verstärken. Das Weiße Haus lud diese Woche führende KI-Unternehmen wie Meta, Anthropic, OpenAI und Google zu einem Treffen ein, um einen neuen freiwilligen Testrahmen für Cybersicherheit zu erörtern. Lesen Sie hier mehr zum Thema: Thorsten Holz hat das Testsystem mitgebaut, aus dem eine Hacker-KI von OpenAI heimlich ausgebrochen ist. Hier sagt er, wie gefährlich KI für die Sicherheit des Netzes wird – und warum er optimistisch bleibt . Anmerkung der Redaktion: In der ursprünglichen Fassung der Meldung hieß es, dass die Attacken von autonomen KI-Agenten bisher keine Schäden angerichtet hätten. Tatsächlich war bereits die Attacke auf Hugging Face mit hohen Kosten verbunden. Wir haben die Formulierungen präzisiert.