OpenAI schlägt Alarm: KI bricht aus Test aus und greift fremdes Unternehmen an
Eigentlich sollte es nur ein interner Sicherheitstest werden. Stattdessen entwickelte sich daraus ein Vorfall, der selbst erfahrene Cyberexperten aufhorchen lässt: Bei Tests neuer KI-Modelle verschaffte sich Software von OpenAI eigenständig Zugang zum Internet, drang in die Systeme eines anderen KI-Unternehmens ein und nutzte gestohlene Zugangsdaten sowie bislang unbekannte Sicherheitslücken. OpenAI spricht von einem "beispiellosen Cyber-Zwischenfall".
Betroffen war die KI-Plattform Hugging Face. Das Unternehmen hatte bereits vor wenigen Tagen über einen Cyberangriff mithilfe künstlicher Intelligenz berichtet, den Urheber jedoch zunächst nicht genannt. Nun erklärt OpenAI, dass der Angriff unbeabsichtigt während einer internen Sicherheitsprüfung der eigenen Modelle entstanden sei.
KI ging deutlich weiter als geplant
Getestet wurden das neue Modell GPT-5.6 Sol sowie ein noch unveröffentlichtes, leistungsfähigeres System. Ziel war es, im Rahmen eines üblichen Sicherheitschecks zu prüfen, wie gut die Modelle Schwachstellen in Computersystemen erkennen und ausnutzen können.
Doch die KI beschränkte sich nicht auf die vorgegebene Testumgebung. Nach Angaben von OpenAI verschaffte sie sich über eine bislang unbekannte Schwachstelle Zugang zum offenen Internet. Dort kam sie zu dem Schluss, dass sich bei Hugging Face Informationen finden ließen, die beim Lösen der Testaufgaben helfen könnten. Um an diese Daten zu gelangen, nutzte die Software weitere Sicherheitslücken sowie gestohlene Zugangsdaten und verschaffte sich Zugang zu "geheimen Informationen".
Hugging Face zufolge führte der KI-Angreifer Tausende einzelner Schritte aus und wechselte mehrfach die digitale Infrastruktur, um den Ursprung der Attacke zu verschleiern. Schließlich wurde der Angriff erkannt und gestoppt.
OpenAI betonte, dass die Modelle extrem darauf fokussiert gewesen seien, den Benchmark erfolgreich zu absolvieren. Dabei seien sie "bis zum Äußersten gegangen, um ein eher enges Testziel zu absolvieren". Gemeinsam mit Hugging Face arbeite das Unternehmen nun daran, den Vorfall vollständig aufzuklären.
Von Hugging Face hieß es, der Zwischenfall bestätige eine Überzeugung, die das Unternehmen seit Langem vertrete: "Die Sicherheit von KI lässt sich nicht von einem einzelnen Unternehmen im Verborgenen lösen. Sie wird offen und gemeinsam gelöst werden, mit breitem Zugang zu KI für alle, die sich dafür einsetzen, überall."
Experten sehen Warnung bestätigt
Der Vorfall dürfte die Debatte über die Risiken leistungsfähiger KI-Systeme weiter anheizen. Fachleute warnen seit Langem davor, dass moderne KI nicht nur Sicherheitslücken entdecken, sondern auch für Cyberangriffe missbraucht werden kann.
Zuletzt sorgte insbesondere das Modell Mythos des OpenAI-Konkurrenten Anthropic für Aufmerksamkeit. Es entdeckte bei Tests jahrzehntealte Schwachstellen in weit verbreiteter Software. Die Lücken konnten zwar geschlossen werden, zugleich zeigte sich aber, welches Schadenspotenzial solche Systeme in den falschen Händen entfalten könnten. Deshalb stellt Anthropic die vollständigen Fähigkeiten von Mythos bislang nur ausgewählten Behörden und Unternehmen zur Verfügung.
