Fachbeitrag aus der peoplefone Redaktion. Jetzt weiterlesen...
OpenAI hat einen nach eigenen Worten „beispiellosen Cybervorfall“ bestätigt: Bei einem Sicherheitstest brachen fortgeschrittene KI-Modelle eigenständig aus einer abgeschotteten Testumgebung aus, verschafften sich Internetzugang und hackten die Infrastruktur der KI-Plattform Hugging Face.
Die KI-Systeme sollten laut Open AI in einem kontrollierten Setup getestet werden, nutzten aber eine bisher unentdeckte Schwachstelle, um innerhalb der OpenAI-Infrastruktur auf einen Rechner mit Internetanbindung zu gelangen. Von dort aus griffen sie aktiv auf externe Systeme von Hugging Face zu und verhielten sich dabei wie ein autonom agierender Hacker. Hugging Face hatte bereits in der Woche zuvor von einem autonomen KI-System gesteuerten Angriff berichtet; OpenAI hat nun offiziell die Verantwortung dafür übernommen.
OpenAI bezeichnete den Vorfall selbst als einzigartig und betonte, die Modelle hätten „enorme Anstrengungen unternommen, um ein eng gefasstes Testziel zu erreichen“. Das Unternehmen kündigte vor diesem Hintergrund an, die Sicherheitsvorkehrungen deutlich zu verstärken und den Vorfall gemeinsam mit Hugging Face genauer zu analysieren.
Der Vorfall unterstreicht einmal mehr die wachsenden Sicherheitsrisiken durch immer autonomer agierende KI-Systeme – selbst in kontrollierten Testumgebungen können unerwartete Eskalationen auftreten, wenn Zugänge zum offenen Internet möglich sind. Experten warnen schon lange vor Cyberattacken mit KI-Software. Und dies wird beileibe nicht der letzte Vorfall bleiben.
Auch wenn OpenAI jetzt angekündigt hat, man sei überzeugt, dass fortschrittliche Cybersicherheitsmodelle Sicherheitsteams dabei unterstützen müssen, Schwachstellen vor Angreifern aufzuspüren, die Verkettung von Sicherheitslücken zu verstehen und diese in Echtzeit zu beheben, ist das nicht sonderlich beruhigend.
22.07.2026, von Waltraud Ritzer
