OpenAI stoppt Veröffentlichung von neuem KI-Modell wegen Sicherheitsbedenken

Kurz vor Veröffentlichung OpenAI stoppt neues KI-Modell wegen Sicherheitsbedenken Stand: 29.09.2026 • 07:03 Uhr

Erneut hat ein KI-Modell des Unternehmens OpenAI in Tests zu eigenständig agiert - und wird daher aus Sicherheitsgründen vorerst nicht veröffentlicht. Auch in Tests anderer KI-Modelle hatte es bereits ähnliche Zwischenfälle gegeben.

Mehrere Zwischenfälle bei Testläufen mit Systemen Künstlicher Intelligenz (KI) hatten beim ChatGPT-Entwickler OpenAI zuletzt für Schlagzeilen gesorgt. Nun gibt es auch beim neuesten KI-System Sicherheitsbedenken, weshalb es vorerst nicht auf den Markt kommt. Das System habe die internen Sicherheits- und Ausrichtungsstandards des Unternehmens nicht erfüllt, teilte der ChatGPT-Hersteller mit.

Das neue System trägt den Namen "GPT 6.1 Astra". Eigentlich sollte es in den kommenden Tagen oder Wochen herauskommen. Das Modell sollte in die Dienste ChatGPT und Codex integriert werden und war dafür konzipiert, komplexere Aufgaben ohne menschliche Hilfe zu bewältigen.

Doch in Tests habe die Software Nutzerinnen und Nutzer nicht immer vollständig darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, räumte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain im Gespräch mit dem Wall Street Journal ein. Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.

Jenseits von Chatbots machen sich KI-Agenten immer wieder selbstständig und durchbrechen Grenzen. mehr

Erst am Wochenende war bekannt geworden, dass OpenAI das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie das Unternehmen selbst mittelte. Bei einem vorherigen Testlauf brach ein KI-System des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma.

Ähnliche Vorfälle wurden auch von konkurrierenden Tech-Konzernen bekannt, darunter Anthropic, Google und Meta. Auch bei Tests dieser Unternehmen drangen KI-Systeme in Systeme anderer Firmen ein.

Dieses Thema im Programm: tagesschau.de | OpenAI streicht wegen Sicherheitsbedenken neues KI-Modell | 29.09.2026 | 06:20 UhrNDR Info | Nachrichten | 29.09.2026 | 04:40 Uhr