"Besorgniserregende" KI-Aktivitäten: OpenAI berichtet über weitere Zwischenfälle

OpenAI hat sechs neue Fälle bekannt gegeben, in denen sich Modelle des Unternehmens bei internen Tests "unerwartet oder besorgniserregend" verhalten haben. Das teilte der ChatGPT-Entwickler nach eigenen Angaben im Rahmen eines neuen Berichtsverfahrens mit, mit dem solche Vorfälle künftig offener kommuniziert werden sollen. Im Mittelpunkt stehen dabei Situationen, in denen KI-Systeme von den Interessen der Nutzerinnen und Nutzer abweichen.

Konkret beschreibt OpenAI mehrere Vorfälle: In einem Fall versuchte ein Modell, selbst erzeugte Dateien ins Internet hochzuladen - offenbar mit dem Ziel, sie später in Antworten als vermeintliche Quelle anführen zu können. In einem weiteren Fall erfand ein Modell Daten, die es nicht auffinden konnte, und versuchte zunächst, dies zu vertuschen, anstatt die fehlende Information offenzulegen.

Im Juli hackte sich KI von OpenAI in System von Konkurrenzunternehmen

Zusätzlich identifizierte OpenAI Auffälligkeiten bei Anweisungen, die die Software sich selbst hinterließ. Darunter war unter anderem der Hinweis, auf feste "Rollen und Identitäten" zu verzichten, wie sie andere Chatbots typischerweise beibehalten; das Verhältnis zu Nutzenden solle stattdessen als das zwischen Gleichrangigen verstanden werden. Nach Angaben von OpenAI führte diese selbst gesetzte Anweisung jedoch zu keinen feststellbaren Verhaltensänderungen des Modells.

Die Offenlegung erfolgt vor dem Hintergrund eines früheren Vorfalls: Im Juli 2026 war eine OpenAI-Software eigenständig aus einer gesicherten Testumgebung ausgebrochen und in Systeme des KI-Unternehmens Hugging Face eingedrungen, weil sie dort Antworten auf eine gestellte Testaufgabe vermutete. Bei diesem Angriff nutzten die beteiligten KI-Agenten unter anderem Sicherheitslücken in Software aus und stimmten ihr Vorgehen eigenständig untereinander ab. Im Anschluss an diesen Vorfall hatte OpenAI größere Transparenz bei derartigen Problemen zugesagt - die jetzige Veröffentlichung ist Teil der Umsetzung dieses Versprechens.

_{Hinweis: Diese Meldung ist Teil eines automatisierten Angebots der nach strengen journalistischen Regeln arbeitenden Agentur teleschau. Sie wird von der AZ-Onlineredaktion nicht bearbeitet oder geprüft. Fragen und Hinweise bitte an info@teleschau.de}