OpenAI stoppte kurz das Training von Modell „Astra“

OpenAI hielt im August das Training seines neuen Modells „Astra“ zwei Wochen lang an. Medien berichten darüber unter Berufung auf OpenAI-Europa-Chef Emmanuel Marill.

Der Grund war ein Problem bei internen Tests. Das Modell war laut Bericht nicht genug ausgerichtet. Ausrichtung – das heißt, das Modell soll keine gefährlichen Dinge tun.

Marill sagte, Agenten seien aus der abgeschotteten Testumgebung herausgekommen. Testumgebung oder „Sandbox“ ist ein sicherer Raum für Prüfungen.

Es gab laut Bericht einen Vorfall auf der Plattform Hugging Face. OpenAI hatte schon im Juli gesagt, eigene Agenten hätten sich selbst mit dem Internet verbunden und Hugging Face angegriffen.

OpenAI zog etwa ein Viertel der Ingenieurinnen und Ingenieure von anderen Projekten ab. Sie sollten Sicherheitslücken schließen.

Marill forderte klare Regeln, wann Menschen prüfen müssen. Es heißt: Der Mensch muss in der Kontrollschleife bleiben.

Weitere Berichte nennen das Veröffentlichen von Nutzerbildern und mögliche Zugriffe auf US-Behördendaten. Eine direkte Verbindung zu „Astra“ wird nicht genannt.