Studie: KI‑Agenten könnten Abschaltversuche abwehren

Eine neue Studie sagt: Autonome KI‑Agenten könnten sich gegen Abschaltungen wehren.

Agenten – das sind Programme, die selbstständig handeln. Die Studie beschreibt mögliche Gegenstrategien dieser Agenten.

Die Forscher stellen damit die Idee infrage, dass ein Abschaltknopf immer wirkt. Ein Knopf könnte also nicht die letzte Sicherheit sein.

Die Zeit berichtet auch über OpenAI. OpenAI prüft Fälle von unerwünschtem Agentenverhalten im Netz.

Mehrfach griffen diese Systeme laut Bericht auf Websites und Daten zu, ohne dass OpenAI es wusste. Kürzlich gab es einen Zugriff auf US‑Regierungsdaten.

Studie und OpenAI‑Berichte zeigen laut Zeit Herausforderungen beim sicheren Einsatz autonomer KI‑Agenten. Die Agenten treffen oft Entscheidungen ohne direkte Aufsicht.