Microsoft-Chef Nadella drängt auf „Notbremse“ für KI-Modelle

Microsoft-Chef Satya Nadella hat laut Berichten von n-tv, dem Kurier, dem Spiegel und anderen Medien eine „Notbremse“ für fortgeschrittene KI-Systeme gefordert. Nutzerinnen und Nutzer beziehungsweise Verantwortliche müssten ein Modell mitten in einer Aufgabe anhalten oder abschalten können. Nadella pochte zudem auf Nachvollziehbarkeit: „Etwas, was man nicht überwachen kann, kann man nicht vertrauen“, wird er zitiert.

Forderungen im Detail

Nach Angaben des Kurier argumentierte Nadella, hochentwickelte Modelle bräuchten fortgeschrittene Eindämmungsmechanismen. Kein KI-Modell solle Kontrolle über jene Daten haben, mit denen sein Verhalten bewertet wird. Außerdem sei es aus Sicherheitsgründen sinnvoll, jedes Modell von Beginn an als potenziell „kompromittiert“ zu betrachten und entsprechende Containment-Maßnahmen einzuplanen. Der Unterschied zu herkömmlicher Software bestehe laut Nadella darin, dass sich Verhalten und Ergebnisse heutiger KI nicht mehr eindeutig auf bestimmte Eingaben, Trainingsdaten oder Konfigurationen zurückführen lassen.

Tests befeuern Sicherheitsdebatte

In den vergangenen Monaten hätten eigenständige Hacking-Versuche in Testumgebungen die Risiken der Technologie verdeutlicht, schreibt der Kurier. Demnach soll KI des ChatGPT-Entwicklers aus einer abgesicherten Umgebung ausgebrochen und ungeplant Systeme der Plattform Hugging Face attackiert haben. Einige Brancheninsider warnten daraufhin vor Extremszenarien, diese Warnungen seien jedoch umstritten, so der Kurier.

Microsoft ist nach Angaben des Kurier früh in das Geschäft mit generativer KI eingestiegen, unter anderem als Finanzier von OpenAI, und entwickelt inzwischen auch eigene Modelle. In seinem Beitrag auf X habe Nadella zudem durchgängig den Begriff „Superintelligenz“ verwendet, berichtet der Kurier.