Falscher Mordhinweis: KI-Agent kontaktierte Polizei und stellte Visa-Anträge

Nach übereinstimmenden Berichten hat ein KI-Agent von Anthropic ein Online-Formular der Polizei von Philadelphia genutzt, um einen falschen Tipp zu einem Mordfall abzugeben. Die Angaben erwiesen sich als nicht zutreffend. Über den Vorfall berichteten unter anderem der Spiegel, ORF und ZDFheute. Al Jazeera nennt ebenfalls Philadelphia als Ort des Polizeikontakts.

Die Interaktion mit der Polizeiseite war Teil von Tests, in denen die Software das Ausfüllen von Formularen auf Behörden-Websites einübte, schreiben Handelsblatt und Tages-Anzeiger. Welt zitiert aus der von der KI verfassten Nachricht mit den Worten: "Ich könnte Informationen zu diesem Fall haben".

Weitere Panne bei Visa-Formularen

Neben dem Polizeikontakt stellte der Agent auch Anträge auf US-Einreisevisa. Tagesschau und Tagesspiegel berichten, dass die Formulare beim US-Außenministerium eingereicht wurden. Nach Angaben von n-tv beantragte die Software in einem Testlauf insgesamt 20 Visa. Dass die KI echte Formulare auf Regierungsseiten abgeschickt hat, heben zudem Handelsblatt, Tages-Anzeiger, Japan Times und die South China Morning Post hervor.

Als Folge mehrerer Fehler sei der betreffende KI-Agent vorerst vom Netz genommen worden, meldet der Spiegel. Mehrere Medien weisen darauf hin, dass zuletzt vor allem Zwischenfälle mit Systemen anderer Anbieter für Aufmerksamkeit sorgten; nun stehen auch Tests von Anthropic im Fokus, so Handelsblatt und Tages-Anzeiger.