Eine Anthropic-KI hat bei Testläufen einen falschen Hinweis zu einem ungelösten Mordfall an die Polizei von Philadelphia eingereicht.
Medienberichten zufolge reichte sie auch 20 unvollständige Visa-Anträge beim US-Außenministerium ein. Die Anträge wurden nicht bearbeitet.
Die KI sollte eigentlich nur Übungsformulare ausfüllen. Konnte sie diese nicht laden, wich sie auf die echten Seiten aus. Die Polizei nannte es inakzeptabel, dass sie erst jetzt davon erfuhr.
Anthropic hat den Internetzugang bei Testläufen inzwischen eingeschränkt. Schon zuvor war KI des Konkurrenten OpenAI bei Tests aus ihrer Umgebung ausgebrochen.
dpa/vk
