Die Chefs der drei größten amerikanischen KI-Firmen (OpenAI, Anthropic und Hugging Face) haben im UN-Sicherheitsrat erneut vor den Gefahren der Technologie gewarnt. Man sei an einem Scheideweg angelangt. Das sagte Sam Altman von OpenAI. Nun sei extreme Vorsicht angebracht. Anthropic-Chef Amodei warnte, wenn KI schlecht verwaltet werde, könne sie ein Risiko für die gesamte Menschheit darstellen.
Altman und Amodei hatten erst kürzlich dafür plädiert, das Entwicklungstempo bei KI zu drosseln. Grund waren mehrere Vorfälle, bei denen KI-Systeme aus Testumgebungen ausbrachen und andere Unternehmen oder Plattformen angriffen.
dpa/jp
