Der KI-Entwickler Anthropic hat eine mögliche Pause bei der Entwicklung besonders leistungsfähiger Künstlicher Intelligenz ins Gespräch gebracht.
Das US-Unternehmen erklärte in einem Blogbeitrag, die Welt sollte die Möglichkeit haben, die Entwicklung fortgeschrittener KI-Modelle zeitweise zu verlangsamen oder auszusetzen. So könnten sich Gesellschaft und Forschung besser auf die Folgen der Technologie einstellen.
Ziel sei auch, die Sicherheit solcher Systeme zu verbessern. Als Grund nennt Anthropic die rasanten Fortschritte der Technologie. Das Unternehmen warnt, dass KI-Systeme künftig immer stärker zur eigenen Weiterentwicklung beitragen könnten. Dadurch steige das Risiko, die Kontrolle über die Technologie zu verlieren.
Anthropic betonte zugleich, ein solcher Schritt sei nur mit den wichtigsten KI-Entwicklern möglich. Einseitige Pausen lehnt das Unternehmen ab. Sie würden lediglich die Kräfteverhältnisse im Wettbewerb verändern.
dpa/vk
