US-Präsident Trump hat mit den wichtigsten Unternehmenschefs der KI-Branche eine Vereinbarung über mehr Sicherheit bei der Künstlichen Intelligenz unterzeichnet. Es wurden Absprachen getroffen, um die Systeme besser zu kontrollieren.
Allerdings handelt es sich dabei um eine freiwillige Selbstverpflichtung der Unternehmen. Demnach wollen sie externe Beobachter zulassen. Dies entspricht einer Idee, die Anthropic-Chef Amodei selbst vor einigen Wochen vorgeschlagen hatte. Trump hatte zuvor bereits erklärt, dass er gegen strengere Vorschriften zur Kontrolle von KI sei.
In den vergangenen Monaten gab es mehrere Vorfälle, bei denen Systeme mit Künstlicher Intelligenz Aufgaben ausführten, die ihnen nicht aufgetragen worden waren, und in die Computersysteme anderer Unternehmen eindrangen.
vrt/dpa/sh
