Das US-Unternehmen OpenAI hat das Training seiner stärksten KI-Modelle vorerst gestoppt. Das teilte die Firma am Samstag mit. Nach den Sicherheitsvorfällen der vergangenen Monate wolle man sicherstellen, dass die Entwicklung sicher fortgesetzt werden kann.
Auslöser war ein am vergangenen Wochenende entdeckter Vorfall: Ein KI-System sei erneut aus seiner Testumgebung ausgebrochen, obwohl es keinen Internetzugang hatte. Der KI-Agent habe eine Schwachstelle ausgenutzt, um dennoch auf einen öffentlich zugänglichen Chatbot zuzugreifen.
OpenAI bezeichnete den Vorfall als deutlich weniger schwerwiegend als frühere Fälle, aber als ersten seit der jüngsten Verschärfung der Sicherheitsregeln. Diese waren nach einem Hackerangriff auf das Unternehmen Hugging Face verschärft worden, den KI-Modelle von OpenAI im Sommer eigenständig durchgeführt hatten. Das Unternehmen erwartet, künftig erneut solche Pausen einlegen zu müssen.
belga/vk
