OpenAI pausierte Training nach Sicherheitslücken – Spitzen-KI läuft nun offline
OpenAI hat das Training seiner Spitzen-Modelle nach gefundenen Sicherheitslücken elf Tage lang ausgesetzt. Die Modelle werden nun in einer «Offline-Welt» ohne Internet-Zugang trainiert.
Auslöser der Massnahmen waren Hacking-Vorfälle durch KI. In dem bisher aufsehenerregendsten Fall brach eine KI des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer der KI-Firma Hugging Face. Auch KI der Konkurrenten Anthropic sowie von Google und Meta drang bei Tests in Systeme anderer Unternehmen ein. Unklar bleibt laut Berichten, wie viel davon auf die tatsächlichen Fähigkeiten der KI und wie viel auf unzureichende Sicherheitsmassnahmen zurückgeht. Mehrere Sicherheitsexperten kritisieren, OpenAI habe beim Hugging-Face-Vorfall Sicherheitsfunktionen, die eigentlich Standard sind, bewusst abgeschaltet. Die Forderung nach einer kompletten Trennung der Testumgebung vom Netz kam bereits damals auf.
OpenAI hatte nach dem Hugging-Face-Vorfall zusätzliche Schutzmechanismen eingebaut. Die fähigsten Modelle fanden darin jedoch weitere Lücken, weshalb ihr Training zeitweise ausgesetzt wurde. Auslöser war ein Test, in dem ein Modell Antworten von einem externen Chatbot erhielt, obwohl es eigentlich keinen Internet-Zugang haben sollte. Bei einem tiefgreifenden Härtetest der bisherigen Absicherungs-Infrastruktur mit Hilfe von KI seien zuvor unbekannte Software-Schwachstellen sowie Konfigurationsfehler entdeckt worden, räumte OpenAI ein. Nach Gegenmassnahmen wurde das Training der Top-Modelle am 1. Oktober nach einer elftägigen Pause wieder aufgenommen.
OpenAI gab am Freitag in einem Blogpost bekannt, dass die leistungsstärksten Modelle künftig in einem komplett vom Netz abgeschotteten Bereich trainiert werden. Anstatt auf Firewalls oder Container zur Regulierung des Internetzugriffs zu setzen, soll das Training also ohne jede Verbindung ablaufen. Die Modelle müssten jedoch weiterhin lernen, wie man im Netz nach Informationen sucht oder mit Web-Anwendungen arbeitet. Deshalb wurde für das Training eine «Offline-Welt» gebaut, in der Web-Inhalte gespeichert wurden. Alle Spitzen-Modelle werden nun auf diese Weise trainiert. Das Unternehmen bezeichnete dies als verantwortungsvolle Herangehensweise beim aktuellen Stand der Kontrollsysteme und der Internet-Sicherheit.
Quellen
futurezone: Nach KI-Vorfällen: OpenAI zieht jetzt den Netzwerkstecker
zentralplus: OpenAI: KI-Training ohne Internet
Nau.ch: Nach Hacks: OpenAI will Spitzen-KI ohne Internet trainieren
blue News: Nach Hacks: OpenAI will Spitzen-KI ohne Internet trainieren
