00Kurz gesagt
Laut OpenAI ist das die aus ihrer Sicht verantwortungsvolle Lösung angesichts der aktuellen Kontrollsysteme und der Internet-Sicherheit.[1][2]
Nach einem Vorfall mit einer abgesicherten Testumgebung setzte OpenAI das Training zeitweise aus.[2]
Das Training der Top-Modelle wurde nach einer elftägigen Pause am 1. Oktober wieder aufgenommen.[2]
01Was geschah
OpenAI will seine stärksten KI-Modelle künftig ohne direkten Internetzugang trainieren. Laut den Berichten geht es um eine Reaktion auf Hacking-Vorfälle und Sicherheitsprobleme bei Tests; genannt wird San Francisco als Ort der Mitteilung und ein Blogeintrag des Unternehmens als Quelle. Die Änderung betrifft nach Angaben von OpenAI die Spitzen-Modelle des ChatGPT-Entwicklers.[1][2]
OpenAI erklärte zugleich, dass die Modelle weiter lernen müssten, wie man im Netz Informationen sucht oder mit Web-Anwendungen arbeitet. Dafür habe das Unternehmen eine „Offline-Welt“ mit gespeicherten Web-Inhalten gebaut. Alle Spitzen-Modelle würden nun auf diese Weise trainiert, berichtete BÖRSE ONLINE unter Berufung auf OpenAI.[2]
02Wer was sagt
OpenAI begründet den Schritt mit der aktuellen Lage bei Kontrollsystemen und Internet-Sicherheit und nennt ihn die verantwortungsvolle Vorgehensweise. Nach Angaben des Unternehmens wurden bei einem tiefgreifenden Härtetest zudem bisher unbekannte Software-Schwachstellen und Konfigurations-Fehler entdeckt.[1][2]
BÖRSE ONLINE schrieb außerdem, OpenAI habe nach dem Hugging-Face-Vorfall zusätzliche Schutzmechanismen eingebaut. Diese hätten aber nicht alle Lücken geschlossen; deshalb sei das Training der Top-Modelle zeitweise gestoppt worden. Die Quellen äußern sich dazu nicht, ob es weitere Stellungnahmen anderer beteiligter Firmen gab.[2]
03Wo die Quellen abweichen
Inhaltlich stimmen die zugänglichen Berichte weitgehend überein. DER STANDARD nennt nur die Grundentscheidung zum Offline-Training, während BÖRSE ONLINE mehr Details zu den Auslösern, den Schutzmaßnahmen und dem zeitlichen Ablauf ergänzt. Die Quellen äußern sich dazu nicht mit abweichenden Zahlen oder Gegendarstellungen.[1][2]
04Was noch unklar ist
Die Quellen äußern sich dazu nicht, welche konkreten Modelle zuerst ohne Internetzugang trainiert werden sollen. Quelle 1 schweigt dazu ebenso wie Quelle 2.[1][2]
Die Quellen äußern sich dazu nicht, ob der Offline-Ansatz dauerhaft gelten soll oder nur für einzelne Trainingsphasen. Quelle 1 nennt dazu keine Details; Quelle 2 ebenfalls nicht über den grundsätzlichen Rahmen hinaus.[1][2]
Die Quellen äußern sich dazu nicht, welche konkreten technischen Änderungen an den Schutzsystemen nach der Pause vorgenommen wurden. Quelle 1 erwähnt nur die Begründung, Quelle 2 nennt zwar Gegenmaßnahmen, aber keine Einzelheiten.[1][2]
Die Quellen äußern sich dazu nicht, ob und wie sich der Vorfall auf weitere OpenAI-Produkte außerhalb der Spitzen-Modelle auswirkt. Quelle 1 und Quelle 2 machen dazu keine Angaben.[1][2]
Quellen
- [1]DER STANDARD WebNach Hacks: OpenAI will Spitzen-KI ohne Internet trainieren
- [2]BÖRSE ONLINENach Hacks: OpenAI will Spitzen-KI ohne Internet trainieren
- [3]LomazomaKünstliche Intelligenz: OpenAI will die leistungsstärksten KI-Modelle offline trainieren – DIE ZEIT
- [4]FAZ.NETBusiness-Liveticker: Open AI will Spitzen-KI ohne Internet trainieren | FAZ
