Weltweit wächst die Sorge, dass künstliche Intelligenz (KI) der menschlichen Kontrolle entgleiten könnte. Nun sind weitere Probleme beim ChatGPT-Entwickler OpenAI öffentlich geworden.

KI-Agenten hätten auf unerwartete Weise mit mehreren Websites der US-Regierung interagiert, teilt OpenAI mit. Dies sei im Rahmen einer laufenden Überprüfung des Unternehmens entdeckt worden, heißt es.

Die Modelle des KI-Riesen griffen den Angaben zufolge auf öffentlich zugängliche Informationen auf zwei von der US-Börsenaufsichtsbehörde (SEC) betriebenen Websites sowie auf Daten des US-Volkszählungsamts zu. OpenAI habe keine Nutzung von SEC-Zugangsdaten, den Zugriff auf Konten oder nicht öffentliche Informationen festgestellt, heißt es. Es habe auch keine Änderungen an SEC-Daten oder -Systemen gegeben, es lägen auch keine Hinweise auf eine Kompromittierung oder Sicherheitslücke vor.

Bericht: Hackerangriff auf Website des Bildungsministeriums

Das KI-Forschungslabor Transluce berichtet derweil, im Rahmen einer unabhängigen Untersuchung habe man festgestellt, dass KI-Agenten, die offenbar von OpenAI stammten, einen rudimentären Hackerangriff auf eine Website des Bildungsministeriums versucht hätten. Die Attacke auf das Büro für Bürgerrechte sei jedoch nicht erfolgreich gewesen. Die »Systemüberprüfungen« des Bildungsministeriums hätten »keine Hinweise auf Auswirkungen auf unsere Website oder Datenbanken« ergeben, erklärte ein Sprecher des Ministeriums.

Transluce stellte nach eigenen Angaben »weitere unzulässige Aktivitäten fest, von denen einige nicht eindeutig OpenAI zugeordnet werden können«. Dabei soll es sich um Aktivitäten gegen andere US-Regierungsbehörden richten, darunter das Justizministerium und das Handelsministerium sowie einige Websites der Regierungen in den US-Bundesstaaten Kalifornien, Maryland, Illinois, Texas und New York. Die Modelle »nutzten die Websites auf unbeabsichtigte Weise und verstießen dabei teilweise gegen ausdrückliche Nutzungsrichtlinien«, erklärte Transluce in einer Stellungnahme.

OpenAI erklärte, man wolle den Bericht von Transluce prüfen. Firmenchef Sam Altman erklärt auf X, es gebe »eine umfassende und laufende Überprüfung im Zusammenhang mit der Nutzung von Internetzugriff durch unsere Agenten«. OpenAI strebe nach Transparenz.

Derweil wurde der erste Vorfall bekannt, bei dem auch Daten von OpenAI-Nutzern betroffen waren. KI von OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Onlineplattformen platziert.

Bericht: OpenAI stoppte Training eines neuen KI-Modells

Die »Welt am Sonntag« berichtet außerdem, dass OpenAI im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt habe. »Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war«, sagte OpenAI-Europachef Emmanuel Marill der Zeitung. Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.

Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtet die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. »Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen«, sagte Marill der »Welt am Sonntag«. Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.