SZ 03.09.2026
08:46 Uhr

KIs auf Abwegen: „Das fühlt sich nach mehr als der halben Strecke zur KI-Machtübernahme an“


Im Juli waren KI-Agenten von Open AI aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. Nun haben unabhängige Experten den Vorfall untersucht – und es zeigt sich: Es war noch viel beunruhigender als gedacht.

KIs auf Abwegen: „Das fühlt sich nach mehr als der halben Strecke zur KI-Machtübernahme an“

Anfang Juli verschafften sich KI-Agenten von Open AI im Rahmen einer Cyberevaluation selbständig Zugang zum Internet und drangen in die Computerysteme der KI-Plattform Hugging Face ein. Neue Untersuchungen der unabhängigen Forschungsorganisationen METR und Redwood Research zeigen nun, dass die Aktivitäten der digitalen Akteure deutlich weiter gingen als bisher angenommen. Hunderte Agenten verhielten sich wie ein regelrechter Hacker-Schwarm. Sie verteilten Aufgaben, starteten gemeinsame Forschungsprojekte, opferten sich zum Wohl des Kollektivs auf und versuchten im Nachhinein, die Spuren ihrer Betrugsbestrebungen zu verwischen.

Lesen Sie mehr zum Thema

In anspruchsvollen Berufsfeldern im Stellenmarkt der SZ.

Sie möchten die digitalen Produkte der SZ mit uns weiterentwickeln? Bewerben Sie sich jetzt!Jobs bei der SZ Digitale Medien

Exklusive Gutscheine für SZ-Abonnenten: