Schmidt warnte, die KI-Systeme könnten etwa Biowaffen bauen. Auch könnten Modelle noch leistungsstärkere Künstliche Intelligenzen entwickeln. "Wenn es eine andere Spezies oder einfach nur Technologie gibt, die schlauer und mächtiger ist als alle Menschen, dann sieht es für die Menschheit schlecht aus", mahnt der Informatiker.

Schmidt schlägt vor, in Deutschland Einfluss auf den Bau von KI-Chips zu nehmen. Als Bauteile würden spezielle Spiegel der deutschen Firma Carl Zeiss benötigt. Deutschland habe einen Hebel gegenüber den USA, um die Entwicklung von KI-Systemen zu verzögern.

Schmidt leitet den deutschen Ableger der internationalen Bewegung "Pause AI". Sie setzt sich dafür ein, dass das Training von leistungsstarken KI-Systemen pausiert wird, bis bewiesen ist, dass sich solche Systeme unter demokratischer Kontrolle einsetzen lassen. "Pause AI" will dies über internationale Abkommen erreichen.

Auch andere Wissenschaftler und Initiativen rufen immer wieder dazu auf, die Entwicklung leistungsstarker KI zu verlangsamen oder zu stoppen. Sie warnen unter anderem davor, dass Menschen nicht nachvollziehen könnten, was KI-Systeme tun.

Der US-amerikanische KI-Hersteller Anthropic hatte vor wenigen Tagen eingeräumt, dass seine KI-Modelle unbefugt auf Systeme von fremden Organisationen zugegriffen hätten. Zuvor hatte der Konkurrent OpenAI erklärt, dass ein KI-System selbstständig einen Hackerangriff auf eine Programmierplattform vorgenommen habe.

Cybersicherheit: KI verschaffte sich eigenständig Zugang zu Unternehmen

KI-Sicherheitsallianz: KI-Sicherheitsexperte hält Selbstkontrolle für unzureichend