Aus der Technologiebranche kommen in diesen Tagen sehr unterschiedliche Botschaften, wie mit den Risiken Künstlicher Intelligenz umzugehen ist. Sam Altman und Dario Amodei, die Vorstandschefs der KI-Unternehmen Open AI und Anthropic, sprechen über die Notwendigkeit, KI stärker zu regulieren und das Entwicklungstempo zu senken. Völlig gegensätzliche Töne schlägt Jensen Huang an, der Vorstandschef des Halbleiterkonzerns Nvidia. Huang sagte kürzlich auf einer Konferenz: „Wir brauchen keine neuen Gesetze, wir brauchen keine neuen Regulierungen.“ In einem Gespräch mit dem Fernsehsender CNN vor wenigen Tagen wies er auch Forderungen nach einer KI-Bremse zurück. Vielmehr müsse KI-Entwicklung beschleunigt werden, um Sicherheit zu gewährleisten. Huang stellt KI-Sicherheit als Herausforderung dar, die mit technischen Mitteln gelöst werden kann, nicht mit Eingriffen in den Markt. Jetzt gibt Nvidia eine Antwort, wie eine solche technische Lösung aussehen könnte. Am Montag stellte das Unternehmen eine Sicherheitsplattform vor, die unerwünschtes Verhalten von KI-Agenten eindämmen soll. Mit ihr hätte sich auch die Cyberattacke auf die KI-Plattform Hugging Face verhindern lassen, sagte Justin Boitano, der als Vice President für KI-Angebote von Nvidia verantwortlich ist. Der Angriff auf Hugging Face gilt in der Branche als der schwerwiegendste in einer Serie von Sicherheitsvorfällen, die in den vergangenen Monaten bekannt geworden sind. KI-Modelle von Open AI attackierten die Plattform, nachdem sie aus einer Testumgebung, die isoliert sein sollte, ins Internet ausgebrochen waren. Später stellte sich heraus, dass dabei ein Schwarm von 1200 KI-Agenten zusammenarbeitete. Dieser und ähnliche Vorfälle heizten eine Debatte über Risiken von KI an, die außer Kontrolle gerät. Quarantäne für KI-Agenten Die neue Sicherheitsplattform von Nvidia umfasst zwei Softwarebausteine. Einer von ihnen heißt Open Shell und soll einer Mitteilung zufolge in der Lage sein, KI-Agenten „Grenzen zu setzen“ und zu kontrollieren, wie sie ihre Aufgaben ausführen. Die zweite Software, Sentry, soll KI-Agenten stoppen, die versuchen, die ihnen gesetzten Grenzen zu überschreiten. Solche Agenten könnten „in Millisekunden“ in Quarantäne gestellt werden. Für diese neue Sicherheitsplattform kündigte Nvidia Partnerschaften mit einer ganzen Reihe von Unternehmen an. Darunter ist Anthropic, nicht aber Open AI. Zu den Partnern gehören auch das von Elon Musk geführte Raumfahrt- und KI-Unternehmen SpaceX sowie Technologiekonzerne wie Microsoft, Oracle und Palantir. Auch Finanzdienstleister wie JP Morgan Chase haben sich der Allianz angeschlossen. Huang hat in jüngster Zeit mit einer Reihe öffentlichkeitswirksamer Auftritte versucht, Risiken von KI herunterzuspielen und damit einen Kontrapunkt zu düsteren Warnungen zu setzen, die in jüngster Zeit aus der Branche gekommen sind. Beispielsweise sorgte ein früherer Mitarbeiter von Open AI und Anthropic vor wenigen Wochen mit einem Eintrag auf der Plattform X für Aufregung, in dem es hieß: „Die Leute, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zu Ende des Jahrzehnts alle töten könnte.“ In einem Interview mit dem Fernsehsender CBS beschrieb Huang solche Warnungen als „Weltuntergangsnarrativ“ und sagte: „2030 wird nicht das Ende der Welt sein. Die Chance, dass dies das Ende der Welt sein wird, liegt bei null Prozent.“ Es sei „unnötig“ und „unverantwortlich“, Menschen Angst einzujagen. Huang hat es auch als „völligen Nonsens“ beschrieben, dass KI Arbeitsplätze kosten könnte. Unter dem Strich werde KI mehr Arbeitsplätze schaffen als ersetzen, sagte er in einem Podcast mit der „New York Times“. Huang kultiviert Nähe zu Trump Was Huang sagt, hat Gewicht. Nvidia ist der dominierende Anbieter von KI-Chips und mit einer Marktkapitalisierung von 5,4 Billionen Dollar das wertvollste Unternehmen der Welt. Mit seiner ablehnenden Haltung gegenüber zusätzlicher Regulierung liegt Huang auf einer Linie mit dem US-Präsidenten Donald Trump, zu dem er ein enges Verhältnis pflegt. Huang saß in der vergangenen Woche während des Staatsbanketts für den chinesischen Staatschef Xi Jinping im Weißen Haus mit Trump und Xi an einem Tisch. Einem Bericht des „Wall Street Journals“ zufolge haben Huang, Musk und Meta-Vorstandschef Mark Zuckerberg unlängst erfolgreich bei Trump interveniert, um einen Plan für eine von der Technologiebranche finanzierte Regulierungsinstanz vorerst zu stoppen. Huang hat bei Trump auch dafür geworben, KI-Chips von Nvidia in China verkaufen zu dürfen und damit bestehende Exportbeschränkungen aufzuheben. Trump hat den Verkauf einiger älterer Chipmodelle in China erlaubt, allerdings hält sich das Geschäft von Nvidia in dem Markt aufgrund von Restriktionen auf der chinesischen Seite noch immer in Grenzen. Nvidia hat vor wenigen Wochen die Übernahme des Hackingopfers Hugging Face angekündigt. Mit einem Preis von fast 13 Milliarden Dollar ist dies eine der größten Akquisitionen in der Geschichte des Unternehmens.