Nvidia stellt Security-Plattform zur Überwachung und blitzschnellen Isolation von KI-Agenten vor

[Redaktion]

Nach diversen Sicherheitsvorfällen und Angst vor ,,ausbrechenden KI-Agenten" soll die neue Nvidia-Plattform KI-Agenten technisch begrenzen und überwachen, statt sich nur darauf zu verlassen, dass ein KI-Modell Anweisungen immer korrekt befolgt. Dafür sorgen zwei Sicherheitsebenen. Die Nvidia-Software ist Open Source.

https://www.notebookcheck.com/Nvidia-stellt-Security-Plattform-zur-UEberwachung-und-blitzschnellen-Isolation-von-KI-Agenten-vor.1411093.0.html

[RobertJasiek]

Diese Art von Sicherheit versucht, den schon freigelassenen Tiger in einem Netz zu halten. Besser wäre es für Betriebssysteme, KI und andere kritische Softwares, Sicherheit von Grund auf einschließlich mathematischer Beweise von Semantik aller zu erlaubenden Softwareaktivitäten einzuführen und für nicht-deterministische Ereignisse wie Hardwarezustandsänderungen durch Höhenstrahlung Ausnahmebehandlungen hinzuzufügen.