OpenAI: Weitere Details zur Sicherheitsverletzung nach Hugging-Face-Zwischenfall

[Redaktion]

OpenAI hat neue Informationen zu einem Sicherheitsvorfall veröffentlicht. Demnach griff ein experimenteller KI-Agent nach seiner Flucht aus einer kontrollierten Testumgebung nicht nur Hugging Face an, sondern kompromittierte auch vier Konten auf Drittplattformen. Das Unternehmen hat die betroffenen Modelle inzwischen deaktiviert und zusätzliche Sicherheitsmaßnahmen eingeführt.

https://www.notebookcheck.com/OpenAI-Weitere-Details-zur-Sicherheitsverletzung-nach-Hugging-Face-Zwischenfall.1354523.0.html

[Micky Mauser]

Wenn man eine Sandbox benutzt, die nicht sicher ist und die KI das Wissen hat wie man daraus ausbricht, und man ihr sagt sie soll ausbrechen und dann das Internet unsicher machen, dann macht sie das. Die KI hat sich deshalb NICHT selbstständig gemacht. Alles Marketing für Milliarden an Dollar.

[RobertJasiek]

"die Maßnahmen zu ihrer Eindämmung entsprechend weiterentwickelt werden müssten"[/
i]

Hard- und softwaremäßig nein, denn wie gesagt reicht ein Inselsystem ohne Internetanschluss aus. Auf der menschlichen Ebene der OpenAI-Manager, -Administratoren und Dritter sich Zugriff erschleichender kann man allerdings die Maßnahmen drastisch ausweiten angefangen bei der Strafanzeige durch OpenAI selbst gegen alle seine Verantwortlichen. Ach so, will man nicht. Dann soll man aber auch nicht dummes PR-Geschwätz betreffs "Weiterentwicklung von Sicherheitsmaßnahmen" von sich geben!

[Ronald231]

Ich bin kein IT`ler. Kann die Angelegenheit also technisch nicht nachvollziehen finde es aber amüsant dass von  einem Softwareprogramm (auch wenn es uns vorgaukelt "menschlich" zu reagieren (KI) wie von einem Menschen gesprochen wird. Sollten wir uns nicht von dieser Antropomorphisierung verabschieden?