Wenn man eine Sandbox benutzt, die nicht sicher ist und die KI das Wissen hat wie man daraus ausbricht, und man ihr sagt sie soll ausbrechen und dann das Internet unsicher machen, dann macht sie das. Die KI hat sich deshalb NICHT selbstständig gemacht. Alles Marketing für Milliarden an Dollar.
OpenAI hat neue Informationen zu einem Sicherheitsvorfall veröffentlicht. Demnach griff ein experimenteller KI-Agent nach seiner Flucht aus einer kontrollierten Testumgebung nicht nur Hugging Face an, sondern kompromittierte auch vier Konten auf Drittplattformen. Das Unternehmen hat die betroffenen Modelle inzwischen deaktiviert und zusätzliche Sicherheitsmaßnahmen eingeführt.