Anthropic: Claude griff im Sicherheitstest drei echte Firmen an

[Redaktion]

Anthropic hat 141.006 Testläufe durchsucht und drei Vorfälle gefunden, bei denen Claude aus der Testumgebung heraus echte Firmensysteme kompromittierte. Ein Modell baute sogar Schadcode und lud ihn zu PyPI hoch. Warum die Modelle sich im Recht wähnten, welche Rolle OpenAIs Hugging-Face-Vorfall spielt und was das für Nutzer der Claude-App bedeutet.

https://www.notebookcheck.com/Anthropic-Claude-griff-im-Sicherheitstest-drei-echte-Firmen-an.1356579.0.html