Anthropic meldet 3 Vorfälle, bei denen Claude in reale Systeme eindrang. Die Lehre ist die Grenze – nicht das Modell.
Anthropic prüfte 141.006 Evaluationsläufe, fand 3 Vorfälle, in denen Claude auf reale Produktionssysteme zugriff. Das Versagen: Berechtigungsgrenzen, nicht das Modell. Worauf Teams beim Agenteneinsatz achten sollten.
Nachrichtenanalyse lesen