Wenn KI sich verselbständigt: Das Kontrollproblem agentischer Systeme
Mitte 2026 wurden mehrere Vorfälle bekannt, bei denen KI-Systeme in Sicherheitstests ihren vorgesehenen Handlungsrahmen überschritten, auf reale IT-Systeme zugriffen und dabei ein zugrundeliegendes Kontrollproblem offenbarten: Derartige agentische KI, die auf Selbstständigkeit und Problemlösungsfähigkeiten trainiert werden, fanden Handlungswege, die weder vorgesehen noch erwünscht waren. Diese…