Die heutigen KI-Trends
Agent-Evaluationen verlagern sich von Antworten zu Endzuständen. Die NVIDIA-Leitlinie vom 21. September empfiehlt, Tool-Aufrufe in einer Umgebung auszuführen, Zustand über Schritte hinweg zu verfolgen und Prozessqualität getrennt vom finalen Task-Abschluss zu bewerten. Praktisch heißt das: Agent-Releases an verifizierte Postconditions koppeln und Traces für die Diagnose behalten, statt sich auf eine überzeugende Abschlussantwort zu verlassen. NVIDIA Technical Blog
Agenten mit Codeausführung werden als eingeschränkte Workloads behandelt. Eine AWS-Fallstudie beschreibt, dass Benchling AgentCore Code Interpreter im VPC-Modus mit Route 53 Resolver DNS Firewall und VPC Endpoint Policies kombiniert, um Wege zur Datenexfiltration zu verringern; nach dem Deployment berichtet sie von mehr als 600 Code-Execution-Sessions pro Tag und mehr als 250 unterschiedlichen Mandanten pro Woche. Praktisch folgt daraus: Prozessisolation allein reicht nicht. Plane Network Egress, DNS, Endpoint-Zugriff, Credentials und Mandantengrenzen explizit. AWS Machine Learning Blog