Die heutigen KI-Trends
OpenTelemetry trennt seine GenAI Semantic Conventions in ein eigenes Repository aus; dokumentiert ist ein Vokabular für Agent- und Workflow-Operationen, Modelle, Token-Daten, Retrieval und nachrichtenbezogene Felder. Die Conventions sind aktiv, aber noch nicht vollständig stabil. Teams sollten daher benötigte Felder standardisieren und versionssensible Mappings kapseln. OpenTelemetry
AWS veröffentlichte eine Referenzarchitektur für Lifecycle Policies von AgentCore Memory. Sie verwendet nächtliche Step-Functions-Workflows für Pruning, Scoring, Consolidation, Metriken und Audit-Output und kombiniert TTL-Ablauf, Relevance Decay anhand von Aktualität und Zugriffen sowie LLM-basierte Consolidation. Die praktische Folge: Entwirf Aufbewahrung und Löschung zusammen mit Retrieval, statt Agent-Memory unbegrenzt anwachsen zu lassen. AWS Machine Learning Blog
SGLang 0.5.19 nennt 786 Pull Requests von 214 Contributors und ergänzt Beam Search sowie Deployment-Hinweise für neue Modellfamilien und Accelerator-Konfigurationen, darunter Hinweise zu FP8 KV-Cache und Host-Memory-Tiers für ausgewählte Deployments. Für Plattformteams wird Serving damit zunehmend zu einem Kompatibilitäts- und Memory-Hierarchy-Problem, nicht nur zu einem HTTP-Endpunkt vor einem Modell. SGLang Release Notes