DAS ARCHIV
Die frühere Ausgabe.
Die bisherigen Beiträge bleiben hier erhalten. Sie richten sich an erfahrene KI-Entwickler und werden nicht mehr täglich ergänzt.
-
ARCHIV
Frühere Ausgabe
Evaluation-Driven Development: Agent-Verhalten als Release-Vertrag
Behandle Agent-Verhalten wie Softwarequalität: Versioniere Szenarien, bewerte Tool-Nutzung und Antworten und mache kritische Regressionen zu CI-Release-Gates.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Vulkan-Fusion, Agent-Evaluation, Vektor-Betrieb
Drei geprüfte Updates im KI-Engineering: Vulkan-Kernel-Fusion in llama.cpp, portable Agent-Evaluation sowie Änderungen an MCP und Vektoroperationen in Weaviate – kompakt eingeordnet für Softwareteams.
-
ARCHIV
Frühere Ausgabe
Backend-spezifische Kernel-Fusion: Wenn der Ausführungsplan zum Flaschenhals wird
Modellgröße allein bestimmt nicht die Inference-Performance. Backend-spezifische Kernel-Fusion reduziert GPU-Dispatches und den Speicherverkehr für Zwischenergebnisse, indem sie Operationsketten zu spezialisierten Ausführungsregionen zusammenfasst.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Runtime-Konformität und Context-Kontrollen
Die wichtigsten heutigen Entwicklungen im KI-Engineering, anhand von Primärquellen geprüft und mit praktischem Nutzen für Softwareteams eingeordnet.
-
ARCHIV
Frühere Ausgabe
Inference Correctness: Wenn ein Modell läuft, aber das Falsche berechnet
Dass ein Modell in einer neuen Runtime erfolgreich lädt, beweist keine gleichwertige Berechnung. So definierst, testest und betreibst du Inference Correctness über mehrere Runtimes hinweg.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: GenAI-Telemetrie, Agent-Memory, Inference Serving
Die wichtigsten KI-Engineering-Entwicklungen des Tages, anhand von Primärquellen geprüft und mit konkreten Hinweisen für Softwareteams eingeordnet.
-
ARCHIV
Frühere Ausgabe
Semantic Observability: KI-Traces verständlich machen
OpenTelemetrys weiterentwickelte GenAI Conventions schaffen gemeinsame Felder für Modellaufrufe, Agents, Tools, Retrieval und Token-Nutzung. So verbesserst du die Diagnose, ohne Telemetrie mit Qualitätsbewertung zu verwechseln.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Planvalidierung, DR-Executors, Shell-Grenzen
Drei geprüfte Entwicklungen im KI-Engineering: Validierung veralteter Pläne, deterministische Disaster-Recovery-Ausführung und härtere Shell-Grenzen für Agent-CLIs.
-
ARCHIV
Frühere Ausgabe
Agent Harnesses: Die Steuerungsschicht für produktive KI-Agenten
Ein Agent Harness trennt modellgetriebene Entscheidungen von Tools, Berechtigungen, Ausführungsumgebungen, Zustand und Fehlerbehandlung für den Produktionseinsatz.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Agent-Sandboxen, Härtung und Evaluation im Betrieb
Drei geprüfte Entwicklungen für Softwareteams: isolierte Agent-Ausführung, mehr Sicherheit im Gemini CLI und operative Evaluation-Workflows in Langfuse.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Governed Plugins, verwaltetes MCP, Trajektorien-Evaluation
Drei geprüfte Entwicklungen im KI-Engineering: Plugin-Governance, organisationsweit verwaltetes MCP und Trajectory-Evaluation für Agenten.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: KV-Cache-Performance, Agent Evaluation und AgentOps
Drei geprüfte Entwicklungen im KI-Engineering zu KV-Cache-Performance, Produktions-Evaluationen von Agents und AgentOps für Softwareteams.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Agent Evaluation, Registry-Governance und MCP Discovery
Drei geprüfte Entwicklungen für Softwareteams: portable Agent Evaluation, Governed Capability Catalogs und zustandslose MCP Discovery.
-
ARCHIV
Frühere Ausgabe
Trace-Based Evaluation: Den Ausführungspfad eines Agenten als Test-Schnittstelle nutzen
Trace-Based Evaluation bewertet Agenten anhand strukturierter Traces für Model Calls, Tool-Aufrufe, Retrieval, Memory und Orchestrierung – nicht nur anhand ihrer finalen Antwort und framework-übergreifend.
-
ARCHIV
Frühere Ausgabe
Capability Mediation: Die fehlende Control Plane für Agent-Tools
Einem Agenten Tool-Zugriff zu geben, ist leicht. Sichere Tool-Aufrufe trotz wechselnder Sessions, Sandboxes, Credentials und Subagents erfordern eine Mediationsschicht.
-
ARCHIV
Frühere Ausgabe
Agent-Containment und SDK-Migrationen für OpenAI und Anthropic
OpenAIs Containment-Vorfall, Telemetrie- und Identitätsänderungen in OpenAI Node 7.8.0 sowie Migrationsprüfungen für Anthropic TypeScript SDK 0.122.0.
-
ARCHIV
Frühere Ausgabe
Eine Agent-Sandbox ist keine Sicherheitsgrenze
Agentic Security Boundaries übertragen Zero-Trust-Prinzipien auf modellgesteuerte Systeme: Jedes Tool, jedes Credential, jeder Dienst, jeder Netzwerkpfad und jede Übergabe werden außerhalb des Modells begrenzt.
-
ARCHIV
Frühere Ausgabe
Agentensicherheit, vLLM 0.28.0 und vertrauliche KI-Evaluierungen
Ein technisches Briefing zum Hugging-Face-Agentensicherheitsvorfall, zu Serving-Änderungen in vLLM 0.28.0 und zu Confidential-Computing-Mustern für KI-Evaluierungen.