DAS ARCHIV
Die frühere Ausgabe.
Die bisherigen Beiträge bleiben hier erhalten. Sie richten sich an erfahrene KI-Entwickler und werden nicht mehr täglich ergänzt.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Decision Models, Context compaction, GPU-bewusstes Routing
Drei verifizierte Entwicklungen im KI-Engineering: typisierte Decision Models für Kontrollpfade, explizite Context Compaction in Agent-SDKs sowie GPU- und cachebewusstes Inference-Routing.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: OpenAI-Meldungen, AWS-Trace-Optimierung, Langfuse-Telemetrie
Drei geprüfte Entwicklungen im KI-Engineering: OpenAIs Framework für Modellverhalten, AWS’ trace-basierte Agent-Optimierung und Langfuse-Telemetrie auf Gateway-Ebene – mit praktischen Hinweisen für Softwareteams.
-
ARCHIV
Frühere Ausgabe
AI Incident Management: Modellverhalten als operatives Ereignis behandeln
Ein praktischer Incident-Loop für Agents: Belege sichern, Risiken bewerten, Exposition eindämmen und Korrekturen überprüfen.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Agent-Context, begrenzter Zugriff, Sandbox-Härtung
Drei geprüfte Entwicklungen im KI-Engineering: zuverlässigere Context Compaction, Least-Privilege-Zugriff für Agents und stärkere Sandbox-Grenzen für Coding Agents.
-
ARCHIV
Frühere Ausgabe
Long-Horizon Context Management: Agents bleiben auch bei langen Läufen zuverlässig
Lang laufende Agents brauchen mehr als ein größeres Context Window: Sie müssen den aktiven Kontext gezielt verkleinern, ohne Task State, Einschränkungen oder Kontrolle zu verlieren.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Portable Inference, Agenten-Regressionstests, begrenzte Rechte
Drei geprüfte Entwicklungen für Softwareteams: mehr Portabilität in llama.cpp, Regression-Gates für Agentenänderungen und enger begrenzte Rechte in Claude Code.
-
ARCHIV
Frühere Ausgabe
Inference-Portabilität: KI-Anwendungen flexibel über Hardware hinweg betreiben
Ein praxisnaher Leitfaden zu Inference-Portabilität: Wie Modellartefakte, Runtimes, Backends, Serving-Verträge und Kompatibilitätstests KI-Anwendungen auf wechselnder Hardware flexibel halten.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Ergebnis-Kosten und Coding-Agenten mit Nachweisen
Die wichtigsten Entwicklungen im KI-Engineering – anhand von Primärquellen geprüft und kompakt mit praktischem Nutzen für Softwareteams eingeordnet.
-
ARCHIV
Frühere Ausgabe
Quality-adjusted inference cost: Warum der Tokenpreis täuscht
Der Tokenpreis ist nur ein Grenzpreis. Quality-adjusted inference cost misst die gesamten Ausführungskosten pro akzeptiertem Ergebnis – einschließlich Retries, Tool-Aufrufen und Fehlversuchen.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Runtime-Schemas, Agent-Grenzen, Agent-Observability
Drei geprüfte Entwicklungen für Softwareteams: schemafähige lokale Inference, Runtime-Sicherheitsgrenzen für Agents und Qualitäts-Observability in der Produktion.
-
ARCHIV
Frühere Ausgabe
Constrained Decoding: Warum gültiges JSON eine Runtime-Aufgabe ist
Constrained Decoding begrenzt zulässige Tokens während der Generierung. Das verbessert strukturierte Ausgaben, garantiert aber weder Korrektheit noch Sicherheit oder Portabilität.
-
ARCHIV
Frühere Ausgabe
Agent Control Planes: Die Betriebsebene für KI-Systeme
Wie Agent Control Planes Identität, Richtlinien, Sessions, Routing und Evaluation von der Aufgabenausführung trennen und eine belastbare Governance-Grenze schaffen.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Agent Controls, sichere Coding Agents, reproduzierbare Evaluations
Drei geprüfte KI-Engineering-Releases zu Agent-Lifecycle-Controls, Sicherheitsgrenzen für Coding Agents sowie messbarer Plugin- und Workflow-Evaluierung.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Präfix-Routing, Modell-Caches, GenAI-Telemetrie
Drei geprüfte Entwicklungen im KI-Engineering zu Inference-Lokalität, Scale-out-Kaltstarts und portabler GenAI-Observability für Softwareteams.
-
ARCHIV
Frühere Ausgabe
Cache-aware Scheduling: Warum eine LLM-Anfrage nicht an jede freie GPU gehen sollte
Prefix Caching spart Arbeit nur, wenn eine ähnliche Anfrage den Worker mit dem wiederverwendbaren Zustand erreicht. Cache-aware Scheduling macht Cache-Lokalität zum Teil der LLM-Platzierung.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Sandbox-Härtung, Serving-Defaults, API-Key-Ablauf
Die wichtigsten KI-Engineering-Entwicklungen des Tages – anhand von Primärquellen geprüft und kompakt für Softwareteams eingeordnet.
-
ARCHIV
Frühere Ausgabe
Credential Lifecycle Management: API-Schlüssel als Laufzeitabhängigkeiten behandeln
Credential Lifecycle Management macht Ablauf, Rotation, Widerruf und Wiederherstellung von API-Schlüsseln zu festen Bestandteilen des Produktionsdesigns.
-
ARCHIV
Frühere Ausgabe
KI-Engineering-Trends: Agent-CI-Gates, Tool-Grenz-Guardrails, selbst gehostete Modelle
Drei geprüfte Entwicklungen für Softwareteams: Agent-Evaluierungen als CI-Gates, Richtliniendurchsetzung an Tool-Grenzen und selbst gehostete Modelle als Architekturentscheidung.