La supervision d'infrastructure, étendue aux LLM et aux agents.
Datadog LLM Observability, que la documentation appelle maintenant Agent Observability, ajoute le suivi des appels de modèles et des agents à la plateforme de supervision Datadog. On l'active avec le SDK Datadog (Python, Node.js ou Java), qui instrumente les clients de modèles, ou en envoyant des traces OpenTelemetry (conventions GenAI) sans agent Datadog. On suit coût, latence et erreurs, et on lance évaluations et expériences sur des jeux de données. C'est un service SaaS de Datadog.
- 0
- actus
- 1
- produits au paysage
Fonctionnalités et prix
Ce qu'il propose.
Observabilité
Comparer →- ✓Traces LLMTraces de bout en bout des appels de modèles, workflows et agents
- ✓ÉvaluationsLLM-juge personnalisé, évaluations prêtes à l'emploi, files d'annotation humaine, retours des utilisateurs ; expériences sur jeux de données versionnés
- ✓Gestion des promptsRegistre de prompts versionnés (Prompt Management) et suivi des versions utilisées par appel (Prompt Tracking)
- ✓Suivi des coûtsCoût estimé d'après les tarifs publics des fournisseurs et les tokens, avec prix personnalisables
- ✓OpenTelemetryTraces OTLP en conventions GenAI (OpenTelemetry 1.37 et plus) ou OpenInference, sans SDK Datadog ni Agent
- —Open sourceService SaaS de Datadog
- ✓Offre gratuitePlan Free : 40 000 spans LLM par mois, 15 jours de rétention
- ✓Prix public
Chronologie
Ses actus.
Pas encore d'actu sur Datadog. Elles arrivent ici dès qu'un élément de la veille, un article, un événement ou une sortie de modèle le cite.
Paysage API & IA agentique
