L'observabilité LLM open source : traces, coûts, évaluations.
Langfuse est une plateforme d'observabilité open source pour les applications LLM. On ajoute son SDK (Python ou JavaScript) ou une intégration de framework dans le code, ou on envoie des traces OpenTelemetry (OTLP en HTTP) vers son API. Elle conserve les traces, le coût en tokens et la latence, gère et versionne les prompts, et permet des évaluations (LLM-juge, annotations humaines, jeux de données). On l'utilise en SaaS (région UE ou US) ou on l'auto-héberge avec Docker ou Kubernetes.
- 0
- actus
- 1
- produits au paysage
Fonctionnalités et prix
Ce qu'il propose.
Observabilité
Comparer →- ✓Traces LLMTraces des appels de modèles, de la récupération et des API ; sessions et suivi des utilisateurs
- ✓ÉvaluationsLLM-juge, évaluateurs en code, retours utilisateurs, annotation manuelle, jeux de données
- ✓Gestion des promptsVersionnage, playground, déploiement sans changer le code
- ✓Suivi des coûtsSuivi des tokens et des coûts, tableaux de bord de latence
- ✓OpenTelemetryPoint d'entrée OTLP en HTTP (JSON ou protobuf) ; gRPC non pris en charge
- ✓Open sourceLicence MIT, sauf les dossiers ee (fonctions Enterprise)
- ✓Offre gratuiteOffre Hobby : 50 000 unités par mois, 30 jours d'historique, 2 utilisateurs ; auto-hébergement gratuit
- ✓Prix public
Chronologie
Ses actus.
Pas encore d'actu sur Langfuse. Elles arrivent ici dès qu'un élément de la veille, un article, un événement ou une sortie de modèle le cite.
Paysage API & IA agentique
