Langfuse
LLM 可观测性与追踪平台
一句话总结
开源的 LLM 可观测性平台，用追踪、评估与监控记录应用表现。
核心功能 / 特点
- 记录每次调用的完整链路与提示词
- 支持数据集评估与人工标注
- 可自行部署，数据留在自己环境
适用场景
- 排查线上 LLM 应用的异常输出
- 持续评估提示词改动带来的效果变化
同类推荐
- LangChain —— 构建 LLM 应用的主流框架
- LlamaIndex —— 面向 RAG 的数据框架
- LiteLLM —— 统一 100+ 模型 API 的代理层
- promptfoo —— 提示词与模型输出测试工具