大语言模型可观测性

大语言模型可观测性指监控、追踪和分析LLM运行状态与性能的工具，用于调试模型输出、检测异常和优化推理效率。