Logo
Section 1 / 2

在 LlamaIndex 中追踪和调试 AI 系统

了解如何使用 LlamaIndex 内置的日志记录、性能分析和系统优化工具来追踪和调试大语言模型(LLM)应用。

导入

在 LlamaIndex 中追踪和调试 AI 系统

了解如何使用 LlamaIndex 内置的日志记录、性能分析和系统优化工具来追踪和调试大语言模型(LLM)应用。

...
1import logging 2 3# 配置日志 4logging.basicConfig(level=logging.INFO) 5logger = logging.getLogger(__name__) 6 7# 模拟响应获取的示例函数 8def retrieve_response(query): 9 logger.info(f"正在处理查询: {query}") 10 response = "这是一个示例响应。" 11 logger.info(f"生成的响应: {response}") 12 return response 13 14# 测试日志功能 15response = retrieve_response("LlamaIndex 是什么?") 16print(response)

在索引构建、查询和智能体使用中启用简单追踪

1import llama_index.core 2llama_index.core.set_global_handler("simple")

No configuration found for ID: cf99975143486c6309e56bba8ac7594dd9bee1e0cc0a38ab8099fd47935fdb28

No configuration found for ID: 9cfcd24e69c11bacdf64a01f7544dfdc1f863985fe340384f87c482d9842903a

追踪示例

1********** 2Trace: index_construction 3 |_CBEventType.EMBEDDING -> 1.38 秒 4**********

集成并使用 LlamaTrace 与 LlamaIndex 所需的安装

1!pip install -U llama-index-callbacks-arize-phoenix -q arize-phoenix

Arize Phoenix API 密钥

1PHOENIX_API_KEY = "YOUR_PHOENIX_API_KEY"

配置 Arize Phoenix 用于日志记录和可观测性

1os.environ["OTEL_EXPORTER_OTLP_HEADERS"] = f"api_key={PHOENIX_API_KEY}" 2llama_index.core.set_global_handler( 3 "arize_phoenix", endpoint="https://llamatrace.com/v1/traces" 4)

No configuration found for ID: 76a41248efdae2ff0ead22f62aea093f4bbaaff393155c8fcb482301d539de09

...
LlamaTrace 仪表板

代理与工作流

使用 LlamaIndex 评估 AI 应用