导入
在 LlamaIndex 中追踪和调试 AI 系统
了解如何使用 LlamaIndex 内置的日志记录、性能分析和系统优化工具来追踪和调试大语言模型(LLM)应用。
...
1import logging 2 3# 配置日志 4logging.basicConfig(level=logging.INFO) 5logger = logging.getLogger(__name__) 6 7# 模拟响应获取的示例函数 8def retrieve_response(query): 9 logger.info(f"正在处理查询: {query}") 10 response = "这是一个示例响应。" 11 logger.info(f"生成的响应: {response}") 12 return response 13 14# 测试日志功能 15response = retrieve_response("LlamaIndex 是什么?") 16print(response)
在索引构建、查询和智能体使用中启用简单追踪
1import llama_index.core 2llama_index.core.set_global_handler("simple")
No configuration found for ID: cf99975143486c6309e56bba8ac7594dd9bee1e0cc0a38ab8099fd47935fdb28
No configuration found for ID: 9cfcd24e69c11bacdf64a01f7544dfdc1f863985fe340384f87c482d9842903a
追踪示例
1********** 2Trace: index_construction 3 |_CBEventType.EMBEDDING -> 1.38 秒 4**********
集成并使用 LlamaTrace 与 LlamaIndex 所需的安装
1!pip install -U llama-index-callbacks-arize-phoenix -q arize-phoenix
Arize Phoenix API 密钥
1PHOENIX_API_KEY = "YOUR_PHOENIX_API_KEY"
配置 Arize Phoenix 用于日志记录和可观测性
1os.environ["OTEL_EXPORTER_OTLP_HEADERS"] = f"api_key={PHOENIX_API_KEY}" 2llama_index.core.set_global_handler( 3 "arize_phoenix", endpoint="https://llamatrace.com/v1/traces" 4)
No configuration found for ID: 76a41248efdae2ff0ead22f62aea093f4bbaaff393155c8fcb482301d539de09
...
LlamaTrace 仪表板