内容
0 课时 • 0 测验 • 0 挑战
课程暂未关联课时
当前课程存在，但没有可学习的课时内容。请稍后再试。
☆☆☆☆☆
0.0高级
3h
LLMOps：构建可投入生产的 LLM 系统
LLMOps 是在生产流量、成本限制以及安全威胁的背景下，确保 LLM 应用可靠运行的实践。在本课程中，你将通过从零开始构建并运营一个应用，同时考虑生产环境的约束，学习 LLMOps。 你将从传统机器学习向基础模型的转变开始，了解推动 LLMOps 出现的约束条件：随机输出、高昂的推理成本，以及新的运维产物如提示词和向量索引。你将应用 4D LLMOps 生命周期，定义质量门禁，防止项目在概念验证阶段停滞不前。 你将实现一个参考 RAG 架构，并使用黄金数据集验证检索效果。接着，你将对提示词进行版本管理，强制结构化输出，并引入基于 LLM-as-a-judge 模式的自动化评估和回归测试。最后，你将通过安全与合规控制、容器化部署，以及反馈回路，为生产环境做好准备，确保应用上线后质量持续提升。
6 课时
LLMOps：构建可投入生产的 LLM 系统
LLMOps 是在生产流量、成本限制以及安全威胁的背景下，确保 LLM 应用可靠运行的实践。在本课程中，你将通过从零开始构建并运营一个应用，同时考虑生产环境的约束，学习 LLMOps。
你将从传统机器学习向基础模型的转变开始，了解推动 LLMOps 出现的约束条件：随机输出、高昂的推理成本，以及新的运维产物如提示词和向量索引。你将应用 4D LLMOps 生命周期，定义质量门禁，防止项目在概念验证阶段停滞不前。
你将实现一个参考 RAG 架构，并使用黄金数据集验证检索效果。接着，你将对提示词进行版本管理，强制结构化输出，并引入基于 LLM-as-a-judge 模式的自动化评估和回归测试。最后，你将通过安全与合规控制、容器化部署，以及反馈回路，为生产环境做好准备，确保应用上线后质量持续提升。
LLMOps 是在生产流量、成本限制以及安全威胁的背景下，确保 LLM 应用可靠运行的实践。在本课程中，你将通过从零开始构建并运营一个应用，同时考虑生产环境的约束，学习 LLMOps。
你将从传统机器学习向基础模型的转变开始，了解推动 LLMOps 出现的约束条件：随机输出、高昂的推理成本，以及新...
你将学到什么
对 LLMOps 的含义有清晰的理解，并了解在使用大语言模型时，它与 MLOps 的区别
动手实践构建一个具有独立数据摄入和推理管道的 LLM 应用架构
RAG 方面的强技能，包括文本分块、创建嵌入、存储向量，以及使用黄金数据集检查结果
将提示词作为版本化系统资产进行管理、强制执行严格的输出格式，以及通过结构化提示模式降低提示注入风险的能力
对大语言模型评估的熟练掌握，包括使用大语言模型作为评判者进行评分、可重复的测试，以及利用人类反馈来改进回答
生产环境加固的实战经验，包括符合 OWASP 标准的安全控制、使用容器化部署，以及针对成本和延迟的容量规划
对 LLMOps 的含义有清晰的理解，并了解在使用大语言模型时，它与 MLOps 的区别
评价
阅读参加过此课程的学生的评价，并分享您的学习体验。