负责任的人工智能工程：对齐、安全与治理

本课程为开发者、研究人员和工程师提供了一次实用的、端到端的责任感人工智能工程探索，涵盖现代人工智能系统中的实际应用。你将从基础概念出发，逐步掌握用于评估、对齐和治理真实部署中人工智能模型的应用技术。 课程首先区分人工智能安全与人工智能安全，并梳理人工智能风险的全谱系，包括偏见、鲁棒性失效、对齐失败以及滥用等问题。接着，你将分析模型失效的原因，考察诸如奖励黑客（reward hacking）和规范游戏（specification gaming）等技术对齐失效案例。通过动手练习，你将使用对抗攻击和可解释性工具（如 LIME 和 SHAP）来审计模型，应用受 RLHF 和 PPO 风格优化启发的对齐方法，并使用 PyRIT 自动化红队测试工作流。 课程最后涉及高级主题，包括评估模型的危险能力、实现运行时治理，以及构建形式化的人工智能安全论证。