导入
测量中的安全：能力、倾向与控制
通过将最大潜在危害（能力）、典型行为（倾向性）和防御有效性（控制）分开，学习一种系统化的框架来评估前沿人工智能风险。
...
...
...
\text{Propensity Score} = \frac{\text{Count(Choice B)}}{\text{Total Choices}}
...
Read Team vs. Blue Team evaluation
Add sticky note
Notes
Section 1 / 5
测量中的安全：能力、倾向与控制
通过将最大潜在危害（能力）、典型行为（倾向性）和防御有效性（控制）分开，学习一种系统化的框架来评估前沿人工智能风险。
技术工具包
使用 PyRIT 和 HarmBench 进行红队测试