专题介绍
AI红队和AI评测是两种互补的安全验证方法：评测（Evaluation）关注"AI系统在特定任务上表现是否可靠、是否可重复验证"，建立的是日常质量基线；红队（Red Team）关注"AI系统在对抗性场景下会不会被诱导做出不当行为"，在授权范围内主动寻找边界情况。随着Agent系统普及，红队测试的方式也在从"向模型提出危险问题、观察单次回答"演变为"模拟包含网页内容、工具调用和多步骤决策的完整任务链路"，公开研究显示自动化测试方法在覆盖广度上具有优势，但目前普遍观点是自动化红队应作为人工安全研究的补充而非替代。
本专题内容仅从测试方法论、风险分类和防御验证角度展开，不提供可直接执行的攻击脚本或攻击载荷，详见金宝博安全实验室栏目说明。