AI Agent安全专题

围绕"谁在操作、被允许做什么、能看到什么数据、能执行什么动作"展开的Agent安全知识合集。

专题介绍

AI Agent安全专题聚焦具备工具调用和自主行动能力的AI系统。与传统聊天机器人不同,Agent的判断失误可能直接转化为一次邮件发送、一次文件删除或一次数据导出,因此Agent安全需要额外覆盖身份、权限、数据和操作四个层面。本专题按照"Agent安全四问"(WHO/CAN/DATA/ACTION)组织内容,从最基础的"什么是Agent安全",到具体的最小权限设计、工具调用风险、浏览器Agent场景,再到多Agent协作场景下的新增风险,力求覆盖企业在实际部署Agent时会遇到的主要安全问题。

本专题内容与Prompt Injection防御专题、Agent身份与授权专题密切相关:Prompt Injection是Agent可能被误导的主要途径之一,身份与授权则是限制误导后果的核心手段,建议三个专题结合阅读。

专题文章