为什么需要风险分层
不是所有AI任务的风险都相同,把"读取一篇公开文章"和"删除企业数据库记录"放在同一套安全策略下管理,要么会因为过度限制影响低风险任务的效率,要么会因为策略过松而给高风险任务留下漏洞。风险分层的目的是给不同任务匹配相应强度的安全控制。
分层维度一:数据敏感度
任务涉及的数据是公开信息、内部一般信息,还是高度敏感的客户或财务数据,直接决定了这次任务的风险基线。
分层维度二:操作可逆性
读取类操作通常可逆、影响有限;写入、发送、删除、导出类操作往往难以撤销,一旦出错代价更高,需要更严格的控制,详见Agent权限矩阵中读、写、发送、删除、执行、导出六类能力的风险等级划分。
分层维度三:影响范围
操作影响的是单个用户的个人数据,还是可能波及多个客户或整个系统,影响范围越大,需要的审批和监控级别越高。
落地方法
建议企业为AI任务建立类似"低/中/高"的风险等级标签,低风险任务可以由Agent自主完成,中风险任务增加日志记录和事后抽查,高风险任务强制人工确认,详见高风险操作为什么需要人工确认。