网络安全的经典范畴

传统网络安全关注网络、终端、身份、数据这几个基础设施层面的攻防:谁能访问系统、流量是否异常、终端是否被植入恶意程序、数据是否被非法访问。这套体系已经发展多年,方法论相对成熟。

大模型安全的独特问题

大模型安全在此基础上,额外关注模型本身的判断可靠性:模型是否会被输入内容误导、是否会在不该输出敏感信息时输出、是否会被诱导执行超出预期的行为。这类问题的根源在于模型基于概率进行推理,其决策过程与传统软件基于明确规则运行的方式不同,因此需要专门的方法(如提示注入防御、评测、红队)来管理。

互为补充而非替代

大模型安全依赖网络安全提供的身份验证、访问控制等基础能力才能有效落地;反过来,网络安全体系也需要因为AI应用的引入而扩展新的防护环节,例如为AI Agent建立独立的身份管理机制。两者的关系更像是同一栋建筑里的不同楼层,而不是两套互不相关的系统,详见金宝博网络安全和金宝博AI安全。

实践建议

企业在评估AI应用安全时,不应把大模型安全和网络安全割裂看待,而应先确认基础的身份、终端、网络安全能力是否到位,再叠加针对模型和Agent的专门防护措施。