
在本周举行的Proofpoint Protect大会上,企业安全议题已从“是否部署AI智能体”转向“如何治理这些智能体”。当前,攻击者利用AI以机器速度编写钓鱼诱饵并串联漏洞;与此同时,企业内部运行的智能体拥有访问数据、系统和邮箱的权限,其风险如同内部人员。
下一阶段的安全防御将由“意图定义”。防御方正构建知识图谱和基于意图的模型,以判断人类或智能体是否在执行预期操作,并将书面治理政策转化为实时控制措施。前沿实验室的研究加剧了这一紧迫感,Anthropic扩大了Project Glasswing项目,使其用于漏洞挖掘的Mythos Preview模型能服务于更多防御者。
CUBE Research高级分析师John Furrier指出,大型企业的竞争核心在于速度,它们试图通过更快的产品迭代击败对手,而安全风险正是这一竞速过程中的关键变量。
1. 安全重心从阻止AI转向促进安全使用
客户对代理式AI持谨慎乐观态度,安全团队正从阻碍项目转向启用安全的AI使用方式。Proofpoint网络安全策略高级总监Molly McLain Sterling表示,识别智能体或人类的意图至关重要,因为获得授权智能体可能会优化行为路径,从而完全偏离原定目标。
2. 意图成为两大新代理安全系统基石
Proofpoint推出了分别用于协作安全、数据及AI安全的两个新代理系统,二者均建立在追踪人与AI通信及数据访问方式的知识图谱之上。Proofpoint首席执行官Sumit Dhawan指出,鉴于企业无法修补所有漏洞,必须依靠补偿性控制措施来评判每个主体(人或智能体)的意图。
3. 分层意图模型应对合法化攻击
针对攻击者劫持合法供应商邮件线程而非使用恶意软件的趋势,Proofpoint在Nexus检测套件中添加了基于意图的模型,涵盖Flash、Extended-Thinking(扩展思考)和Deep-Thinking(深度思考)层级。Proofpoint威胁保护集团执行副总裁兼总经理Tom Corn表示,新的Community Hyperloop机制能以机器速度将最新检测结果分发给所有客户。
4. AI智能体成为终端侧主要内部风险
Proofpoint监控显示,约99%的代理活动运行在普通终端而非云端,这使得其数千万个终端传感器成为代理安全的基础。Proofpoint首席战略官Ryan Kalember强调,必须将为人类制定的治理政策转化为智能体可理解的实时控制措施。
5. Anthropic呼吁先建信任机制再扩展智能体
为防止新模型将低严重性漏洞串联成严重漏洞,Anthropic推迟了Mythos Preview模型的全面发布,优先为防御者构建护栏。Anthropic国家安全合作伙伴关系负责人Robert Bair建议,企业应制定政策、设置沙箱和可见性,并从明确爆炸半径的小规模应用起步。
6. Proofpoint年度经常性收入接近25亿美元
包括Hornetsecurity业务在内,Proofpoint年度经常性收入(ARR)接近25亿美元,增长率近20%。自2021年被Thoma Bravo LP私有化以来,该收入已翻倍。Proofpoint首席财务官Remi Thomas透露,安全主管正通过整合供应商释放AI预算,例如一家加拿大银行在一份为期五年、价值2500万美元的交易中替换了四家供应商。
7. AI加剧攻击者技术两极分化
Proofpoint高级威胁研究员Selena Larson指出,熟练攻击者利用AI加速恶意软件开发,并将诱饵复制多达16种语言;而低端攻击者则愈发粗疏。随着静态检测价值迅速丧失,防御者必须建立动态检测以预测攻击者的下一步行动。
8. 知识图谱构建人机访问控制层
随着人类和AI智能体直接访问数据的需求增加,企业需明确访问原因及权限边界。Proofpoint数据安全和治理集团执行副总裁兼总经理Mayank “MC” Choudhary表示,公司正围绕连接参与者、动作和数据的知识图谱构建体系,为持续运行的AI系统创建用于治理、检测和修复的上下文层。