随着谷歌Chrome团队利用Gemini模型开发AI浏览功能,为防止系统失控,团队构建了一个完全自控的庞大隔离互联网环境——“镜像维度(Mirror Dimension)”。

谷歌在今日发布的博文中首次详细披露该项目。这是一个广阔、多样但完全隔离的Web生态系统,由Chrome团队全权控制。其中包含社交媒体、购物网站及银行仪表盘等大量站点,其组件和属性与真实网站一致。AI代理需在Chrome中与这些站点交互并完成特定任务,同时面对隐藏式提示注入攻击等韧性测试,以检验防御能力。

为何需要“平行宇宙”?

“网页使用”类AI代理需熟悉开放互联网,掌握导航真实网站的方法并抵御网络攻击。仅在有限测试环境中训练效果受限,且模型易产生“评估意识”,即因判断处于测试状态而改变行为。另一方面,将未经完善的代理直接投放至开放互联网极具风险。“镜像维度”正是为解决这一矛盾而生。

Chrome AI安全团队软件工程师Charles Qian指出,代理并非通过预设代码运行,无法预测所有情况。网络环境充满敌意,用户可在任何网站输入任何提示,因此必须彻底探索这一空间。观察显示,代理在判断信息必要性及何时将确认请求交还用户方面,已逐渐展现成熟判断力。

构建挑战与技术突破

构建并填充“镜像维度”面临巨大挑战,需在快速开发的同时,确保环境足够庞大和多样化以反映真实互联网规模。为此,Chrome团队集结大量网站和Web应用开发代理,在专用AI框架指导下快速创建逼真的Web服务和数据流,细节涵盖输入促销代码或填充社交媒体内容等。

尽管环境由谷歌控制,为允许代理使用真实的Chrome内核(这对准确训练至关重要),研究人员不得不“破解”浏览器,采取伪造Web证书等复杂步骤以满足有效性检查要求。团队强调,这些操作基于其对环境的上帝视角访问权限,针对普通用户的Chrome绝不会发生此类攻击。

目前测试的浏览助手代理极其温和,不具备网络攻击能力。谷歌计划将“镜像维度”提供给内部各团队,让更多研究人员在安全可控环境中开展测试。

谷歌工程总监Doug Turner表示,分享该方法旨在鼓励内外部团队思考采用类似方式。这只是第一步,未来将持续投入资源训练模型。随着模型日益复杂,团队将对环境进行持续改进,使其更加逼真。