
长期以来,企业人工智能的讨论焦点集中在模型智能程度与GPU算力上。然而,随着AI能力超越多数组织的实际应用范围,真正的鸿沟已转向“信任”。
这是思科系统(Cisco Systems Inc.)在墨尔本举办的Cisco Live APJC大会上发布的新研究报告《许可规模化:信任在成功采用AI中的关键作用》的核心发现。该报告由独立研究员Brad Howarth撰写,基于对25家澳大利亚组织的数据分析。
澳大利亚:极具参考价值的“困难模式”
澳大利亚被视为一个关键的测试案例。引用墨尔本大学和毕马威的研究显示,虽然半数澳大利亚人定期使用AI,但仅有36%的人信任它,仅30%认为其益处大于风险,这在47个受访国家中排名最低。思科澳大利亚和新西兰副总裁兼总经理Stefan Leitl指出,若能在澳大利亚建立对AI的信任,这套方法论将具备全球可扩展性。
被忽视的文化支柱
思科ANZ首席技术官Carl Solder指出,在思科AI就绪指数的六大支柱中,CIO和CTO往往专注于基础设施和数据,而将“文化”留给其他部门。他举例称,某客户虽在基础设施、治理和技能上投入巨资,却因忽视文化导致员工和客户对工具产生强烈抵触。
这种现象普遍存在:企业花费数百万美元部署AI平台,利用率却依旧低迷。报告提出“飞轮”效应——成功的使用创造证据,证据建立信任,信任促进更广泛的使用。许多公司误以为需先建立信任再部署AI,实则信任需要通过可衡量的使用证据来构建。
此外,对AI的完美主义期望正在侵蚀信任。尽管AI错误率通常远低于人类(如特斯拉Autopilot每700万英里发生一次碰撞,而人类驾驶员为每100万英里),但单次错误往往引发过度反应。用户需理解,现实目标并非完美,而是比人工更快、更准确。
领导力示范与透明沟通
高层以身作则至关重要。Flight Center Travel Group创始人Graham “Skroo” Turner虽曾质疑互联网,如今却是Anthropic Claude的重度用户,其态度为员工尝试AI提供了“许可”。TBWA Australia首席AI官Lucio Ribeiro则提出信任方程:所有权、能力、一致性和透明度。他建议,企业不应虚假承诺保住所有岗位,而应承诺让员工成为“准备最充分、培训最到位”的人才。
Funlab集团通过“AI超级小队”进行同伴学习,初期重点在于明确哪些工具是安全的,以消除员工对“是否被允许使用”的困惑。
校准信任:从登录量到覆盖率
报告核心概念为“校准后的信任”,即明确何时依赖AI、何时验证输出、何时由人类决策。Elmo Software首席人事官Anna Tosky警告,“AI生成的垃圾内容”真实存在,盲目接受未经审查的报告会导致严重错误。她主张重新设计工作流程,保留人工干预环节,避免“AI大脑疲劳”及员工因缺乏重复练习而丧失专业知识构建机会。
在衡量指标上,报告建议IT领导者停止将登录次数作为信任的代理指标,转而跟踪员工挑战或覆盖AI输出的频率。使用情况仅显示点击行为,而覆盖速率反映思考过程。从未反对AI的员工群体并非成功标志,而是警示信号。
Agent时代的基础设施升级
随着AI从内容生成转向自主行动的Agent,赌注进一步提高。Flight Centre已部署处理部分机票预订业务的Agent,并从首日纳入安全部门管控。然而,思科《2026 Relentless Defense》报告显示,仅36%的澳大利亚组织对AI Agent和非人类身份应用了一致的控制措施,过半数受访者表示需升级基础设施以实现“有界自主性”。
Solder认为,信任必须在网络和安全性层面强制执行。思科正押注其网络、安全和Splunk组合将成为Agentic AI的信任层,将控制从“刹车”转化为“加速移动的许可”。
给IT领导者的五项建议
- 将AI提升为领导团队项目:HR和CFO应与CTO并肩作战,视AI为文化变革而非单纯技术项目。
- 从小处着手并展示成果:从低风险胜利开始,公开包括错误率在内的结果,用证明而非命令传播信任。
- 使护栏显而易见:清晰界定AI使用边界,消除员工对合规范围的困惑,赋予实验信心。
- 衡量正确的事物:追踪员工挑战或覆盖AI输出的频率,而非仅关注登录量。
- 先修复基础再交出钥匙:在扩大Agent自主权前,升级身份、监控和控制措施,确保自主权紧随准备程度之后。
正如Solder所言:“研究中的领导者并非首先在扩展AI,而是在扩展信任。”AI的最终赢家,将是那些拥有足够信任系统去执行更多任务的员工、董事会和客户的组织。