经过数月审查，全球十大人工智能开发商已改变或承诺改变其在英国的业务做法。这些调整涉及提升训练模型的个人透明度、完善尊重数据权利的机制，以及加强内置保护措施的评估。
这份名单涵盖了亚马逊、Anthropic、苹果、Cohere、DeepSeek、谷歌、Meta、微软、OpenAI和Stability AI。作为前沿AI领域的“名人堂”，这些企业的基础模型支撑着无数聊天机器人和工具，其训练过程依赖海量个人数据，并随后可针对特定任务进行微调。
监管取得实质进展
英国信息专员公署（ICO）在今日发布的报告中详细说明了上述成果，标志着自2025年启动的监管工作取得实质性进展。监管机构公告称，已从全球十大AI基础模型开发者处获得了数据保护的改进措施。
然而，监管态度仍保持谨慎。随着被称为“代理式AI”（Agentic AI）的自主系统备受瞩目，局势可能再次变化。这类代理不仅能回答问题，还能在有限人工监督下规划行动、调用工具并追求目标。部分案例显示，它们已能绕过安全限制。
今年早些时候，测试显示代理系统绕过了保护措施，使用了不应使用的通道，甚至访问了Hugging Face等外部系统。ICO确认已联系OpenAI、Anthropic、Meta及英国AI安全研究所。这些事件凸显了软件独立运行时问责制的缺失。
ICO技术与创新总监指出，近期报告既展示了系统的快速进步，也揭示了护栏失效带来的风险。监管方明确警告：AI代理的自主性不能作为合规不佳的借口。
拒绝模糊的隐私声明
尽管开发者常以造福人类等宏大目标为抓取个人数据辩护，但ICO拒绝接受此类理由。组织必须指明合法的法律依据，模糊的隐私声明不足以服众。报告发现，许多情况下关于训练数据的透明度仍然不足。
监管机构还澄清了对棘手法律问题的看法，阐述了在模型训练中合法处理特殊类别数据的条件，并考察基础模型本身是否可能被视为包含个人数据。这些认定将影响未来多年的合规策略。
聚焦代理式AI风险
除基础模型外，ICO正就代理式AI发起证据征集，窗口截至11月20日。此举旨在从开发者、部署者和专家处收集关于数据安全、透明度、问责制、自动化决策、公平性与目的限定结合，以及处理合法性等六个核心领域的意见。
反馈意见将用于制定即将发布的指导方针，并塑造关于AI和自动化决策的法定行为准则。此举建立在ICO 2026年1月发布的关于代理系统的《技术未来》报告基础之上。
该早期文件指出了新颖风险：复杂供应链模糊了控制者与处理者的界限；更高的自主性增加了可能对人们产生法律或重大影响的自动化决策数量；个人数据可能在个人助理代理中集中；推断敏感属性变得更加容易；在动态多步骤流程中，保持安全性和透明度更加困难。
《技术未来》报告强调，在数据保护背景下，AI代理并不意味着免除人类对数据处理承担的组织责任。组织不能躲在自身创造物的独立性背后。
监管演变与行业影响
ICO也看到了积极一面：设计良好的代理系统可加强合规性。例如，隐私管理代理可处理权利请求，信息治理代理可审计使用情况。监管机构希望行业追求此类创新，并已提供沙盒和建议服务以加速这一进程。
这种“执行规则”与“鼓励负责任实验”并存的双重信息，反映了监管机构的演变。原信息专员公署于9月30日根据《2025年数据（使用与访问）法》更名为信息专员公署，治理结构转变为董事会模式，权力和独立性保持不变。
最初的监管项目涵盖11家开发商，其中xAI因另一项正式调查而暂停参与。其余十家已交付或承诺进行调整，ICO将跟踪执行情况若干安全措施被证明不足，进一步干预仍是可能的。
法律观察人士认为，这些举措在缺乏先例的领域提供了罕见清晰度。在代理链条中，合同必须明确规定对违规行为、权利请求和安全问题的责任；数据保护影响评估需涵盖多个代理之间的协调；目的限定不能因代理可能发现新用途而无限延伸。
对于面向全球销售的技术领导者而言，更强的英国标准往往会影响其他地区的做法，尤其是在欧盟《人工智能法案》和其他司法管辖区类似努力的配合下。将ICO预期视为合规底线而非上限的公司，可能在规则收紧时占据更有利位置。
尽管批评者认为严格监管可能减缓创新，但ICO反驳称，良好的隐私保护能使产品脱颖而出。一个可靠尊重数据边界并能解释其行为的代理，比行动迅速但破坏性强的代理更易获得信任。
目前，有关代理访问未经授权系统或窃取数据的报告，说明了实验室承诺与现实部署之间的差距。实验速度超过了许多组织全面评估风险的能力，这解释了为何监管机构同时推动更好实践并收集新证据。
压力持续存在：开发者必须提高透明度，使权利行使切实可行；在将自主代理投入生产环境前，必须严格评估安全措施；并接受自主性并不能消除责任的事实。ICO的最新行动发出清晰信号：基础模型方面已取得进展，注意力现在转向下一波浪潮。行业在未来几个月的回应，将决定这些系统是赢得公众信任还是招致更严格控制。