一、文件的法律性质:不是法律,但有强监管信号
从形式上看,它更像政策性、指导性文件,而不是直接创设法律责任的法律。也就是说,单独违反其中某一句原则,未必当然产生行政处罚。
但从监管实践看,这类文件通常具有三重作用:
第一,作为后续立法、部门规章、国家标准、行业标准的政策依据;第二,作为监管机关判断企业是否“尽到安全管理义务”的参考;第三,作为重点行业试点、备案、检测、评估、认证、召回等制度设计的基础。文件中已经明确提到备案、检测、问题产品召回、第三方评测、认证互认、信用评价、强制性标准等机制,这说明它不是空泛倡议,而是在为后续“软法转硬法”铺路。
二、监管重心:从“模型合规”转向“行为合规”

过去中国AI合规主要关注几个问题:训练数据是否合法、生成内容是否违法、算法推荐是否透明、深度合成是否标识、个人信息处理是否合法。现在智能体带来的新问题是:它会不会替人做决定、替人操作账号、替人发消息、替人下单、替人支付、替人调度设备、替人进入业务系统。
所以这份文件最核心的法律逻辑是智能体监管的对象,不只是“输出内容”,而是“执行行为”。
文件中要求“明确决策权限”,要求厘清仅限用户本人决策、需用户授权决策、智能体自主决策的边界,并确保用户对智能体自主决策享有知情权和最终决策权,且执行操作不得超出用户授权范围。 这与《个人信息保护法》中关于自动化决策的规则形成衔接,通过自动化决策作出对个人权益有重大影响的决定时,个人有权要求说明,并有权拒绝仅通过自动化决策作出决定。
三、真正的合规难点:智能体的“权限”比“回答”更危险
普通聊天机器人回答错了,风险主要是信息误导;智能体如果接入邮箱、日历、支付、OA、CRM、ERP、医疗系统、金融系统、政务系统,风险就会升级为真实世界的损害。
因此,企业不能只做“内容审核”,还要做权限审核、操作审核、日志审核、结果审核和人工复核。
四、与现行AI规则的关系:不是替代,而是叠加

这份文件不是孤立存在的。智能体产品在中国落地时,通常会同时受到以下规则约束:
如果智能体面向中国境内公众提供文本、图片、音频、视频等生成服务,就可能适用《生成式人工智能服务管理暂行办法》。该办法明确适用于利用生成式人工智能技术向中国境内公众提供生成内容的服务,并强调发展和安全并重、依法治理、包容审慎和分类分级监管。
如果智能体涉及排序、推荐、个性化推送、调度决策、内容分发等功能,还可能适用《互联网信息服务算法推荐管理规定》。该规定的监管目标包括规范算法推荐活动、维护国家安全和社会公共利益、保护公民法人合法权益,并要求算法推荐服务依法运行。
如果智能体生成合成文本、图片、音频、视频、虚拟场景等内容,则还要考虑AI生成合成内容标识要求。《人工智能生成合成内容标识办法》规定,人工智能生成合成内容标识包括显式标识和隐式标识;符合相关情形的服务提供者开展生成合成内容标识活动,应适用该办法。
所以,智能体合规不是“适用一个文件”的问题,而是一个组合判断:
是否面向公众?是否生成内容?是否算法推荐?是否深度合成?是否处理个人信息?是否自动化决策?是否接入高风险行业?是否跨境传输数据?是否具有舆论属性或社会动员能力?
五、这份文件最值得关注的五个制度信号

1. 分类分级治理会成为主线
文件提出根据应用场景和潜在影响开展智能体分级治理。敏感领域和重点行业,可能由网信部门联合行业主管部门确定开放场景,并实施备案、检测、问题产品召回等措施;低风险领域则更多通过合规自测、信息报告、平台管理和行业自律治理。
这意味着未来智能体监管大概率不会“一刀切”。办公助手、娱乐陪伴、购物助手、医疗辅助、金融风控、司法辅助、公共安全智能体,监管强度会完全不同。
2. “人类最终控制”会成为硬要求
文件要求用户对智能体自主决策享有知情权和最终决策权。这实际上是在要求智能体系统必须保留人类干预机制。特别是在医疗、金融、司法、政务、教育、就业、保险、信贷等场景,企业很难用“系统自动判断”来免除责任。
实务上,高风险智能体至少应当设置:用户明确授权、重大操作二次确认、人工复核、可撤回授权、异常中止、操作日志和申诉渠道。
3. 智能体行为要“可验证、可追溯”
文件提出探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制。这对企业非常关键。因此,日志留存不再只是技术问题,而是责任抗辩和合规证明问题。
4. 供应链安全会被重点审查
文件强调模型接入、API调用、扩展工具使用等环节的安全管理。这意味着企业不能简单地说“底层模型是第三方的,所以我不负责”。如果企业把第三方模型、插件、RPA工具、知识库、支付接口、办公系统连接成一个智能体服务,企业作为部署方或运营方仍然需要承担相应管理责任。
合同上应当明确:数据使用范围、是否用于训练、输出责任、漏洞响应、日志保存、审计权、知识产权归属、个人信息处理者/受托处理者关系、数据出境安排、事故通知义务。
5. 行业应用会先开放、后收紧
文件在医疗健康、金融服务、司法服务、政务服务、公共安全、招标投标、教育教学等领域均提出应用方向。这说明政策不是禁止智能体进入高风险行业,而是鼓励“可控试点”。但越是重要行业,越可能伴随后续强制标准、备案、测评、认证和监管检查。
六、企业最容易踩的法律雷区

第一是过度授权。比如用户只是让智能体“帮我看看邮件”,系统却默认获得读取、转发、删除、下载附件、调用联系人、发送外部邮件的全部权限,这会带来个人信息和数据安全风险。
第二是自动化决策无人工复核。涉及贷款、招聘、保险、教育评价、医疗建议、价格差别待遇等事项时,如果完全由智能体判断,容易触发自动化决策公平性、透明性和解释权问题。
第三是生成内容未标识。未来文本、图片、音频、视频、虚拟场景等AI生成合成内容,显式标识和隐式标识会成为重点合规事项。
第四是用智能体规避行业资质。例如没有医疗资质却提供诊疗结论,没有金融资质却进行投资建议,没有法律服务资质却承诺案件结果,这些都可能被认定为超范围经营、虚假宣传或误导消费者。
第五是责任条款写得过于免责。用户协议中简单写“AI结果仅供参考、平台不承担责任”,并不能当然免除平台在产品设计、数据处理、安全保障、内容治理、权限控制方面的法定义务。
七、对不同主体的影响

对大模型企业而言,重点是模型安全、内容治理、标识、水印、接口安全、备案评估和开发者生态管理。
对智能体开发平台而言,重点是插件审核、权限分级、应用商店治理、开发者准入、恶意智能体下架、供应链审计。
对行业应用企业而言,重点是业务场景合法性、人工复核、行业资质、数据合规、日志留痕和客户告知。
对终端设备厂商而言,重点是本地数据处理、语音/图像采集、设备控制安全、未成年人保护、隐私空间和误触发防护。
对政务、司法、医疗、金融机构而言,智能体更适合作为辅助工具,而不宜直接替代法定职责主体作出最终决定。
这份《实施意见》传递出的监管逻辑可以概括为:中国对智能体的态度不是禁止,而是“鼓励应用、分类监管、权限受控、行为留痕、风险可追、重点行业从严”。
对企业来说,智能体产品能不能合规上线,关键不只看模型是否强大,而要看六件事:
1. 用户是否清楚知道智能体能做什么、不能做什么;
2. 智能体是否只在授权范围内行动;
3. 涉及重大权益时是否有人类最终确认;
4. 数据、个人信息和敏感信息是否依法处理;
5. 生成合成内容是否依法标识;
6. 出现错误、越权、侵权或安全事件时,是否能追溯责任链条。
八、国际比较

从国际比较看,各主要经济体对AI和智能体的监管路径并不相同,但共同趋势是:监管重点正在从“模型本身是否安全”进一步转向“AI系统如何被部署、能否替人决策、是否有人类监督、是否可以追溯责任”。这也正好对应《智能体规范应用与创新发展实施意见》中强调的权限边界、行为管控、分类分级治理和可追溯机制。
欧盟路径偏向硬法监管。欧盟《AI法案》以风险分级为核心,对高风险AI系统设置更严格的合规义务,尤其强调透明度、人类监督、风险管理和基本权利保护。对于医疗、金融、教育、就业、司法等场景,AI系统不能只是“技术可用”,还必须证明其风险可控、责任清晰。
美国路径偏向创新优先与标准框架。美国没有像欧盟那样建立统一AI法案,而是更多依靠NIST等机构发布风险管理框架,并通过行业规则、政府采购、企业治理和事后责任追究来约束AI应用。因此,美国模式更强调企业是否建立了测试评估、供应链管理、数据治理、安全响应和内部问责机制。
英国路径偏向原则监管。英国更强调由现有监管机构根据具体行业解释AI治理原则,例如安全稳健、透明可解释、公平、问责和救济。它不急于用一部统一法律管住所有AI应用,而是更重视不同场景下的比例监管。
新加坡、日本以及G7“广岛AI进程”更多体现软法治理和国际协调。这些机制通常通过指南、测试工具、行为准则和风险管理框架,推动企业建立可信AI体系。它们未必直接形成强制处罚规则,但会影响跨国企业、出海产品和国际合作中的合规评价标准。
《智能体规范应用与创新发展实施意见》呈现出一种组合型路径:一方面鼓励智能体在医疗、金融、教育、政务、司法、公共安全、招投标等重点场景落地;另一方面又强调分类分级、权限受控、行为留痕、风险可追和重点行业从严。也就是说,中国并不是简单禁止智能体应用,而是在推动“可控试点”和“规范发展”。
《智能体规范应用与创新发展实施意见》可以放在全球AI治理趋势中理解:未来智能体合规的关键,不只是模型能力强不强,而是企业能否证明智能体在真实业务中做到有授权、有边界、有监督、有日志、有追责、有纠错机制。
注:本文作者张山立为山东大学法学院博士生,《数据经济评论》编辑助理。微信:18811157736,欢迎交流指正。