智能体被三部门点名:行业终于要给“自动替你干活”装刹车
智能体这次被三部门单独写进政策文件,说明它已经不再只是大模型公司的演示功能。过去大家说 AI Agent,更多是在看它能不能订票、写表格、查资料、调用工具。现在监管关心的是另一件事:当一个系统能记住你的偏好、拿到你的权限、替你执行动作,出错时到底算谁的。
这份意见里反复出现权限管理、行为管控、分类分级、接口标准,听起来很行政,但方向很实在。智能体不是普通聊天框,它会进入浏览器、手机、车机、办公软件和企业后台。越是贴近真实业务,越不能只靠一句“模型会判断”糊过去。一个能点按钮、读文件、调 API 的智能体,本质上已经有了半个员工的影子。
真正麻烦的是权限,不是智商
行业过去爱比模型聪不聪明,接下来会被迫回答权限细节。能不能调用支付?能不能读取通讯录?能不能跨应用搬运数据?能不能在用户不看屏幕时继续执行?这些问题一旦进入医疗、交通、媒体、公共安全,风险会比普通内容生成大得多。
对企业来说,政策并不一定是坏消息。标准清楚以后,敢采购的人反而会变多。很多公司不是不想上智能体,而是不知道出了事故怎么追责。现在先把底线画出来,至少能让产品经理、法务和安全团队坐到同一张桌子上。
我更关心的是接口标准。如果未来智能体和软件工具、硬件外设之间有统一协议,国内会出现一批新的基础设施公司。谁能把权限、审计、回滚、日志和工具调用做稳,谁就可能站在模型公司后面赚钱。智能体的热闹在前台,苦活在后台。
这件事的风险也明显。管得太细,创新会慢;放得太松,事故会来得很快。智能体行业最需要的不是再多一个会聊天的入口,而是一套让用户知道它做了什么、为什么做、怎么撤回的机制。否则所谓自动化,很容易变成用户看不见的黑箱。