从去年“豆包手机”问世到今年“小龙虾”（OpenClaw）爆火，智能体产品及服务形态越来越丰富，它们能自主完成复杂任务时，带来的数据泄露、恶意越权、权限失控等风险也引发广泛关注。智能体治理不仅要对静态“输出内容”进行管理，还需对动态“行为边界”作出规范。
近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（下称《实施意见》），旨在为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首部专门针对AI智能体的规范性文件，或标志着智能体产业将从“野蛮生长”进入“规范发展阶段”。
首先，为了降低智能体研发、适配、应用门槛，《实施意见》要求持续提升通用基础模型性能，支持行业发展细分领域专用模型，形成适应不同场景和设备的模型产品矩阵。同时完善智能体工具链，开展智能体底层框架研究，加快研发感知、记忆、决策、交互、执行等关键组件，完善智能体研发、测试、部署、运维等工具链，以及发展对抗样本检测、行为异常检测等安全与治理工具等。
当下人与AI、智能体与智能体、智能体与各类被访问资源之间的交互愈发频繁，传统安全协议已无法适配新场景，亟需构建新的标准协议，进一步明确工具调用、资源访问等操作的权限规则与约束标准。为此，《实施意见》就建立智能体标准体系作出明确要求。
具体而言，应制定智能体标准化工作指导文件，形成智能体标准框架，系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准体系，加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准。加强智能体互联协议（AIP）等智能体互联关键国家标准、行业标准的推广应用。支持医疗、交通、媒体、公共安全等领域制定强制性标准。
在布局发展智能互联网方面，《实施意见》提出研究建立智能互联网体系架构，探索建立智能体注册平台，提供智能体数字身份管理、检索发现、能力声明等服务，支持开发者、部署方式、接口协议、合规认证等信息查询和管理。提升多智能体协同能力，研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。这意味着，随着智能体产品及服务渐趋丰富，未来或出现智能体的“App Store”。
随着人工智能技术不断向执行端延伸，如今仅需一句指令，智能体就能帮用户完成点餐、叫车、订票甚至支付。其背后的技术原理，通常依赖于调用应用程序编程接口（API）或视觉识别功能来模拟用户操作两种技术路径，二者在实施过程中涉及的一系列授权和合规问题，频频引发争议。
《实施意见》释放了明确决策权限的信号。在遵守法律法规、尊重社会公德和伦理规范前提下，厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权，智能体执行操作不得超出用户授权范围。
针对开放权限后，智能体可能出现曲解指令、执行失误，违背用户真实意愿等问题，《实施意见》要求发展规则内嵌、行为围栏等技术，确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术，建立重要应用场景智能体行为可验证、可追溯机制，防范智能体不当行为引发重大风险。
为进一步完善治理体系，还要构建分类分级治理框架。对于敏感领域及重点行业，由网信部门联合行业主管部门确定开放场景，根据相关法律法规、监管要求和安全防护标准，实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域，完善智能体评估测试工具，通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。
在健全合规服务体系方面，《实施意见》则强调强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给，引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务，推动认证与检测结果互通互认，为用户选择智能体提供参考。
采写：南都N视频记者 樊文扬
财富牛配资提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
推荐资讯
