智能体应用发展,需坚守四大核心原则!

2026-05-09 11:20:59未知 作者:徽声在线


根据中国网信网最新消息,国家网信办、国家发展改革委以及工业和信息化部近期联合发布了《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。该意见明确指出,需深入研究智能体在数据安全、个人信息保护、密码防护、攻击检测、权限管理以及行为控制等多个层面的安全技术,旨在全面提升智能体系统的安全保障能力,有效防范数据投毒、隐私泄露、算法篡改、系统漏洞及运行失控等潜在安全风险,并探索构建智能体安全评估体系。

智能体应用潜藏隐私泄露等安全隐患

智能体,作为一种具备自主感知、记忆、决策、交互与执行能力的智能系统,已成为人工智能产品及服务的重要表现形式。

近年来,随着手机助手、终端智能管家、云端智能体等智能体产品的不断涌现,其规模化应用态势日益显著,极大地便利了人们的日常工作与生活。然而,智能体所具备的高自主性、高权限等特性,也带来了隐私泄露、越权操作、行为失控等一系列安全风险。因此,在推动智能体发展的同时,必须统筹考虑发展与安全,确保智能体能够规范应用并实现创新发展。

早在2025年8月,国务院就已印发《关于深入实施“人工智能+”行动的意见》,该意见以科学技术、产业发展、消费提质、民生福祉、治理能力等领域为重点,明确提出到2027年,要率先实现人工智能与重点领域的广泛深度融合,新一代智能终端、智能体等应用的普及率需超过70%。国家网信办相关负责人在回答记者提问时表示,此次制定出台的《实施意见》正是贯彻落实《关于深入实施“人工智能+”行动的意见》的具体举措,旨在通过营造良好的政策环境,发挥典型场景的示范效应,统筹推动智能体实现高质量发展、高水平安全以及高效能治理。

构建智能体治理体系,加速其落地应用进程

经过梳理发现,《实施意见》提出了坚持安全可控、坚持规范有序、坚持创新驱动、坚持应用牵引等四大原则,以明确促进智能体规范应用与创新发展的基本方向。具体而言,需适应智能体技术的演进规律,构建与现有政策法规相衔接、行业自律自治、底线红线清晰的治理体系,以有序推进智能体的落地应用;同时,要加强理论创新、技术创新、工程创新的联动,体系化突破智能体的关键技术,完善政产学研用的协同机制,构建开放共享的智能体生态;此外,还需重点围绕科学研究、产业发展、提振消费、民生福祉、社会治理等实际需求,发挥典型应用场景的示范效应,先易后难、循序渐进地促进智能体技术的验证、产品的迭代以及应用的落地。

那么,《实施意见》在规范智能体应用方面有哪些具体要求呢?据透露,该意见将智能体的安全、可靠、可信作为产业发展的底线要求,以规范有序的方式推动智能体的落地应用。具体而言,一是要明确产品准则,进一步完善政策法规和伦理规范,做好智能体的权限管理、行为管控等工作,为智能体相关产品的研发提供明确指引;二是要防范安全风险,充分发挥技术手段的作用,提升智能体内生安全、供应链安全、应用衍生风险等方面的风险防范能力,实现智能体开发、部署、应用、维护全周期的安全管理,有效防范系统性风险;三是要完善治理体系,适应智能体技术的演进规律,根据应用场景和潜在影响,构建审慎稳妥的分类分级治理框架,推动建设智能体合规服务体系,做到既“放得活”又“管得好”;四是要强化行业自律,鼓励智能体相关企业、行业组织、研究机构增强责任意识,共同制定行业自律规则,引导智能体开发者、开发平台、分发平台、服务提供者参与信用评价,共同营造良好的发展环境。

明确19个典型应用场景,牵引智能体技术提升

在推动智能体创新发展方面,《实施意见》又部署了哪些重点工作呢?国家网信办相关负责人表示,该意见围绕智能体技术突破、场景应用和生态建设等重点方向,体系化地推动智能体的创新发展。具体而言,一是要夯实发展基础,通过强化基础技术研发、完善智能体工具链等方式,为产业提供高水平的技术底座,同时建立智能体标准体系,降低智能体的研发、适配、应用门槛,前瞻布局多智能体协同、智能互联网等前沿领域,为产业的持续演进打好基础;二是要强化应用牵引,围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向,提出19个典型应用场景,以牵引智能体技术产品的优化提升,并探索可复制、可推广的落地应用模式;三是要建设创新生态,加强培育开源创新力量、搭建产业协作平台等方式,推动产业的高效协同,提升创新活力,同时通过构建应用推广渠道、推进重点场景开放等方式,畅通供需渠道,形成市场牵引、内驱发展的产业生态,并积极培育全球生态,推动国内外技术的融通发展,营造开放共享的国际合作环境。

展望未来,国家网信办、国家发展改革委、工业和信息化部将会同有关方面,切实推进《实施意见》的落地见效。聚焦智能体技术研发、场景开放、安全治理等关键环节,完善配套政策,形成工作合力,推动重点任务的落实落地。同时,还将加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整,以确保智能体能够持续、健康、有序地发展。

徽声在线研究员:袁炯贤

点击展开全文
你关注的
全球最大比特币资管公司战略转向:或启动大规模抛售计划全球最大比特币资管公司战略转向:或启动大规模抛售计划 【出海聚焦】石油危机凸显中国电动车优势,性价比之外更有硬实力【出海聚焦】石油危机凸显中国电动车优势,性价比之外更有硬实力 我国科学家突破远距离物质纠缠难题 引领量子网络未来发展方向我国科学家突破远距离物质纠缠难题 引领量子网络未来发展方向
相关文章
智能体应用发展,需坚守四大核心原则!智能体应用发展,需坚守四大核心原则! DeepSeek“识图模式”全面开放,图片理解能力再升级DeepSeek“识图模式”全面开放,图片理解能力再升级 “养虾人”自述:我为什么卸载龙虾?“养虾人”自述:我为什么卸载龙虾? 我国第四代超导量子计算机“本源悟空-180”正式上线运行我国第四代超导量子计算机“本源悟空-180”正式上线运行 英伟达13倍涨幅不过尔尔?自ChatGPT问世以来的AI疯牛榜正发生巨变!英伟达13倍涨幅不过尔尔?自ChatGPT问世以来的AI疯牛榜正发生巨变! 我国科学家突破远距离物质纠缠难题 引领量子网络未来发展方向我国科学家突破远距离物质纠缠难题 引领量子网络未来发展方向