关键一步!三部门发文划定“智能体”发展底线与空间
创始人
2026-05-11 06:57:43
0

转自:第一财经

  2026年以来,OpenClaw等智能体的广泛应用,展现出强大自主任务执行能力的同时,也暴露出智能体在指令诱导下可发起网络攻击等风险隐患,引发全球对智能体发展与安全的高度关切。

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(下称《实施意见》),将智能体安全、可靠、可信作为产业发展的底线要求,为智能体治理架构、应用场景和产业生态作出系统部署。

  中国工程院院士邬贺铨认为,《实施意见》遵循智能体技术演进规律,统筹发展与安全、创新与治理,系统构建了我国智能体产业发展的政策框架,标志着智能体从技术探索迈向规范发展的关键一步。

  赛迪研究院未来产业研究中心人工智能研究室主任钟新龙谈到,《实施意见》的出台标志着我国在智能体规模化应用的关键窗口期,率先构建起覆盖智能体全生命周期的发展和治理框架,推动智能体技术红利在可问责、可解释、可纠偏的有序轨道上释放,为产业发展划定了“安全底线”与“创新空间”的双重边界。

提出19个典型应用场景

  智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。

  近年来,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利人们工作生活。同时,智能体高自主性、高权限等特性也带来了隐私泄露、越权操作、行为失控等安全风险,需要统筹发展与安全,促进智能体规范应用和创新发展。

  2025年8月,国务院印发《关于深入实施“人工智能+”行动的意见》,提出到2027年,率先实现人工智能与重点领域广泛深度融合,新一代智能终端、智能体等应用普及率超70%的阶段性目标。

  国家网信办有关负责同志表示,此次制定出台《实施意见》是贯彻落实《关于深入实施“人工智能+”行动的意见》的具体举措,以推动科技创新、提升治理能力、构建产业生态、提升民生福祉为导向,营造良好政策环境,发挥典型场景示范效应,统筹推动智能体高质量发展、高水平安全、高效能治理。

  《实施意见》围绕智能体技术突破、场景应用和生态建设等重点方向,体系化推动智能体创新发展;通过强化基础技术研发、完善智能体工具链,为产业提供高水平技术底座;建立智能体标准体系,降低智能体研发、适配、应用门槛;前瞻布局多智能体协同、智能互联网等前沿领域,为产业持续演进打好基础。

  当前OpenClaw等新型智能体已在中小企业和个人开发者中得到了广泛尝试和应用,但要充分发挥其价值仍需促进智能体与各行业场景的融合。《实施意见》在智能体的行业应用方面进行了全面部署,通过场景化、规模化应用带动技术迭代,并促进产业生态的成熟。

  《实施意见》围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向,提出19个典型应用场景,牵引智能体技术产品优化提升,探索可复制、可推广的落地应用模式。

  工业和信息化领域科技伦理专家委员会主任委员魏一鸣表示,智能体通过重构“人机协作”的模式,将技术能力锚定在具体场景中,形成从任务执行到结果交付的闭环。《实施意见》布局的19个典型场景,为智能体的规模化落地提供了清晰的路径牵引,促进智能体从技术探索走向场景深耕。

  中国信息通信研究院院长余晓晖表示,《实施意见》开辟了从科学研究、产业发展到民生福祉的广阔应用试验田。通过建立智能体软件商店、行业供需发布平台以及推进重点场景的试点示范,旨在打通技术研发与市场需求之间的壁垒,以真实的商业和公共服务场景牵引智能体技术的快速迭代。

统筹发展和安全

  在全面鼓励创新的同时,《实施意见》将“安全、可靠、可信”作为不可逾越的底线。

  智能体因具备决策、执行能力,使行为控制成为新的安全边界。清华大学文科资深教授薛澜表示,相较于大模型,智能体进一步展现出自主性、交互性等特征,能够理解复杂目标、自主规划并执行一系列任务。这也意味着人工智能的风险性质已经从内容风险向行为风险扩散,且影响范围更广,传导速度更快,责任主体更加模糊。

  薛澜分析,一方面,智能体在复杂环境中出现的错误决策或越权操作可能直接导致事故;另一方面,攻击者也可能通过工具投毒等各类新型手段劫持智能体用于违法犯罪行为。这一根本变化,使得智能体治理不仅要对静态“输出内容”进行管理,也要对动态“行为边界”进行规范。

  余晓晖也认为,智能体技术的多元化、决策的自主性以及对海量底层数据的依赖,使得传统的边界防御模型面临失效。如何在保障终端权限不被滥用、系统运行稳健可控的前提下释放智能体潜能,成为摆在产业界面前的核心课题。

  《实施意见》从明确产品准则、防范安全风险、完善治理体系、强化行业自律四个方面着手,多措并举构建智能体治理体系。

  《实施意见》要求厘清仅限用户本人决策、需由用户授权决策、智能体自主决策等不同决策方式的合理界限,确保用户对智能体自主决策享有知情权和最终决策权。加强智能体行为管控,确保智能体行为合法合规、可追溯、可验证。同时确保智能体行为符合主流价值导向,重点防范未成年人、老年人等群体的沉迷成瘾、情感依赖风险。

  此外,《实施意见》重点关注智能体内生安全、供应链安全及应用衍生安全风险,通过推动相关安全技术研究和风险识别预警提升风险防范能力,要求强化对智能体全链条安全风险的防范,尤其是避免智能体被恶意用于违法犯罪行为,防止智能体风险的衍生和扩散。

  针对不同应用场景,《实施意见》采取了灵活敏捷的治理机制。对于敏感领域实行严格管理;对于生活娱乐等低风险领域,则充分发挥平台管理、行业自律与信用评价机制的作用,避免过度干预,最大程度保持企业的创新活力。

  薛澜表示,《实施意见》的出台有助于为智能体这一快速演进的技术领域,构建起一套基础性的治理和发展框架。《实施意见》通过设定全链条安全要求,特别是对关键领域和脆弱群体的重点保护,系统性预防智能体技术滥用、决策失控等风险,保护国家安全、公共利益和人民权益,为智能体技术在全社会规模化应用建立必要的安全信任基础。

相关内容

大亚圣象质押触发鹰眼“风险...
截止2026年5月9日,大亚圣象整体质押股份为1.81亿股,整体质...
2026-05-11 07:43:20
南天信息质押触发鹰眼“高风...
截止2026年5月9日,南天信息整体质押股份为1540.00万股,...
2026-05-11 07:42:15
精工科技质押触发鹰眼“风险...
截止2026年5月9日,精工科技整体质押股份为1.09亿股,整体质...
2026-05-11 07:41:56
【财经早报】大幅溢价,停牌...
重要新闻提示通鼎互联:海南康宁仅作为公司的光棒供应商,不存在其他合...
2026-05-11 07:41:18
金智科技质押触发鹰眼“风险...
截止2026年5月9日,金智科技整体质押股份为3637.24万股,...
2026-05-11 07:39:34
今年前4个月新备案证券类私...
居民与机构资金的再配置需求,正推动私募发行市场持续活跃。据私募排排...
2026-05-11 07:38:28
奔图科技质押触发鹰眼“高风...
截止2026年5月9日,奔图科技整体质押股份为1895.69万股,...
2026-05-11 07:37:52
上海莱士质押触发鹰眼“风险...
截止2026年5月9日,上海莱士整体质押股份为5.91亿股,整体质...
2026-05-11 07:37:04
吉峰科技质押触发鹰眼“高风...
截止2026年5月9日,吉峰科技整体质押股份为7235.68万股,...
2026-05-11 07:35:41

热门资讯

大亚圣象质押触发鹰眼“风险”评... 截止2026年5月9日,大亚圣象整体质押股份为1.81亿股,整体质押占总股本之比为33.07%,累计...
南天信息质押触发鹰眼“高风险”... 截止2026年5月9日,南天信息整体质押股份为1540.00万股,整体质押占总股本之比为3.95%,...
精工科技质押触发鹰眼“风险”评... 截止2026年5月9日,精工科技整体质押股份为1.09亿股,整体质押占总股本之比为21.00%,累计...
【财经早报】大幅溢价,停牌一小... 重要新闻提示通鼎互联:海南康宁仅作为公司的光棒供应商,不存在其他合作模式“翻倍”牛股宇环数控:公司不...
金智科技质押触发鹰眼“风险”评... 截止2026年5月9日,金智科技整体质押股份为3637.24万股,整体质押占总股本之比为9.08%,...
今年前4个月新备案证券类私募基... 居民与机构资金的再配置需求,正推动私募发行市场持续活跃。据私募排排网统计,截至4月末,年内累计新备案...
奔图科技质押触发鹰眼“高风险”... 截止2026年5月9日,奔图科技整体质押股份为1895.69万股,整体质押占总股本之比为1.33%,...
上海莱士质押触发鹰眼“风险”评... 截止2026年5月9日,上海莱士整体质押股份为5.91亿股,整体质押占总股本之比为8.90%,累计质...
吉峰科技质押触发鹰眼“高风险”... 截止2026年5月9日,吉峰科技整体质押股份为7235.68万股,整体质押占总股本之比为14.64%...
中锐股份质押触发鹰眼“风险”评... 截止2026年5月9日,中锐股份整体质押股份为1.09亿股,整体质押占总股本之比为10.05%,累计...