经济热点快评|为何要给“会干活的AI”立规矩?

2026-05-12 13:14来源: 人民日报经济社会微信公号

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  最近,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,将智能体安全、可靠、可信作为产业发展的底线要求,为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首次针对“智能体”这一人工智能新形态制定规范。

  智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。它能自主完成如自动订票、生成方案、调度设备等一连串任务,实现了从“回答问题”到“帮忙干活”的跃迁。

  为何要在此时出台《意见》?

  当下,我国人工智能技术和产业迅速发展。技术上,国产大模型不断迭代升级,以低成本实现多方面工程技术创新,加速进入普通人日常生活。更重要的是,AI的角色正在发生变化,人工智能逐渐像“大脑”一样参与决策、优化流程,甚至改变生产生活方式。

  然而,当AI开始真正“干活”,很多问题也随之出现。

  智能体需要直接操作电脑、调用各种资源,这种高权限设计一旦出问题,后果比回答问题出错更严重。比如自动交易差错、设备调度异常、隐私数据泄露等,还容易被黑客组织攻击。2026年以来,OpenClaw等智能体的广泛应用,展现出强大自主任务执行能力的同时,也暴露出智能体在指令诱导下可发起网络攻击等风险隐患。 可见,智能体能力越强,越需要同步建立起规则和边界。

经济热点快评|为何要给“会干活的AI”立规矩?

  软件开发工程师展示给“龙虾”的约束指令。新华社记者 周牧摄

  《意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,给正在高速发展的智能体技术立了规矩。

  一方面,《意见》强调夯实技术底座,健全标准体系,降低智能体研发、适配、应用门槛;构建开放共享的创新生态,提升产业创新活力。另一方面,《意见》要求守牢安全底线。比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。 本质上是把智能体相关的规则同步建立起来,营造良好的制度环境,让智能体发展更健康、更有序。

  值得注意的是,《意见》还提到强化应用牵引。这意味着未来智能体发展,比拼的不只是模型参数,更在于谁更懂真实场景、谁更能解决现实问题。智能体发展,最终要真正进入千家万户,成为推动产业升级和社会运行的重要工具。

  技术发展离不开规则治理这根“安全带”。可以预见,智能体技术还将加速发展,人与AI如何协作、边界如何划定、责任如何界定,都将成为绕不开的新课题。只有不断完善治理体系,在鼓励创新与守住安全之间找到平衡,才能让智能体技术真正释放持续而稳定的发展红利。

  作者:成蹊

[责任编辑: ]
阅读剩余全文(
为你推荐
原标题:十年十舟一新城——写在我国第十艘天舟货运飞船发射成功之际  穿透晨雾,掠过旭日,纵贯海天。5月11日8时14分,长征七号遥十一运载火箭托举着天舟十号货运飞船,从文昌航天发射场点火升空。
12
山东日照港,一排醒目的红色大型港机在岸边林立,宽阔碧绿的海面上停泊着满载“中国制造”的巨轮。5月8日,装载国产大型风电设备的“天乐”轮从南京港启航,图为移民管理警察正在开展安全巡查。
12
在第18个全国防灾减灾日到来之际,多地开展防灾减灾知识普及和应急疏散演练等活动,进一步强化人们应急避险与安全自救能力。在第18个全国防灾减灾日到来之际,多地开展防灾减灾知识普及和应急疏散演练等活动,进一步强化人们应急避险与安全自救能力。
12
5月11日8时14分,搭载天舟十号货运飞船的长征七号遥十一运载火箭,在我国文昌航天发射场点火发射,约10分钟后,天舟十号货运飞船与火箭成功分离并进入预定轨道,之后飞船太阳能帆板顺利展开,发射任务圆满成功。
11
5月10日,消防员在应急管理部自然灾害工程救援贵阳基地给市民演示消防绳索救援。新华社记者 杨文斌 摄  5月10日,消防员在应急管理部自然灾害工程救援贵阳基地指导一名学生体验水枪灭火。
11
5月10日,收割机在四川省达州市渠县合力镇双土社区麦田里收获小麦。5月7日,在浙江省乐清市石帆街道青屿村麦田里,农机手驾驶收割机收割小麦(无人机照片)。5月7日,在浙江省乐清市石帆街道青屿村麦田里,农机手将收获的小麦装车(无人机照片)。
11
母亲节即将到来,人们通过多种形式表达对母亲的感恩和祝福。母亲节即将到来,人们通过多种形式表达对母亲的感恩和祝福。母亲节即将到来,人们通过多种形式表达对母亲的感恩和祝福。
10
5月9日,在第115个国际护士节来临之际,北京按摩医院举办庆祝活动,通过表彰先进典型、开展文艺演出等,向护理工作者致以节日问候。5月9日,在第115个国际护士节来临之际,北京按摩医院举办庆祝活动,通过表彰先进典型、开展文艺演出等,向护理工作者致以节日问候。
10
5月9日,在甘肃省兰州市七里河区马滩实验学校,消防员为学生讲解消防救援装备的功能及使用方法。在第18个全国防灾减灾日到来之际,多地学校、幼儿园开展防灾减灾知识普及和应急疏散演练等活动,进一步强化师生防灾减灾意识,提高孩子们应急避险与安全自救能力。
10
5月5日,海警川山舰在南海黄岩岛海域进行水炮喷射演练(无人机照片)。近日,正在南海黄岩岛海域巡航值守的海警川山舰组织开展综合维权执法训练,执法员们紧贴任务场景,进行了巡航警戒、喊话警告、水炮喷射和多维取证等课目的演练,进一步提升了海上维权执法协同配合和应急处置能力。
09
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮