经济热点快评|为何要给“会干活的AI”立规矩?
创始人
2026-05-12 20:05:08
0

最近,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,将智能体安全、可靠、可信作为产业发展的底线要求,为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首次针对“智能体”这一人工智能新形态制定规范。

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。它能自主完成如自动订票、生成方案、调度设备等一连串任务,实现了从“回答问题”到“帮忙干活”的跃迁。

为何要在此时出台《意见》?

当下,我国人工智能技术和产业迅速发展。技术上,国产大模型不断迭代升级,以低成本实现多方面工程技术创新,加速进入普通人日常生活。更重要的是,AI的角色正在发生变化,人工智能逐渐像“大脑”一样参与决策、优化流程,甚至改变生产生活方式。

然而,当AI开始真正“干活”,很多问题也随之出现。

智能体需要直接操作电脑、调用各种资源,这种高权限设计一旦出问题,后果比回答问题出错更严重。比如自动交易差错、设备调度异常、隐私数据泄露等,还容易被黑客组织攻击。2026年以来,OpenClaw等智能体的广泛应用,展现出强大自主任务执行能力的同时,也暴露出智能体在指令诱导下可发起网络攻击等风险隐患。可见,智能体能力越强,越需要同步建立起规则和边界。

《意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,给正在高速发展的智能体技术立了规矩。

一方面,《意见》强调夯实技术底座,健全标准体系,降低智能体研发、适配、应用门槛;构建开放共享的创新生态,提升产业创新活力。另一方面,《意见》要求守牢安全底线。比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。本质上是把智能体相关的规则同步建立起来,营造良好的制度环境,让智能体发展更健康、更有序。

值得注意的是,《意见》还提到强化应用牵引。这意味着未来智能体发展,比拼的不只是模型参数,更在于谁更懂真实场景、谁更能解决现实问题。智能体发展,最终要真正进入千家万户,成为推动产业升级和社会运行的重要工具。

技术发展离不开规则治理这根“安全带”。可以预见,智能体技术还将加速发展,人与AI如何协作、边界如何划定、责任如何界定,都将成为绕不开的新课题。只有不断完善治理体系,在鼓励创新与守住安全之间找到平衡,才能让智能体技术真正释放持续而稳定的发展红利。

相关内容

热门资讯

杭州33岁男子咳嗽两个月没好,... 每天上下班都要经过一个鸽子聚集的广场,在很多人看来不过是城市生活中的寻常一幕。然而,杭州33岁的张先...
原创 肝... 48岁的张阿姨平时作息规律、饮食清淡,从不熬夜乱吃,却常年浑身不适。白天提不起精神、莫名烦躁易怒,晚...
原创 脑... 近来在一些中老年群体的讨论里,“洗头会不会诱发脑梗”这个话题反复被提起,尤 其是到了夏季,气温高、出...
深圳医保的报销额度有多少?如何... ✅深圳一档医保门诊报销额度 1️⃣普通门诊年度支付限额 在职人员:年社平工资的6%(2026年约10...
原创 扈... 《水浒传》中,那梁山一百单八将的排名常被读者津津乐道,尽管从明面上来看,这排名是根据能力来排的,但你...
606亿水晶产业“换脑”:东海... 扬子晚报网6月27日讯(通讯员 段慧明 宋文波 记者 孙锐)6月26日,伴随着东海人工智能OPC创新...