点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:给智能体应用装上“制度护栏”
首页> 科技频道> 综合新闻 > 正文

给智能体应用装上“制度护栏”

来源:光明网-《光明日报》2026-05-14 02:25

  作者:吴晓林(南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员)

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。

  当前,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利了人们的工作生活。智能体的广泛使用,使得各类风险能被快速感知、及时处置,城市也变得更加“聪明”、更有韧性。例如,上海警方首创的“交通治堵大模型”已在全市360个路口部署应用,平均车速提升12.9%;北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统,智能井盖一旦监测到异常沉降,30秒内自动报警;天津中新生态城搭建起智能感知网络,可精准识别道路污染、建筑垃圾倾倒等行为,并实时上报预警信息,如同24小时在岗的“虚拟哨兵”。这样的智能体应用,在全国各类城市已经越来越多了。

  然而,技术跑得太快,也会让人心有疑虑。智能体的权限会不会越界?决策是否有效?如果决策出了问题谁来负责?隐私数据会不会“裸奔”?这些问题,老百姓关心,城市管理者更得放在心上。技术更新迭代速度快,制度建设跟不上,就会产生大量隐患。城市治理不是智能体的实验室,它关系着千家万户的切身利益,一旦出了问题,所带来的破坏和损失往往难以估量。在这方面,国外已有前车之鉴。

  这给我们提了个醒,智能体本身不是问题,真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时,它调用的数据是否必要、依据了什么规则,决策错了得纠偏问责;城市大脑调配信号灯时,算法偏差了得有人及时“踩刹车”;无人机飞越上空时,不能侵犯他人隐私和侵扰他人生活。也就是说,智能技术不能是“技术自运转”,它的运行必须有规矩、有边界。《实施意见》的出台,就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”,而是给智能体“装上方向盘、系上安全带、画好轨道线”。

  智能体的应用,要遵循以人为本的理念。说到底,智能体是工具,它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”,正是将人的主体性摆在了核心位置。近日,工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》,将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”,从“替人做主”转向“助人决断”,让每一个被智能体服务的市民,享受得到服务、看得见规则、找得着说法。

  智能体的效果,取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”,更要做智能体生态的“塑造者”。各地须统揽各类智能体,根据应用场景的风险高低,审慎划定智能体“可为”与“不可为”边界,同步建立算法备案与影响评估制度,让每一套算法在上线前先“过审”;同时完善人工复核与申诉救济机制,确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体,而是为了让它在服务市民的轨道上跑得更稳。

  智能体的生态,要靠多元共治的协同。智能体不是政府和企业的“专属工具”,它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”,鼓励行业自律、信用评价建设,引导公众和企业、高校、科研机构积极参与,这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面,国内已有鲜活实践。

  国务院国资委牵头打造的“焕新社区”,由25家企业、高校和标准化机构共同发起,面向全社会开放了40个央企高价值场景,使AI创新成果惠及更多中小企业和开发者。这启示我们,开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位,而且应该向社会公众开放,用以成为“众包平台”,使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权,让第三方机构参与评估认证,让行业自律与政府监管形成合力。

  《光明日报》(2026年05月14日 02版)

[ 责编:丛芳瑶 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 甘肃敦煌:全力迎战洪水过境

  • 云南西畴:万寿菊丰收

独家策划

推荐阅读
近日,2026年亚太经合组织(APEC)数字和人工智能部长会议在四川成都举行,各种前沿科技产品集中亮相,“智能范儿”十足,吸引了中外观众纷纷驻足体验、拍手称赞。
2026-07-30 03:00
珠江口东岸,潮生不息,长风浩荡。前海石静立海边,近处草木葱茏,远处楼宇拔节。十多年前,这里还是一片滩涂;今天,一座现代化国际化滨海新城拔地而起。
2026-07-30 02:10
近日,中国长征十号乙运载火箭成功首飞,并实现全球首次网系回收。这一突破,不仅验证了重复使用火箭的关键技术,也为未来大幅降低卫星等航天器的发射成本打下了基础。
2026-07-30 03:00
“古籍虫蛀霉变触目惊心,传统修复周期漫长——能不能用AI让古籍校勘更快一些?”这是河北东方学院2022级文物与博物馆学专业学生罗钰姿在一次专业课上萌生的念头。
2026-07-30 02:20
近日,中央网络安全和信息化委员会印发《深化互联网协议第六版(IPv6)技术创新和融合应用实施方案(2026—2030年)》,围绕技术研发、行业融合应用、安全保障等十大领域系统布局,制定了36项具体任务,着力推动我国IPv6从规模部署迈向全面赋能。
2026-07-30 02:20
种业振兴,核心在创新。加强种业知识产权保护,是对育种创新的最大激励,也是加快推进种业振兴的有力保障。
2026-07-29 03:05
十四五”时期,生态环境部分区域、分批次完成全国452处国家级自然保护区生态环境保护成效评估,以及首轮全国生态保护红线保护成效五年评估。
2026-07-29 03:05
近日,印度最大核电站库丹库拉姆核电站被曝泄露大量敏感文件。勒索软件组织World Leaks将包括部分设施蓝图、供应商信息、设备评估报告等约1.9万份、总计14.3吉字节的敏感文件挂上其站点,
2026-07-29 03:05
习近平总书记在山东省德州市考察时强调,要“以扎实举措做好各项工作,着力提升农业综合生产能力和质量效益,确保粮食等重要农产品稳定供给,因地制宜推进宜居宜业和美乡村建设,引导广大农民群众用勤劳和智慧创造更加美好生活”。
2026-07-29 03:05
在国新办28日举行新闻发布会上,商务部副部长鄢东表示,看待产能问题,要秉持全面、客观、公正的态度,更不能以此为名,行保护主义之实。
2026-07-29 03:05
28日,中央广播电视总台首届智能机器人应用技能大展在京启动。活动现场,中国机械工业联合会携手总台央视新闻发布了《中国工业机器人市场活力数据》。
2026-07-29 03:05
国家统计局27日发布数据显示,今年上半年,全国规模以上工业企业营业收入同比增长6.5%,较一季度加快1.5个百分点。营业收入加快增长,
2026-07-28 04:15
推动科技创新与产业创新深度融合,是培育新质生产力、构建现代化产业体系,实现高水平科技自立自强的关键路径。习近平总书记深刻指出“人才资源是第一资源,
2026-07-28 04:25
作为走进企业的“科技副总”,浙江大学周鸣川研究员与某民营医疗机构共建联合实验室,推动眼科手术机器人进入国家创新审批通道;浙江农林大学王翀教授与杭州某饲料企业深度合作,
2026-07-28 04:25
未来,如何让当地群众在世界遗产保护工作中获益?为此,记者专访了东亚—澳大利西亚候鸟迁徙研究中心主任、黄(渤)海候鸟栖息地申遗首席专家雷光春。
2026-07-28 04:20
缺硼会让庄稼“烂根绝收”,全球超百种作物依赖硼肥才能保证产量。
2026-07-28 04:20
刘文郡:中国启动“人工智能+”行动,通过协同推进传统产业改造升级、新兴产业培育壮大与未来产业前瞻布局,让人工智能深度赋能千行百业。中国相继提出《全球人工智能治理倡议》《“人工智能+”国际合作倡议》,发布《人工智能能力建设普惠计划》《人工智能合作发展行动计划》,倡议成立世界人工智能合作组织。
2026-07-27 09:31
7月26日18时,水利部和中国气象局联合发布红色山洪灾害气象预警,江西南部、广东中北部局地发生山洪灾害可能性很大(红色预警)。涂勇介绍,主汛期山区降雨突发性强、峡谷汇水迅猛,进山务必提前关注山洪、暴雨预警,收到预警应立即取消行程。
2026-07-27 09:29
7月26日凌晨,今年第12号台风“红霞”在广东惠州市惠东县平海镇沿海登陆。”  针对台风远距离水汽输送导致的暴雨预报难题,气象部门采用集合预报方法,通过多个模式、多个初始场的集成分析,量化预报的不确定性。
2026-07-27 09:28
加载更多