点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:给智能体应用装上“制度护栏”
首页> 科技频道> 综合新闻 > 正文

给智能体应用装上“制度护栏”

来源:光明网-《光明日报》2026-05-14 02:25

  作者:吴晓林(南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员)

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。

  当前,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利了人们的工作生活。智能体的广泛使用,使得各类风险能被快速感知、及时处置,城市也变得更加“聪明”、更有韧性。例如,上海警方首创的“交通治堵大模型”已在全市360个路口部署应用,平均车速提升12.9%;北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统,智能井盖一旦监测到异常沉降,30秒内自动报警;天津中新生态城搭建起智能感知网络,可精准识别道路污染、建筑垃圾倾倒等行为,并实时上报预警信息,如同24小时在岗的“虚拟哨兵”。这样的智能体应用,在全国各类城市已经越来越多了。

  然而,技术跑得太快,也会让人心有疑虑。智能体的权限会不会越界?决策是否有效?如果决策出了问题谁来负责?隐私数据会不会“裸奔”?这些问题,老百姓关心,城市管理者更得放在心上。技术更新迭代速度快,制度建设跟不上,就会产生大量隐患。城市治理不是智能体的实验室,它关系着千家万户的切身利益,一旦出了问题,所带来的破坏和损失往往难以估量。在这方面,国外已有前车之鉴。

  这给我们提了个醒,智能体本身不是问题,真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时,它调用的数据是否必要、依据了什么规则,决策错了得纠偏问责;城市大脑调配信号灯时,算法偏差了得有人及时“踩刹车”;无人机飞越上空时,不能侵犯他人隐私和侵扰他人生活。也就是说,智能技术不能是“技术自运转”,它的运行必须有规矩、有边界。《实施意见》的出台,就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”,而是给智能体“装上方向盘、系上安全带、画好轨道线”。

  智能体的应用,要遵循以人为本的理念。说到底,智能体是工具,它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”,正是将人的主体性摆在了核心位置。近日,工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》,将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”,从“替人做主”转向“助人决断”,让每一个被智能体服务的市民,享受得到服务、看得见规则、找得着说法。

  智能体的效果,取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”,更要做智能体生态的“塑造者”。各地须统揽各类智能体,根据应用场景的风险高低,审慎划定智能体“可为”与“不可为”边界,同步建立算法备案与影响评估制度,让每一套算法在上线前先“过审”;同时完善人工复核与申诉救济机制,确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体,而是为了让它在服务市民的轨道上跑得更稳。

  智能体的生态,要靠多元共治的协同。智能体不是政府和企业的“专属工具”,它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”,鼓励行业自律、信用评价建设,引导公众和企业、高校、科研机构积极参与,这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面,国内已有鲜活实践。

  国务院国资委牵头打造的“焕新社区”,由25家企业、高校和标准化机构共同发起,面向全社会开放了40个央企高价值场景,使AI创新成果惠及更多中小企业和开发者。这启示我们,开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位,而且应该向社会公众开放,用以成为“众包平台”,使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权,让第三方机构参与评估认证,让行业自律与政府监管形成合力。

  《光明日报》(2026年05月14日 02版)

[ 责编:丛芳瑶 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 南海影像日志丨驰骋蔚蓝 破浪护疆

  • 荷风十里东湖夏 碧水长天入画来

独家策划

推荐阅读
这就是“管中窥豹”的困境,也是当前AI辅助荧光成像面临的核心难题。团队的解决思路颇具巧思:提出了一种全新的通用型荧光成像复原网络LargePNet。
2026-06-22 09:45
6月20日,中技船舶首批9艘新能源船舶集中试航仪式在广西南宁港举行。9艘船舶包含无人驾驶智慧船、商用作业船、民用休闲船,适配执法巡逻、景区观光等各类场景,助力内河航运绿色转型。新华社发
2026-06-22 09:44
法国“科技万岁”科技创新展6月20日在巴黎闭幕。法国“科技万岁”科技创新展创立于2016年,是科技创新和初创企业的重要展示平台。图为一名男子在“科技万岁”科技创新展上体验VR设备。新华社发
2026-06-22 09:44
英国《新科学家》周刊网站在近日的报道中指出,科学家正奋力探索多条有望恢复听力的道路,新一代治疗技术正在集中爆发。对于重度或极重度听力损失者,人工耳蜗植入也能极大改善他们的生活质量。
2026-06-22 09:44
在全球产业链、供应链面临复杂性和不确定性的背景下,第四届中国国际供应链促进博览会(以下简称“链博会”)如期而至。本届链博会首次设立人工智能专区以及升级的“数智科技链”,让联合国贸易和发展会议资深经济学家梁国勇高度期待。
2026-06-22 09:44
历时8年、由全球多个机构38位科学家共同完成的一项国际研究发现,线粒体并非通过简单扩散为细胞核提供能量,而是铺设“专线”供能,即通过一种此前未知的直接物理连接将能量分子定向输送至细胞核。
2026-06-18 10:33
近日,2026年上海国际养老、辅具及康复医疗博览会落幕。本次展会直观印证,人工智能既是夯实基础养老保障的务实抓手,更是释放银发经济增长潜力的核心引擎。
2026-06-18 10:32
奇索姆不会中文,叶子不会英文,但这并没有妨碍两人在短短几分钟内就交上了朋友,她们的“秘密武器”正是人工智能(AI)。
2026-06-18 10:29
高精度感知技术如何打破实验室的“围墙”,深度融入我们的日常生活?答案,就藏在量子科技与芯片工程的交汇点——让量子“住”进芯片。
2026-06-18 10:28
如各大顶尖研究型高校一样,数学学科的全球竞争力需要长期稳定的支持,时间会证明数学研究和人才培养的后劲十足。
2026-06-18 10:24
与依赖相对固定会话管理结构的传统5G核心网络不同,新技术引入AI驱动的预测与控制能力,可根据不同业务需求实时优化会话管理、数据传输路径和服务质量,实现网络资源的动态调度。未来,团队还计划开发支持低轨卫星通信的核心网与传输网融合技术,构建融合业务、计算和网络的新一代6G核心架构。
2026-06-17 09:32
荷兰阿姆斯特丹大学医疗中心研究人员宣布,他们开展的全球首例针对遗传性疾病的体内CRISPR疗法三期临床试验取得成功。这把“剪刀”,为许多遗传性疾病患者剪开了新天地,预示着遗传病治疗或将从“延缓病情”迈向“治愈疾病”的新时代。
2026-06-17 09:28
交通运输是维系国民经济运行的重要基础,在碳排放总量中,交通运输领域占比高、减排难度大。针对水路运输降碳难题,我国正聚焦核心技术攻坚、示范船舶落地、配套体系完善,多措并举突破行业绿色转型壁垒。
2026-06-17 09:23
未来产业培育周期长、市场风险大,单一政策工具难以奏效,必须构建覆盖全生命周期、多元主体协同发力的政策矩阵。未来产业发展涉及面广、风险点多、迭代速度快,必须突破条块分割,构建集中统一、协同高效、安全可控的现代化治理体系。
2026-06-17 09:18
深海水虱是一种生活在深海的巨型甲壳动物,在缺乏稳定食物供给的情况下可存活五年之久。深海环境黑暗、寒冷、食物极度匮乏,如何克服寡营养环境对生存的威胁是深海生物面临的最大挑战。
2026-06-17 09:15
韩国首尔国立大学工程学院科学家研制出一款高性能有机发光二极管,集成了高导电性透明金属电极,透光率超过93%,有望在先进显示器等众多领域大显身手。所得器件兼具优异的透明度与电致发光性能,底层的有机层也安然无恙,充分彰显出该技术在下一代透明显示应用中的巨大潜力。
2026-06-16 09:27
《自然·医学》杂志15日报道了一种皮质内脑机接口(BCI)突破。该参与者累计使用该系统超过3800小时,共发出183060个句子(近200万词),平均每分钟56词,其中92%的句子被评定为“基本正确”或更佳。
2026-06-16 09:26
未来产业是科技创新和产业创新深度融合的产物,是技术突破催生的全新赛道,对于发展新质生产力具有先导性、引领性作用。未来产业的根基在于创新,没有源头创新,就没有未来产业的萌芽;没有持续创新,就没有未来产业的壮大。统筹科技自立自强与全球创新合作是夯实未来产业发展根基的关键。
2026-06-16 09:25
随着高密度发射成为常态,力箭一号火箭控制系统逐步实现软、硬件产品全链路自主可控。“目前,箭上配套设备缩减50%,地面设备削减80%,火箭电测周期由原来的1个月压缩到1周以内。
2026-06-16 09:23
作者:尚俊杰、王淑文(分别系北京大学教育学院副院长兼学习科学实验室执行主任、中国高等教育学会学习科学研究分会常务副理事长兼秘书长;将学习科学的研究成果深度融入AI教育系统的设计、开发与应用全过程,是提升教育质量、避免技术滥用的关键。
2026-06-16 09:22
加载更多