点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:当AI开始“越界”,国际社会如何扎紧安全藩篱
首页> 科技频道> 人工智能 > 正文

当AI开始“越界”,国际社会如何扎紧安全藩篱

来源:光明网-《光明日报》2026-08-14 04:40

光明日报记者 曹元龙

“鉴于人工智能(AI)目前展现的令人惊讶的能力,我们将如何设法未雨绸缪,而不仅仅是在人工智能的风险来临时兵来将挡?我们需要怎样的远见和效率预见未来发展的全部倾向和一系列可能采取的行动?”美国前国务卿基辛格在其生前最后一部著作《人工智能时代与人类价值》中的发问,正以超出预期的速度成为现实议题。

近期,美国人工智能头部企业开放人工智能研究中心(OpenAI)、Anthropic及元公司(Meta)接连披露,其前沿AI模型曾在网络安全能力测试中突破隔离环境,并入侵外部机构的系统。一系列集中爆发的AI越界事件,不仅暴露了AI技术在快速迭代中潜藏的失控风险,更对现行国际规则与全球治理体系提出了严峻拷问。有评论指出,AI网络入侵已非小概率的“黑天鹅”事件,在技术失控风险持续攀升的当下,国际社会亟须凝聚共识、补齐短板,合力扎紧AI安全的制度藩篱。

AI发展面临“脱缰”风险

7月下旬,OpenAI公开确认,其GPT-5.6 Sol等模型在内部安全评估中失控,利用未知漏洞突破沙箱测试环境,侵入AI开源平台“抱抱脸”的系统。随后,Anthropic披露其三款模型曾在网络能力测试中未经授权访问其他机构的系统。Meta也证实其一款模型在评测期间修改了一家公司系统的内部运行环境。

8月4日,英国人工智能安全研究所发布报告称,其对Anthropic和OpenAI的前沿AI模型进行了122轮测试,在10轮中出现超出授权的自主行为,共记录19次违规操作。最严重的一次是,AI试图欺骗项目维护人员进行代码更新,以便植入恶意代码。

深圳技术大学国际科技战略与安全研究院执行院长邵鹏鸣表示,此轮AI模型的越界行为至少表现出三个共同特征。一是目标驱动性明显。模型并非随机攻击,而是在完成既定任务过程中,把突破限制、获取凭据、寻找漏洞等作为实现目标的手段。二是行动具有自主性和连续性。模型已经能够自行完成“发现问题—选择工具—突破权限—横向移动—寻找目标”的多步骤行动链,而不需要人类逐条下达指令。三是虚拟任务与现实行为之间的边界开始模糊。一旦测试环境、网络隔离或权限设置存在漏洞,模型在虚拟任务中形成的行动逻辑就可能直接作用于真实系统。

邵鹏鸣认为,过去的大模型主要是“回答问题”,现在的前沿模型越来越能够自主规划任务、调用工具、执行代码并持续行动。当模型能力提升,而网络隔离、权限控制和安全评测机制没有同步升级时,治理能力跟不上技术发展的矛盾就容易集中暴露。因此,这些事件更值得关注的不是“AI是否突然失控”的问题,而是AI自主行动能力正在跨过新的技术门槛,原有安全治理体系已经出现一定程度滞后的问题。

“事后补救”模式不再适用

8月10日,美国多名国会议员致函OpenAI、Anthropic两大企业,要求说明其如何在测试期间监控AI模型,这些失控模型是否绕过了公司的安全控制措施,以及AI模型入侵企业系统后,公司采取了哪些安全措施。

多方分析指出,依赖企业自律、事后补救的治理逻辑,早已无法适配AI技术的风险特征。一方面,在当前极度烧钱的AI竞赛中,头部企业的技术测试本身裹挟着商业利益,难以实现绝对中立合规。对于此轮AI模型的越界行为,英国帝国理工学院计算机系的康斯坦丁诺斯·格库齐斯博士就指出,在OpenAI披露的情况中,真正的问题在于其未能控制好模型能力测试,至于所谓模型具备先进网络攻击能力的警告,恰好为这个模型做了广告。

另一方面,AI技术重构了网络安全风险的应对节奏,彻底压缩了风险处置窗口期。美国人工智能政策与战略研究所研究员拉莫斯表示,对于漏洞从披露到遭利用,政府和企业现在的反应时间已经没有“数周”或“数月”了,只能以小时计算。Anthropic联合创始人杰克·克拉克进一步判断,到2028年底,人工智能系统有60%的概率能够在不需要人类干预的情况下创造出自己的“后代”。那也就意味着,模型将持续自主优化升级,其演化路径、能力边界与潜在风险不可预判,人类恐将丧失事后纠错的主动权。

在清华大学人工智能国际治理研究院副院长肖茜看来,破解人工智能治理困境,核心是平衡好两组关系。其一是创新与治理的关系。近年来,国际社会围绕人工智能治理形成了两种不同倾向:一种强调尽可能放松监管,以保持技术创新优势;另一种则强调强化监管,从而降低人工智能带来的潜在风险。正确的发展思路并不是简单选择其一,而是坚持创新与治理同步推进。其二是安全与发展的关系。在人工智能时代,不发展本身就是最大的不安全。同时,如果忽视安全,人工智能的发展同样难以持续。一旦发生重大人工智能安全事故,不仅会造成现实损害,更可能削弱公众对人工智能产品和服务的信任,进而影响技术应用和产业发展。

合作是应对越界的唯一出路

值得关注的是,在OpenAI的AI模型入侵“抱抱脸”平台的过程中,该平台最终依赖中国企业智谱AI的开源权重模型GLM-5.2在内部硬件上运行,成功阻断了攻击。这一细节生动说明:在AI时代,没有任何一家企业或一个国家能仅凭一己之力构筑绝对安全的堡垒。

正如美国专栏作家托马斯·弗里德曼5月在《纽约时报》发文呼吁,鉴于最新AI模型已展现出惊人的网络攻击能力,中美两国应携手建立防护机制,防止人工智能被恶意利用。“我们已经没有时间。再没有拖延的余地,已经无路可退”。

邵鹏鸣认为,此轮AI模型的越界事件提出了一个重要警示,即AI安全正从企业内部的技术安全问题,向网络安全、法律责任乃至全球治理领域外溢,成为影响国际关系的新变量。若不进行有效治理,AI技术风险就可能突破技术范畴,演变为新型跨国网络与科技外交风险。相较传统网络攻击,AI自主跨境入侵将给国家间关系带来诸多新挑战。其一,权责归属模糊化,传统网络攻击可追溯主体、界定责任,而AI自主越界行为可能涉及开发者、测试方、部署者、使用者等,现有规则无法明确追责主体。其二,行为意图难以判定,传统网络安全事件可通过行为轨迹追溯人为意图,而AI可在无人类明确指令的情况下自主决策、跨界攻击,难以区分技术意外与蓄意破坏,极易引发误判与对峙。其三,技术风险政治化凸显,当AI模型跨境侵入他国科研机构、政企系统、关键基础设施,即便归属企业将其界定为测试意外,也极易被受影响国家认定为网络安全威胁,进而演变为科技摩擦、外交争端,冲击双多边关系。

当前,全球人工智能治理已进入深水区,技术乱象、伦理风险、地缘博弈、规则割裂等多重矛盾交织叠加,人工智能早已突破单一科技议题,成为全球经济、社会、安全、地缘博弈的核心焦点。机器自主思考如何规范、算法决策风险如何防控、技术迭代如何适配伦理、治理体系如何跟上技术发展速度、南北数字鸿沟如何弥合,一系列时代命题摆在全人类面前。

这些问题没有现成答案,但方向已经明确。今年以来,联合国首届人工智能治理全球对话成功举办,2026世界人工智能大会暨人工智能全球治理高级别会议探讨促进全球人工智能向善普惠发展,《关于成立世界人工智能合作组织的协定》签署仪式举行,国际社会正加速凝聚合作共识——人工智能技术发展越是一日千里,向上向善、造福人类的方向越要正确锚定,监管治理的尺度越要精准把握,防范失控的措施越要及时完善,要使人工智能真正成为增进全人类福祉、推动人类文明进步的强大正能量。

《光明日报》(2026年08月14日 12版)

[ 责编:肖春芳 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 第140届广交会第一期线下展:18.9万名境外采购商到会

  • 《长征专题书目(1936—2026)》出版发行

独家策划

推荐阅读
智能科技是当前最具革命性、引领性的科技前沿,是推动新质生产力质态变革的关键力量,它不仅表现为技术层面的迭代,更体现为生产方式、产业形态和价值创造模式的系统性重构,并推动形成智能经济新形态。
2026-10-20 10:00
推进全球人工智能伦理治理,必须坚持“以人为本、向上向善”,以增进全人类共同福祉为根本目标,从技术普惠、精准治理、多元参与和全球共治四个方面协同推进,构建发展机会均等、权责边界清晰、国际协同高效的治理秩序。
2026-10-20 09:59
人民健康是民族昌盛和国家强盛的重要标志,也是中国式现代化行稳致远的根基所在。时隔十年,2026年10月,全国卫生与健康大会再次召开。回望十载征途,健康中国已从宏伟蓝图,化作大江南北触手可及的民生福祉。
2026-10-20 09:58
自然如何不被贫困“吞噬”,跨境之痛如何共担,资金如何流向正确方向——16日在亚美尼亚首都埃里温举行的生物多样性领导人峰会,就这三个问题向《生物多样性公约》第十七次缔约方大会(COP17)正式谈判传递出三个诉求:把自然保护纳入安全议程,让全球目标回应区域现实,让资金和措施真正到位。
2026-10-20 09:57
生产要素创新性配置,推动资源治理由技术优化向制度协调延伸。算电协同、算水协同揭示的资源逻辑,是技术创新改变资源利用方式、要素创新性配置提升系统效能、产业转型升级实现综合价值的有机统一。
2026-10-20 09:55
围绕“科学作为全球公共产品”“负责任的人工智能应对全球挑战”“科学、社会与信任”三大议题开展对话交流
2026-10-20 08:58
2026国际科学理事会中期会员大会暨北京科学对话由国际科学理事会主办,中国科学技术协会、中国科学院、中国社会科学院、北京市人民政府共同举办
2026-10-20 08:29
城市是人民美好生活的载体,人民群众是城市建设的主体和城市发展的动力源泉。
2026-10-19 09:32
当你出门后,扫地机器人根据你的清洁习惯自己排定工作时间、规划好路线;自研的快充技术,让它边充边扫、无限续航。这个颇具科幻意味的场景,已被第140届中国进出口商品交易会(广交会)上的一款产品实现。
2026-10-19 09:35
“可信工具”这一重要提法精准抓住了人工智能发展的一个根本问题:我们不能只问人工智能是不是更聪明、更高效、更强大,还要追问它是否真正可信。
2026-10-19 09:31
让从农田到餐桌的全过程均有标准可依,并积极推广应用食品数字标签,让食品信息获取更便捷高效。
2026-10-19 09:18
推动卫生与健康事业高质量发展,不断提高人民健康水平,确保健康中国建设取得决定性进展。
2026-10-19 09:16
当前全球生态环境挑战日益严峻,科技创新是应对可持续发展挑战的核心力量。
2026-10-16 16:29
10月16日是第四十六个世界粮食日,所在周是全国粮食安全宣传周,主题为“创新当下,粮安未来”。从良种选育、智能农机到数字农业、精准储运,创新正成为粮食增产、节粮减损、营养提升的关键引擎。即日起,光明网联合科普中国推出系列科普视频,深入解读科技创新绘就的粮安答卷。
2026-10-16 08:46
在显示技术升级与人工智能赋能的双重驱动下,行业正跳出传统数字阅读的固有边界
2026-10-16 08:45
打造集技术研发、模型训练、系统验证及场景测试于一体的创新基地,推动人形机器人及具身智能技术从实验室研发阶段走向大规模产业应用。
2026-10-16 08:39
工业和信息化部、中央网信办、市场监管总局高度重视,在前期调查工作基础上,成立联合调查组开展核查,并依法依规处理。有关情况将及时公布。
2026-10-16 08:40
大会延续“零碳·科技”永久主题,以“智储新程 绿动全球”为年度主题
2026-10-16 08:35
“戈壁荒滩老风口,飞沙走石雁不留。托里县老风口蝶变的三部曲,为生态脆弱地区推动高质量发展、树立和践行正确政绩观,提供了深刻启示。树立和践行正确政绩观,就要算大账、算长远账、算整体账,既做显功、也做潜功,把生态优势转化为发展优势、民生福祉。
2026-10-15 09:51
常压下,水到0℃会结冰,这就是人们熟悉的相变,0℃即是相变的临界点。两篇论文的共同通讯作者、宁波东方理工大学助理教授余雪佳,把这个难题比作“在沸水中完好保存一件冰雕”。
2026-10-15 09:49
加载更多