点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 纯电动集装箱船队助力长江航运绿色发展

  • 沉浸式体验数字峰会上的前沿科技

独家策划

推荐阅读
习近平总书记强调,要以更大力度、更实举措加强基础研究,提升我国原始创新能力,进一步打牢科技强国建设根基。
2026-05-01 18:40
加强基础研究,建设科技强国的必由之路。
2026-04-30 16:22
“AI投毒”“控评”“互踩”“人肉”“开盒”“算法黑箱”……AI时代,面对这些媒介乱象,该如何约束?
2026-04-30 09:02
近日,国家市场监管总局与教育部联合发布全国首批“专业与标准化教育融合试点单位”名单,位于江苏苏州太仓市的苏州健雄职业技术学院入选。如今,苏州健雄职业技术学院立足太仓“德企之乡”的实际需求,建校20余年来为太仓560余家德企直接输送技能人才或提供相关培训。
2026-04-30 08:59
西出世界屋脊,东汇百川入海,长江绵延6300多公里,滋养了源远流长的中华文明,哺育着勤劳勇敢的中华儿女。“各民主党派中央、无党派人士积极开展长江生态环境保护民主监督,立足实际,各展优长,推动中共中央有关决策部署落实到位。
2026-04-30 08:56
“刚出厂的机器人如同懵懂孩童,需要在数据喂养与场景训练中不断成长。”  他告诉记者,目前训练场的训练内容覆盖现代农业、工业制造、医疗康养等6大领域,精准对接12大产业、27个应用场景。
2026-04-30 08:55
2025年度全国十大考古新发现29日在北京揭晓,吉林东部长白山旧石器时代遗址群、河南新郑裴李岗遗址、河北宣化郑家沟遗址、甘肃庆阳南佐遗址、山西昔阳钟村遗址、河南郑州商城遗址、陕西富平长春遗址、山东青岛琅琊台遗址、浙江绍兴越国都城和汉六朝会稽郡遗址、宁夏贺兰苏峪口瓷窑址上榜。
2026-04-30 08:54
2010年,舒易来获得赴美国哈佛大学麻省眼耳医院联合培养的机会,在该院陈正一教授课题组继续开展耳聋治疗研究。2014年,舒易来带着最前沿的基因编辑理念回到复旦大学附属眼耳鼻喉科医院,继续探索耳聋治疗的新方法。
2026-04-29 10:43
一张4厘米见方、6微米厚的薄膜贴附于大脑功能区表面的硬脑膜外,就能采集到大脑信号。“北脑一号”已在研究者发起的临床研究中完成7例患者植入手术,器械在人体内累计工作时长超4.5万小时,初步验证产品的安全有效性。
2026-04-29 10:38
生物医药基础科研水平大幅提升。据统计,2023年,中国学者在生物医药领域三家全球顶尖学术刊物《细胞》《自然》《科学》发表的文章数量,跃升至全球第二,仅次于美国。在评选出的“2024年医疗界十大临床突破”中,有四项来自中国。
2026-04-29 10:33
乘坐自动扶梯时,很多人有“左行右立”的习惯:右侧站立,左侧留给赶路行人。可如果“左行”撞到了“右立”,还造成了一定损失,要担责吗?近期,上海铁路运输法院审结了一起相关案件。
2026-04-29 10:27
4月27日,农业法修订草案提交十四届全国人大常委会第二十二次会议审议。为突出耕地等农业资源保护和农业绿色发展,草案将现行农业法第八章“农业资源与农业环境保护”分为“土地等农业资源保护”“农业绿色发展”两章。
2026-04-29 10:13
教育部今天(28日)发布《普通高等学校本科专业目录(2026年)》,共新增38种普通高校本科新专业。本次获批申办高校可纳入2026年高考招生。
2026-04-28 11:22
目前,本科专业目录共涵盖13个门类、92个专业类、883种专业。
2026-04-28 11:20
中国农业科学院作物科学研究所小麦基因资源发掘与利用创新团队近日成功克隆了调控小麦分枝与主茎之间角度的关键基因,并揭示了其平衡调控小麦“站姿”的分子机制。
2026-04-28 10:01
作为牵头用户,生态环境部已有8颗环境和大气系列卫星在轨运行,还可统筹调用140余颗民商卫星数据资源。
2026-04-28 10:00
西南大学徐洛浩、刘海平教授团队联合德国科学院院士阿克塞尔·迈尔开展攻关,成功破解相关科学难题。
2026-04-28 09:59
人工智能的崛起为人类社会开启了变革的新纪元,深刻重塑着我们生活与生产的各个方面。而作为文明传承与思维锻造的核心路径,阅读在这一浪潮中经历着前所未有的影响与重构。
2026-04-28 09:57
透视农业农村经济“开门红”,其背后是国家战略引领、政策有力支持和市场社会力量的协同发力。
2026-04-28 09:46
外商投资安全审查工作机制办公室(国家发展改革委)依法依规对外资收购Manus项目作出禁止投资决定,要求当事人撤销该收购交易。
2026-04-27 16:54
加载更多