点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国“智造”全球抢单 绿色创新引领市场潮流

  • 第五届消博会丨国货潮涌消博会

独家策划

推荐阅读
儿童是嗓音障碍的高发群体,更应得到及时、有效的防治。
2025-04-17 10:36
大数据若停留在实验室,便失去了意义。我们的目标是将数据转化为信息,再升级为决策支持。
2025-04-17 10:30
面对人工智能这把“双刃剑”,我们亟须构建完备的人工智能安全治理体系。
2025-04-17 09:30
立足经验,破解问题,继续纵深推进国家教育数字化战略布局,以人工智能助力教育变革。
2025-04-17 09:27
地月空间是指从地球低轨延伸至月球(约38万公里)以及远至200万公里的空间。
2025-04-17 09:27
蓝箭航天空间科技股份有限公司天鹊系列发动机在其浙江湖州动力制造基地完成第100台正式下线,标志着我国商业航天动力系统实现从单台研制到批量制造的跨越,迈向规模化应用新阶段。
2025-04-16 10:20
华中科技大学同济医学院附属协和医院心脏大血管外科主任董念国团队,近期将历时3年自主研发的儿童用磁悬浮双心室辅助装置,成功植入一名7岁终末期心衰患儿体内。
2025-04-16 10:19
全球首次成功绘制六倍体小麦的端粒到端粒完整基因组图谱,实现了小麦基因组从“头”到“尾”无缺口的精确组装。
2025-04-16 10:17
从数学上讲,绳结交叉点与量子算法之间的理论等价性已经为人所知数十年,但直到现在才由该团队完全付诸实践。
2025-04-16 10:15
香江四月,风暖潮平,2025年世界互联网大会亚太峰会于4月14日在香港开幕,为携手构建网络空间命运共同体勾勒出更包容、更可持续的未来图景。
2025-04-16 10:10
近年来,我国强化统筹规划,产学研用等相关主体密切协作配合,全力强化“政策扶持、科技创新、人才强基、对外合作、历史文化”等五大措施,推动天然橡胶产业发展取得积极成效。
2025-04-16 10:09
借助一种名为SMART-EM(单分子原子分辨率时间分辨电子显微镜)的技术,首次在原子尺度上拍摄了催化反应过程。
2025-04-15 11:02
中国旅游研究院联合马蜂窝发布《中国赏花游报告2025》
2025-04-15 10:46
春天里,田野上,一粒粒良种破土而出、向阳生长,承载起端牢中国饭碗的希望。既为品种权人提供有力保护,又有效规范种业市场,一粒种子伤“芯”被抚平的故事,折射法治对种业发展的有力保障。
2025-04-15 11:00
中国是拥有杜鹃种类最多的国家之一,超过530种。2018年,《毕节市百里杜鹃风景名胜区条例》出台实施,形成对百里杜鹃资源保护“有地方性法规、有特设机构、有专岗人员”的立体化保护机制。
2025-04-15 10:58
从概念验证中心起步,一大批创新项目正培育成熟、投入市场,迈向更加广阔的未来。
2025-04-15 10:49
以耕地保护为例,为扭转黑土地退化趋势,我国自2020年启动实施了东北黑土地保护性耕作行动计划。
2025-04-14 09:58
北京市、中国科学院发布怀柔综合性国家科学中心科技设施开放运行报告,怀柔综合性国家科学中心已布局建设37个科技设施,其中16个已向全球开放,包括多个国家重大科技基础设施。
2025-04-14 09:57
近日,我国自主研制的最大直径盾构机“沧渊号”在江苏常熟下线,将用于世界最长高速公路水下盾构隧道——海太长江隧道工程施工。
2025-04-14 09:57
志林肚天牛体色以浅红褐色为主,下颚内缘为黑褐色,触角呈暗红褐色。
2025-04-14 09:30
加载更多