点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 浙江奉化:非遗群龙大巡游

  • 侗乡欢庆“二月二”

独家策划

推荐阅读
27日,记者从广州大学获悉,该校与中国科学院、同济大学、美国宾夕法尼亚州立大学等高校科学家合作发现,位于火星北半球乌托邦平原南部的“祝融号”着陆区,其地下10—35米深处存在多层倾斜沉积结构。
2025-02-28 09:51
2月27日15时08分,长征二号丙运载火箭在酒泉卫星发射中心点火升空。
2025-02-28 09:50
北京大学常林研究团队与中国科学院空天信息创新研究院合作,成功开发出世界首款光子时钟芯片,可将芯片上的时间调控速度提升100倍。
2025-02-28 09:47
在宇宙中,有一类神秘天体——流浪行星
2025-02-28 09:46
从市场监管总局获悉,国际电工委员会近日正式发布由我国牵头制定的养老机器人国际标准。
2025-02-28 09:44
国际数据库事务处理性能委员会(TPC)近日宣布,阿里云PolarDB云原生数据库以远超原纪录的性能,登顶TPC—C基准测试排行榜,以每分钟20.55亿笔交易和单位成本0.8元人民币的成绩,刷新该榜单性能和性价比两项世界纪录。
2025-02-27 09:15
当物质处于地球上最低温度、最高压力等极端条件下,可能出现怎样的“超能力”?物态调控是物理学研究造福人类社会的重要途径,科学家对于物理世界极限的探寻从未停止。
2025-02-27 09:37
记者26日从中国科学院西北生态环境资源研究院获悉,该院敦煌戈壁荒漠研究站柳本立研究员团队以退役风机叶片为原料,成功研发出新型防沙材料,为循环利用退役风机叶片提供了新的解决方案。
2025-02-27 09:22
为学生量身定制学业规划、24小时解答疑难问题,为研究人员查找资料……“DeepSeek+高校”的智慧教学研究场景正在北京部分高校实现。AI浪潮已至,智慧校园是大势所趋,但AI与教育的融合仍有赖于师生素养提升、技术适应性及相关制度的建设完善。
2025-02-27 09:18
根据美国航天局最新测算结果,一颗编号为“2024 YR4”的小行星在2032年12月22日撞击地球的可能性已基本排除,撞击概率已降至0.004%。美航天局表示,小行星“2024 YR4”不再对地球构成重大威胁,它为天文学家提供了宝贵的机会来测试行星防御科研和预警流程。
2025-02-27 09:16
26日,全国规模最大、总投资最大、新能源占比最高的“沙戈荒”新能源外送基地电源项目——青海省柴达木格尔木东沙漠基地电源项目在青海格尔木开工。
2025-02-27 09:24
为加快补齐农村地区公共充换电设施短板,进一步释放新能源汽车消费潜力,财政部办公厅、工业和信息化部办公厅、交通运输部办公厅日前联合发布《关于开展2025年县域充换电设施补短板试点申报有关工作的通知》,明确2025年计划支持75个试点县改善充电基础设施。
2025-02-26 09:52
中国第四十次南极考察队利用我国自主研发设备,成功钻穿545米厚的冰层及冰岩夹层,获取了连续冰芯样品和基岩样品。拉斯曼丘陵地区位于伊丽莎白公主地冰盖末端,是东南极冰盖的溢流区之一。
2025-02-26 09:51
青藏高原高山特有物种是什么原因导致的?中国科学院青藏高原研究所生态系统功能与全球变化团队汪涛研究员联合瑞士巴塞尔大学、中国科学院西双版纳热带植物园和北京大学研究人员,
2025-02-26 04:20
近日,记者从吉林大学获悉,该校联合中山大学组成科研团队,发现了高温高压下石墨经由后石墨相形成六方金刚石的全新路径,并人工合成出高质量六方金刚石块材料,
2025-02-26 04:20
马家窑文化距今4000年的彩陶罐、红山文化神秘的陶塑人像、殷墟妇好墓出土的铜圆斝、山东滕州前掌大西周遗址出土的彩绘漆器……不同材质的文物是如何被修复的,又是如何被考古学者破译出古人留下的种种信息,复原出他们的生活图景?走进中国考古博物馆推出的“妙手活千秋——科技考古与遗产保护经典成就展”,答案就藏在其中。
2025-02-26 04:25
共筑数字童年新生态”为主题的“未成年人手机防沉迷座谈会”在京召开。李国强指出,沉迷手机不仅可能会导致视力损伤、睡眠障碍、颈椎问题等生理健康问题,还容易引发社交焦虑、注意力不专注等问题。
2025-02-25 09:34
自然资源部海洋战略规划与经济司24日发布的《2024年中国海洋经济统计公报》显示,过去一年,我国海洋经济呈现强劲发展势头,经济总量再上新台阶,首次突破10万亿元,达105438亿元,比上年增长5.9%,占国内生产总值的比重为7.8%。
2025-02-25 09:32
当前,我国大学生群体普遍来自独生子女家庭,在成长过程中通常得到父母及长辈的全方位关照,从而导致他们生活自理能力相对薄弱。
2025-02-25 09:31
2025年是“十四五”规划的收官之年,是巩固拓展脱贫攻坚成果同乡村振兴有效衔接5年过渡期最后一年,做好“三农”工作对全局发展至关重要。
2025-02-25 09:30
加载更多