点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 济滨高铁进入全线铺轨作业阶段

  • 浙江武义:春茶全面开采

独家策划

推荐阅读
“龙虾”智能体通过整合调用通信软件和大语言模型,在用户本地电脑自主执行文件管理、邮件收发、数据处理等复杂任务。”魏亮说,有关方面也会持续做好安全监测,如发现相关安全风险将及时预警,为用户安全使用提供必要的技术支持。
2026-03-11 09:36
作为人类的“第二大脑”,AI for Science正在全球范围内引发科研范式的深刻变革,也成为全国两会期间代表委员关注的话题。3月7日,在全国政协十四届四次会议第二次全体会议上,全国政协委员、中国科学院院士周志华发言建议,以人工智能引领科研范式变革。
2026-03-11 09:36
全国政协委员、中国科学院院士、南京大学副校长周志华在接受光明网记者采访。
2026-03-11 07:00
以医工交叉+成果转化为抓手,凭借硬核科创成果精准攻坚,同时高标准建设国家药监局监管科学创新基地,为产业发展提供标准与工具支撑。
2026-03-11 09:33
作者:余有成 张立华 吴 飞(分别系中国人工智能学会副秘书长;复旦大学智能机器人研究院常务副院长、特聘教授;我国的独特优势,在于探索出一条“软件定义算力、算法驱动效能、人工智能+赋能场景”的创新路径。
2026-03-11 09:32
具体而言,在种植与流通环节,中药农业面临良种普及率不高、生产种植分散、标准化程度偏低等现实问题。可制定国家统筹的野生资源抚育与替代技术攻关清单,利用大数据监测价格与供给波动,增强产业链供应链韧性。
2026-03-11 09:31
光明日报北京3月10日电 记者张晓华从中国航天科技集团获悉,目前中国探月工程四期正稳步推进,2026年将研制发射嫦娥七号探测器,首次奔赴月球南极,寻找水冰存在的证据。中国航天科技集团五院研究员孙泽洲表示,在行星探测方面,未来我国还将发射天问三号和天问四号。
2026-03-11 09:30
当前全球人工智能竞争日趋白热化,大模型手机助手成为智能终端领域的核心竞逐赛道。建议以技术协同创新为核心、以产学研深度融合为支撑、以包容审慎监管为保障,筑牢自身核心优势,抢抓大模型手机助手产业窗口期。
2026-03-10 09:57
近日,由蓝箭航天研制的220吨级液氧甲烷全流量补燃循环发动机“蓝焱”完成整机全系统长程试车,标志着我国在大推力高性能液体火箭发动机领域持续取得突破性进展。
2026-03-10 09:30
从空天地一体化网络到通信、感知与人工智能深度融合,6G被视为重塑全球数字信息基础设施格局的重要技术底座。
2026-03-10 09:29
我国目前农业科技进步贡献率已经超过64%,农作物良种覆盖率超过96%,农作物耕种收综合机械化率达到76.7%,“农业现代化建设迈上了一个新台阶”。
2026-03-10 09:27
全国两会期间,“养龙虾”的话题登上热搜。全国人大代表、中国工程院院士高文说:“现在大家急得不得了,生怕没有养上‘龙虾’。”
2026-03-10 09:26
从实验室的“青苹果”到产业端的“金苹果”,距离有多远?2026年全国两会期间,两位代表分享了他们的探索实践。
2026-03-09 09:46
加快科技自立自强,既是破解产业升级瓶颈的重要支撑,也是抢占未来产业新赛道、培育新质生产力的关键依托。
2026-03-09 09:45
在全国两会会场,记者见到了贵州省六盘水市水城区农业农村局农业综合开发中心主任杨恩兰代表,聊起了她来京前的“田间故事”。
2026-03-09 09:44
杨建成委员介绍,经过几十年发展,我国布局建造了一批重大科技基础设施。
2026-03-09 09:43
中国工程院院士,第十四届全国人大常委会委员、农业与农村委员会副主任委员唐华俊代表:为此,建议推动在农业法、乡村振兴促进法等相关法律法规中增设专章专节部署农业资源区划工作。
2026-03-09 09:27
粮食安全,是“国之大者”。3月5日提请十四届全国人大四次会议审查的“十五五”规划纲要草案提出“十五五”时期主要目标和重大任务,明确粮食综合生产能力达到1.45万亿斤左右。
2026-03-06 09:35
我国科技成果大量涌现,人形机器人大放异彩,开源大模型领跑全球,芯片攻关取得新突破,创新药迅猛发展。
2026-03-06 09:31
生态环境法典草案规定,国家根据需要在长江、黄河、青藏高原等重要流域、区域建立协调机制,统筹指导、综合协调长江、黄河、青藏高原等重要流域、区域的生态环境保护等工作。
2026-03-06 09:29
加载更多