点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 我国全超导用户磁体取得重大突破

  • 瞄深空!南极“天眼”看见了啥?

独家策划

推荐阅读
水稻耐不耐旱,和叶子的厚实程度相关,这是由什么因素决定的?日前,中国农业科学院作物科学研究所水稻分子设计技术与应用创新团队发现,水稻基因组中的三个耐旱基因可以“团队作战”,
2026-01-27 02:50
年轻人享受便利的同时,关注新的变化:智能穿戴设备是否正在塑造一个充满数据和规定的生活方式?“贴身伙伴”的出现改变了生活,人们同自己身体、同生活本身的关系,是不是也在变?
2026-01-27 03:15
商业航天是培育新质生产力、建设航天强国的重要力量。面对全球商业航天竞争日趋激烈的态势,中国商业航天亟须推动产业从“政策驱动”转向“市场驱动”。
2026-01-27 09:18
云南大学研究团队日前在国际学术期刊《自然》发表了关于早期脊椎动物视觉系统演化的研究成果,首次揭示了早期脊椎动物具有4只相机型眼,
2026-01-27 02:50
印度东部西孟加拉邦近期出现尼帕病毒感染病例,目前已报告5例确诊病例,其中一名患者病情危重。泰国、尼泊尔等国已在机场和边境口岸加强防疫检测。尼帕病毒是一种新出现病毒吗?它有哪些特点?为何印度暴发的尼帕病毒疫情引起多国高度关注?
2026-01-27 03:15
科学家精神在我国科技发展事业中萌芽、生成、丰富、完善,成为兼具历史传承性、文化包容性与民族独特性的精神标识,不仅教育引导各类人才矢志爱国奋斗、锐意开拓创新,更是拔尖创新人才成长的精神旗帜与动力源泉。
2026-01-27 03:15
1月26日,将迎来腊八。一些细心的公众发现,相较于前些年,今年腊八来得有些晚。
2026-01-26 09:59
据农业农村部最新发布的数据,2025年全国粮食产量达到14298亿斤,增产168亿斤,连续两年稳定在1.4万亿斤以上。
2026-01-26 09:56
试验将收集锋面不同高度、不同位置的气象数据,为深化云贵准静止锋研究、提升预报服务能力提供更全面的支撑。
2026-01-26 09:51
中国科学家在国际学术期刊《细胞》发表论文,首次系统揭示了埃博拉病毒在2018—2020年大规模流行期间的一个关键“优势”突变。
2026-01-26 09:49
这一问题在当代科技哲学与美学的交叉前沿领域日益成为争论的焦点。
2026-01-26 09:48
我国结核病防治虽成效显著,疫情持续下降,但当前形势依然严峻,防治工作任重道远。作为一名从业30多年的结核科医生,我一直专注于结核病的临床诊治与防控,从未想过自己会与结核病防治历史结缘——直到十余年前。
2026-01-23 10:13
每到冬天,许多人都会感到手脚冰凉,即使穿得很厚,也难以真正暖和起来。为什么会有这种现象?该如何有效改善?
2026-01-23 10:06
“设立教育基金是我多年的心愿,希望为学校年轻人的培养作一点贡献。”
2026-01-23 10:01
1月22日,中科宇航将微重力金属增材制造返回式科学实验载荷交付于中国科学院力学研究所。这台由力学所自主研制的载荷,搭载于中科宇航力鸿一号遥一飞行器,于1月12日成功开展我国首次太空金属增材制造(即“3D打印”)实验。据悉,这是我国首次基于火箭平台实施太空金属增材制造返回式科学实验。
2026-01-23 09:48
团队所制备的“纤维芯片”中,电子元件(如晶体管)集成密度达10万个/厘米,通过晶体管高效互连,可实现数字、模拟电路运算等功能。而在虚拟现实领域,基于“纤维芯片”所构建的智能触觉手套适用于远程手术组织硬度感知、虚拟道具交互等场景,有望极大提升用户与虚拟环境的交互体验。
2026-01-23 09:48
扎实推进科普智库各项建设工作,为实现2035年“终结结核病流行”目标注入强劲的思想动力与坚实的行动支撑。
2026-01-22 18:44
国家能源局21日发布的数据显示,截至2025年12月底,我国电动汽车充电设施数量达2009.2万个,突破2000万大关。方案提出,到2027年底,将在全国范围内建成2800万个充电设施,提供超3亿千瓦的公共充电容量,满足超过8000万辆电动汽车充电需求,实现充电服务能力的翻倍增长。
2026-01-22 09:31
正因如此,团队创新性转向了模拟计算这一新兴赛道,成功研制出基于阻变存储器的非负矩阵分解模拟计算求解器。“这项工作为非负矩阵分解这类约束优化问题的实时求解开辟了新路径,展现了模拟计算处理现实复杂数据的巨大潜力。
2026-01-22 09:28
对于成千上万的心脏病患者来说,植入心脏起搏器是维持生命节律的重要方式。该起搏器设计极度微型化,生物相容性优异,可通过微创导管经股静脉植入心脏内部,大大降低了手术创伤。
2026-01-22 09:27
加载更多