点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:深度解析:安全GPT检测大模型是怎样炼成的?
首页> 科技频道> 互联网 > 正文

深度解析:安全GPT检测大模型是怎样炼成的?

来源:光明网2023-12-28 11:33

  流量威胁检测的重要性无需多言。回顾发展历程,流量威胁检测技术经历了从正则匹配到语法语义匹配,再到结合统计分析、行为分析的机器学习小模型等技术路线。

  我们可以窥探其反映出攻击手段的升级迭代:从最开始带有明显特征,逐渐变成弱特征,甚至是组合利用的体系化攻击手法,再到最新的智能化手段运用。

  《世界互联网发展报告2023》中提到,网络攻防进入智能化对抗时代,低成本自动化的新形式网络攻击层出不穷。

  攻击者已经在利用AI大模型批量快速构建攻击工具、生成混淆攻击代码,并结合全方位立体攻击手法(如:0day 漏洞攻击、定向钓鱼、C2加密通信等)。很多人依然执着于通过持续叠加规则,包括结合云端情报等手段,让传统检测引擎应对新威胁,但这无异于以卵击石。

  深信服不沿袭老路,以Game Changer的思路独辟蹊径——利用大模型赋能流量检测。

  完爆传统检测引擎

  六项能力超越通用大模型

  深信服安全GPT可以作为检测引擎,赋能态势感知等传统安全设备,具备对未知攻击的意图理解、异常判定、混淆还原能力,当前已完成检测大模型的标准化落地。

  基于积累的千万条语料、千亿级Token的高质量训练数据,早在今年4月,安全GPT检测大模型的效果已显著超越了业界多家基于规则和小模型的流量检测引擎。经内部5000万样本数据测试,相比传统流量检测设备,安全GPT检出率由平均57.4%提升至92.4%,误报率由42.6%降低至仅4.3%。

  从实践中来到实践中去,安全GPT检测大模型一次次证明了自身实力:

  1.多方持续验证检测效果

  8月,在2023年大型实战攻防演练中,安全GPT检测大模型在没有任何先验知识的前提下,发现50+在野0day漏洞利用攻击。

  9-11月,深信服蓝军基于检测大模型的研判结果,捕获到了32个在野利用的0day漏洞,并将漏洞详情报送监管机构。

  10-11月,经多家用户验证安全GPT大模型,结果显示:针对25个高混淆数据包(可绕过传统引擎及通用大模型GPT-4),安全GPT检出率100%,其中针对三层混淆样本,传统引擎和通用大模型GPT-4均未检出;在实际网络环境中,与业界传统SOC、NDR产品进行对测,传统产品检出率平均12.5%,安全GPT检出率高达97.4%。

  2.六项能力均超越通用大模型

  结合安全专家经验,深信服从六个维度评估安全GPT检测大模型效果,分别是代码理解能力、攻防对抗理解能力、模型推理能力、安全基础知识能力、任务编排能力、模型幻觉对抗能力。

  结果显示,安全GPT检测大模型六项能力均超越通用大模型。

  我们知道,检测效果高度取决于对攻击代码的理解能力。通用大模型的参数至少十亿级别,其具有的理解、泛化、表达能力远超传统机器学习小模型,更非传统规则引擎可比拟。

  如今通用大模型已经可以对一段复杂的攻击代码进行高水平、准确地解读,不亚于人类高级专家。但深信服真正做到了把大模型能力运用到流量实时检测与研判中,并取得了更优异的效果。

  安全GPT检测大模型就像一个懂攻防、懂代码、懂协议的流量研判专家,对流量进行持续检测分析,从而发现传统检测引擎发现不了的高对抗、高绕过流量攻击。

  安全GPT检测大模型为何能降维打击?

  深信服通过知识蒸馏、模型量化、模型剪枝、Attention机制优化等,将安全GPT推理性能提升50倍,实现了在实际网络环境中,针对实时流量的实时检测。

  因而在实战考验面前,安全GPT取得了碾压式的优胜,从以下三个方面,几乎是对传统检测引擎的降维打击。

  1.少量样本/无样本前提下检出新型威胁

  传统语义分析技术开发成本高昂,且无法应对新型语言,导致传统检测引擎无法防御0day漏洞、高对抗攻击。

  安全GPT检测大模型通过学习大量开源的代码,先天性地对代码语义有深入理解,从传统代码片段Payload特征检测,进化到全报文综合分析的维度,能够挖掘弱特征攻击中的真实攻击目的,从而实现精准检测并减少误报。

  安全GPT 检测大模型还能触类旁通,实现更强的泛化能力,甚至能在少量样本/无样本的情况下,基于Zero/Few-Shot技术检测出新型威胁,因此大幅提升对0day漏洞攻击的检出率。

  2.破解攻击结果研判的业界难题

  众所周知,判定一个攻击是否成功是业界难题,也是安全运营工作中消耗大量人力精力的重头戏。传统的攻击成功检测引擎主要面临三大问题:攻击成功无回显、成功特征不固定、Payload混淆难理解的问题。

  安全GPT检测大模型不仅能还原攻击中的混淆Payload,还能从响应报文中动态识别其中是否存在攻击成功的特征。如下图中,通过将混淆的Payload还原成最简模式whoami,安全GPT能够准确识别攻击意图,进一步会关联分析响应的内容,从而判定攻击结果为成功。

  同时,针对攻击成功场景,不同的命令有不同的回显,有的命令回显无法提规则(比如whoami回显zhangsan)。安全GPT检测大模型在经过大量垂直领域数据训练后,能够找出潜在的攻击成功回显特征。

  3.自然语言辅助有效告警研判

  传统检测引擎在对威胁事件举证时,仅能通过高亮的方式展示恶意点。然而安全运营人员能力参差不齐,这种方式无法直接有效辅助其告警研判,时常导致高危事件的漏判误判。

  安全GPT检测大模型能够用自然语言对报文进行多维度剖析,辅助运营人员高效研判告警,突破人员能力和精力的瓶颈,真正实现“1个普通工程师+安全GPT检测大模型=N个安全专家”。

  安全GPT检测大模型是怎样炼成的?

  作为国内最早应用AI的网络安全厂商之一,早在2015年,深信服投入决策式AI技术的研究和应用。2016年,深信服不断加码AI技术并确立了AI First研发战略,在网络安全和云计算领域都有可落地、有效果的AI技术突破。

  由此,深信服积累了炼成安全GPT的必备要素:

  1.面向AI模型训练的高质量数据和算力

  持续累计的千亿级Token安全语料。

  自动化的训练数据生成和质量管理平台。

  55w+安全设备和组件接入云端。

  每日更新数千万训练样本。

  基于托管云的分布式算力平台。

  2.云网端智能产品架构

  数据采集/模型训练/部署落地全流程的安全产品。

  国内率先推出SASE、MSS等云化产品和服务。

  Genius AI研发平台模型训练速度提升3.5倍。

  全国100+节点托管云,支撑安全GPT贴近用户部署。

  3.四位一体的专家队伍

  快速组建既懂安全、又懂AI的专业团队。

  深信服相信,由“大模型+数据+安全和算法专家”形成的飞轮效应,将为安全GPT在威胁检测效果的提升持续带来巨大潜力。

  “世界上本没有路”,深信服将走出一条独特的安全GPT检测大模型之路,持续引领先锋体验,致力于每一位用户“安全领先一步”。(科文)

注:此文属于光明网登载的商业信息,文章内容不代表本网观点,仅供参考。
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见尼泊尔总理奥利

  • 多种活动迎接国家宪法日

独家策划

推荐阅读
站在新的历史节点上,中国航天科技集团一院长征三号甲系列运载火箭首任总指挥兼总设计师、中国工程院院士龙乐豪介绍了未来长征火箭发展的方向。
2024-12-04 09:15
该公司牌楼500千伏输变电工程于11月25日正式投运,并在工程验收过程中首次应用无人机激光建模技术。
2024-12-04 09:13
这一发现将有助于研发实蝇类害虫的新型控制方式,从而提升我国果蔬产业抵御这类害虫的能力。
2024-12-04 09:12
协议紧扣“支持香港打造国际高端科技人才集聚高地 共同服务高水平科技自立自强”主题。
2024-12-04 09:07
2日,第29届亚洲种子大会在海南三亚召开,大会以“潮起亚太 种业辉煌”为主题,由亚太种子协会主办,将持续至6日。
2024-12-04 04:55
3日13时56分,长征三号乙运载火箭(以下简称“长三乙”)在西昌卫星发射中心点火升空,将通信技术试验卫星十三号精准送入预定轨道,发射任务取得圆满成功。
2024-12-04 04:55
近年来,从基础研究到成果转化、生产应用,香港在上中下游“全链发力”、促进“环环相扣”,发展新质生产力的战略愈发清晰,投入力度不断加大。
2024-12-03 16:02
12月2日,南水北调中线引江补汉工程首台硬岩掘进机(TBM)“江汉先锋号”在土建4标8号平洞顺利始发掘进,标志着引江补汉工程正式进入TBM掘进施工新阶段。
2024-12-03 09:05
山西省考古研究院日前对外公布了运城市夏县崔家河遗址考古发掘资料,该遗址属于距今5000余年的仰韶中期庙底沟文化,并出土一件同时期罕见的彩陶鱼纹盆。
2024-12-03 04:15
近日,科学技术普及法修订草案首次提请全国人大常委会会议审议,这是科普法自2002年公布施行以来的首次修订。此次修订聚焦科普工作中的突出问题,强化了社会各界的科普责任,
2024-12-03 04:50
记者2日从工业和信息化部获悉,我国将完善优质企业梯度培育体系,探索建立专精特新赋能体系,健全与专精特新中小企业成长相适应的要素保障制度。
2024-12-03 04:50
一件采集于内蒙古自治区阿拉善左旗的早白垩世恐龙标本被认定为窃蛋龙类恐龙新类群——百年鸳鸯龙。这一最新研究成果近日发表在国际学术期刊《白垩纪研究》上。
2024-12-03 04:50
记者从中国气象局获悉,南极中山国家大气本底站(以下简称“中山本底站”)1日正式业务运行。这是我国首个境外大气本底站,将对南极大气成分浓度变化进行连续、
2024-12-03 04:50
11月30日晚间,海南商业航天发射场圆满完成首次发射任务,验证了我国首个商业航天发射场在硬件、软件、人员等各方面已具备常态化发射能力。
2024-12-02 08:55
房元鹏分析,比较来看,我国的天舟飞船属于大型货物运输飞行器,上行装载货物能力强。
2024-12-02 08:50
从农业农村部获悉,12月1日,由农业农村部主办的第二十一届中国国际农产品交易会在广东省广州市落下帷幕。
2024-12-02 03:45
推进中国式现代化,科技要打头阵。科技创新是必由之路。近日,习近平总书记在湖北考察期间,到武汉产业创新发展研究院考察,观看科技创新供应链平台成功案例展示和科技创新成果,
2024-12-02 03:40
科学与哲学关系密切,恩格斯早就提出,“随着自然科学领域中每一个划时代的发现,唯物主义也必然要改变自己的形式”,有着独特思维方式的哲学必然随着科学的发展而自觉改变其本身的形式。
2024-12-02 03:45
提供更加精细化、专业化、多样化的服务。
2024-12-02 03:40
让年轻人在科技创新中“挑大梁”,要遵循人才成长规律和科研规律,在技术攻关中敢于给他们压担子,并对他们可能遭遇的失败给予一定的宽容度。
2024-11-29 09:51
加载更多