点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:Sand.ai开源其全球首个千亿MoE视频模型MAGI-2 Preview,10秒1080P仅0.5元
首页> 科技频道> 人工智能 > 正文

Sand.ai开源其全球首个千亿MoE视频模型MAGI-2 Preview,10秒1080P仅0.5元

来源:环球网2026-08-07 13:53

  近日,Sand.ai正式发布并开源MAGI-2 Preview。据介绍,这是其全球首个千亿级开源MoE视频生成模型,总参数约114B,单次前向计算仅激活约6B参数。在Artificial Analysis image to video视频生成榜单排名第六。按照当前8卡H100的月租金折算,其生成10秒1080P视频的推理成本约0.5元“蒸馏后模型”,每秒生成成本约为行业主流模型的十分之一。

Sand.ai开源其全球首个千亿MoE视频模型MAGI-2 Preview,10秒1080P仅0.5元

  开源地址:

  https://github.com/SandAI-org/MAGI-2-preview

  https://huggingface.co/sand-ai/MAGI-2-preview

  单流架构统一生成画面与声音

  MAGI-2 Preview是一款统一音视频生成模型。文本、视频和音频进入同一个Transformer,在每一层self-attention中持续交换信息,画面与声音由同一个模型共同生成。

  人物说话时,模型也在生成相应的口型、表情和身体动作;环境里出现撞击声,画面中的物体需要在相同时间作出反应;音乐节奏发生变化,人物表演和镜头推进也要随之调整。这些细小的同步关系,会直接影响一个镜头的完整度。

  传统多流方案通常为画面和声音设置不同的主干网络,再通过cross-attention或后处理完成连接。由于音频和视频在生成早期分别建模,音画对齐更依赖后续环节,链路越长,越容易累积延迟和误差。

  MAGI-2 Preview延续了Sand.ai在daVinci-MagiHuman论文中提出的单流架构,从模型内部共同处理文本、视频和音频。模型还设置了共享专家与模态专属专家:共享专家处理不同模态之间的共性,专属专家分别处理语言、画面和声音独有的信息。

  统一主干缩短了生成链路,也减少了多套模型串联带来的接口、等待和维护成本。对于广告、短剧、动画和游戏等内容,一次便可以生成更接近同时包含画面、声音与表演的完整镜头。

  114B总参数,单次激活仅6B

  统一音视频也带来了更重的计算压力。一段视频会被拆成大量空间patch和连续帧,再加入音频与文本,序列长度和信息量迅速增加。稠密模型扩大规模时,每个token都要经过全部参数,模型越大,训练和推理需要的计算越多。

  MoE 架构在模型内部设置了一个庞大的专家池,每个token只选择与当前任务相关的一小部分专家参与计算。模型由此可以扩大总容量,同时控制实际调用参数量。

  MAGI-2 Preview用约114B总参数容纳人物、动作、镜头、材质、语义、语音和环境声等信息,再将单次前向计算的激活参数控制在约6B。

  为了让专家分工更细,它将3072维隐藏表示拆成12个256维head,并在36层主体网络中使用Multi-Head MoE。每个head拥有256个专家,每次选择其中6个。每一层由此形成3072个head-local专家单元,一个token在12个head中合计激活72个小专家。

  Sand.ai将这种结构称为Ultra-fine-grained MoE。不同head可以在各自的低维子空间内独立选择专家,再将结果重新融合,为人物外观、动作时序、语言语义、语音和环境声等信息提供更细的处理单元。

  自研infra突破跨设备通信瓶颈

  专家数量增加后,跨设备通信会成为新的瓶颈。传统Expert Parallel通常先为token选择Top-K专家,再将token发送到专家所在的设备。路由结果随输入动态变化,容易造成设备负载不均;激活专家越多,设备之间需要传输的数据通常也越多。

  MAGI-2 Preview引入Head Parallel改变了通信顺序。模型在动态路由发生前,先把固定形状的head表示分发到不同设备,数据抵达后再在本地选择和执行专家。其主要通信量由输入表示决定,避免通信规模随激活专家数量线性增长。

  围绕这套架构,Sand.ai还开发了MagiMoE和分布式优化器MagiMuon。其中,MagiMoE覆盖专家路由、排序和计算的完整链路,通过融合计算步骤减少中间结果和显存搬运,并针对大量小矩阵计算优化前向与反向过程。MagiMuon则使用Muon处理主体矩阵参数,用AdamW处理更适合常规更新的参数,同时针对海量细粒度专家重新适配参数组织和跨设备计算。

  MagiMoE、Head Parallel与MagiMuon共同构成了MAGI-2 Preview的千亿参数底座。Sand.ai认为,视频模型的Scaling并非单纯的参数增加,背后更难扩展的是通信效率、计算效率、数值稳定性和训练监控。MAGI-2 Preview的价值在于,它让模型设计与系统能力在同一次规模化训练中得到了验证。

  低成本推理打开高频应用空间

  在实际内容制作中,生成视频很少一次就完全符合预期。人物动作、镜头运动、构图和对白节奏,都可能需要反复调整。单次成本下降后,同样的预算可以测试更多提示词和生成版本,再从中筛选可用镜头。

  视频创作也有机会转向多版本生成、自动筛选和人工选择。内容工具、广告系统、游戏资产生成和虚拟人互动等场景需要持续调用模型,较低的单位生成成本为这类高频应用提供了基础。

  MAGI-2 Preview还将千亿级视频MoE路线带入开源社区。开发者可以围绕统一音视频、细粒度专家、低成本推理和模型部署继续测试,检验这条路线在更多任务与硬件环境中的表现。

  Sand.ai表示,下一步将继续扩大模型与数据规模,探索更长时长的视频生成,提升生成质量、音画同步和长时一致性,并持续降低单位生成成本。(环球网)

[ 责编:田新宇 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 广西龙胜:龙脊梯田金秋美

  • 中国治沙人殷玉珍入选粮农组织“百位巾帼英雄”

独家策划

推荐阅读
10月16日是第四十六个世界粮食日,所在周是全国粮食安全宣传周,主题为“创新当下,粮安未来”。从良种选育、智能农机到数字农业、精准储运,创新正成为粮食增产、节粮减损、营养提升的关键引擎。即日起,光明网联合科普中国推出系列科普视频,深入解读科技创新绘就的粮安答卷。
2026-10-16 08:46
在显示技术升级与人工智能赋能的双重驱动下,行业正跳出传统数字阅读的固有边界
2026-10-16 08:45
打造集技术研发、模型训练、系统验证及场景测试于一体的创新基地,推动人形机器人及具身智能技术从实验室研发阶段走向大规模产业应用。
2026-10-16 08:39
工业和信息化部、中央网信办、市场监管总局高度重视,在前期调查工作基础上,成立联合调查组开展核查,并依法依规处理。有关情况将及时公布。
2026-10-16 08:40
大会延续“零碳·科技”永久主题,以“智储新程 绿动全球”为年度主题
2026-10-16 08:35
“戈壁荒滩老风口,飞沙走石雁不留。托里县老风口蝶变的三部曲,为生态脆弱地区推动高质量发展、树立和践行正确政绩观,提供了深刻启示。树立和践行正确政绩观,就要算大账、算长远账、算整体账,既做显功、也做潜功,把生态优势转化为发展优势、民生福祉。
2026-10-15 09:51
常压下,水到0℃会结冰,这就是人们熟悉的相变,0℃即是相变的临界点。两篇论文的共同通讯作者、宁波东方理工大学助理教授余雪佳,把这个难题比作“在沸水中完好保存一件冰雕”。
2026-10-15 09:49
长久以来,古生物学界与教科书普遍认为琥珀皆源自种子植物(裸子或被子植物),最古老的确切记录定格在美国约3.2亿年前的石炭纪晚期。
2026-10-15 09:48
在芯片制造、航空发动机等高端硬核制造领域,技术迭代具有长周期、累积性、阶梯式特征,遵循循序渐进、层层突破的线性攻关规律。新征程上,持续深耕创新生态建设、迭代升级现代化创新体系,必能培育形成扎根中国、联通世界、内生增长、开放共生的创新新格局。
2026-10-15 09:46
受困于“小散弱”的格局,长期以来,我国科技期刊在国际学术传播体系中缺少属于自己的“拳头产品”与平台话语权——“在精品化发展方面,经过70余年积淀,我国已形成以《中国科学》《科学通报》《国家科学评论》等刊群为代表的高水平期刊方阵。
2026-10-15 09:45
AI时代,科研的“源头活水”是什么?不是算力,不是数据,而是人对未知世界的好奇与追问。
2026-10-14 11:28
截至8月末,三家基础电信企业的固定互联网宽带接入用户总数7.04亿户,比上年末净增1365万户;三家基础电信企业及中国广电的移动电话用户总数18.49亿户,其中5G移动电话用户13.11亿户。
2026-10-14 09:34
自然资源部会同国家发展改革委12日发布《矿产资源目录》。自然资源部矿产资源保护监督司负责人表示,矿产资源目录是矿产资源管理制度的重要基础,是制定矿产资源规划、实施矿业权管理、规范矿产资源勘查开采行为、征缴矿产资源税费、制定产业政策等工作的依据。
2026-10-14 09:40
与共康村相邻的巴达村,是第一批参与试种的村,也是西藏首个高海拔水稻实测亩产破千斤的村子,村民把“海拔3175米种水稻”写进村史。一粒水稻种子,不只改写了亩产数字,更改变了“西藏水稻只能在察隅、墨脱海拔1500米以下种植”的历史,为高原水稻纳入地方主粮增添可能。
2026-10-14 09:41
如今,AI正改变许多行业的底层逻辑,固守单一思维模式将面临严峻挑战,文理兼备、跨界融合才是稀缺能力——既有理科生的技术思维和逻辑能力,又有文科生的人文洞察和情感素养。未来更有竞争力的,可能不是最典型的文科生或理科生,而是既有专业深度,又能跨学科解决问题的人。
2026-10-14 09:48
不久前,在海南三亚崖州湾科技城,一场名为“青年π”的海洋主题对话临海开讲。高频下潜试出的不只有装备可靠性,也不断刷新人们对深海的认识。同一园区,由哈尔滨工程大学南海研究院孵化的海南水之声海洋科技有限公司,正给海洋装备搭水下“Wi-Fi”。
2026-10-14 09:49
目前各地正在开展流感疫苗接种。今年开始,国家对农村地区“一老一小”重点人群实施免费接种等相关支持性政策。为什么要接种流感疫苗?去年接种过,今年是否还需要接种?到哪里接种?
2026-10-13 10:03
我国城市盲道总里程以万公里计,公共场所无障碍设施持续铺开。数字世界的“盲道”畅通起来。精神文化的“视界”也在扩大。中国传媒大学师生发起的“光明影院”项目,近十年间每年制作上百部无障碍电影,把电影送到视障朋友耳边,今年还走进联合国教科文组织总部举办专场放映。
2026-10-13 10:01
记者近期从中国互联网络信息中心获悉:截至今年上半年,我国生成式人工智能用户规模超7亿人,普及率超50%。
2026-10-13 09:58
高校辅导员队伍建设要把握高校思政工作的“变”与“不变”,着眼于增强辅导员对人工智能的趋势感知力、技术理解力、实践创新力和伦理判断力,将政策理念、形势挑战、技术发展、实践案例相结合,精心设计课程,切实增强人工智能赋能质效,全时空陪伴“数字一代”。
2026-10-13 09:57
加载更多