昇腾A2芯片立功!华为首次公开美团LongCat
业内人士表示,片立压缩MoE通信耗时10倍。功华单机16卡。为首
Decode阶段根据序列长度差异化切分,开美
此次公开的昇腾部署细节显示,
计算流调度上实现计算与通信双流并行,片立LongCat-2.0基于昇腾Atlas A2 192卡集群部署,功华该模型是为首业界首个完全基于国产算力完成训练与推理全流程的万亿参数模型。标志着国产芯片已具备承载万亿参数大模型推理任务的开美能力,
CANN推理团队针对LongCat-2.0的MoE超稀疏专家架构与百万级长序列进行了系统级优化。
昇腾A2单卡内置高速网卡可提供200Gbps传输带宽,有效支撑大规模分布式推理。为AI算力国产替代提供了可复用的技术范本。Decode阶段采用128卡超大规模专家并行EP部署。此次华为首次公开昇腾A2完整部署方案与技术细节,超长序列采用DP16CP8+EP128方案,最终实现TPOT时延仅20ms。华为CANN(昇腾AI异构计算架构)团队首次公开披露了美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的完整部署方案。
7月6日消息,短请求采用DP128+EP128方案,Decode阶段利用A2超大L2 Cache优势实现模型权重异步预取,Prefill阶段采用FlashComm算法降低Vector算力消耗。
LongCat-2.0是美团继1月发布LongCat-Flash-2601后又一次重磅开源。将模型划分为8个独立计算Stage,将MoE专家计算与Dense层计算拆分为独立计算流,
算法层面,
LongCat-2.0,原生支持100万Token超长上下文。
Prefill阶段融合流水线并行与序列并行双重策略,
相关文章:
- 爱喝奶茶的朋友注意了:经常饮用增加抑郁和焦虑风险
- 宿茂臻:祝贺北京国安获胜我们少打一人始终没有放弃
- 国产Ultra总销量打不过iPhone 17 Pro Max:多家品牌放弃迭代
- 官方:利物浦队史百大球星前5名将于7月6日凌晨2点开始公布
- “你要不要命啦” 交警隔空怒吼救下一家三口 10秒后货车撞飞故障车
- 索尼PSN港服7月促销开启 《空轨》等多款游戏迎史低
- 真核动力AI!英伟达Blackwell芯片成功用上反应堆供电
- Android 17澎湃OS尝鲜Beta招募开启:小米17、小米17 Ultra率先尝鲜
- 该来的终于来了!菲律宾强闯仁爱礁后,被眼前这一幕直接吓傻眼了
- 国产“存储一哥”暴跌!兆易创新回应存储涨价:抑制手机等下游产品需求
- 克洛普看呆!巴萨4000万新援空门不进 遭队长狠批 获5.5分全场最低
- 享界V8细节公开:MPV首发五防隐藏式地轨 防踩踏防尘还静音
- 理想汽车复刻尚格云顿沃尔沃经典一字马广告:演员谢苗脚踩两台L9打太极
- 8月全社会用电量再破万亿 负荷创历史新高 居民用电反而少了
- 一箭四星!我国成功发射株洲太空星际PIESAT
- 《人民日报》痛斥“第一学历歧视”:从未获官方认可 拒绝一考定终身
- 从“全网心疼姥姥”到“更新只为直播”,徐姥姥一家的粉丝正在集体心凉
- 她长得太漂亮从护士转行做演员,离婚11年未再嫁,如今46岁风韵犹存
- 法拉第未来9款EAI机器人齐发:最贵超92万!
- 法拉第未来9款EAI机器人齐发:最贵超92万!
- 首批搭麒麟2026!华为三折Mate XT2电池有突破 含硅量激增容量更大
- HarmonyOS 7花粉Beta适配名单出炉:Mate60、Pura70等多机型覆盖
- 高帧率运行不掉帧的手机推荐:拯救者Y70用性能和散热稳住游戏节奏
- 国内安卓设备处理器市场份额榜单:小米玄戒份额仅0.4%
- 苹果正式入局折叠屏!一举超越华为:屏幕采购占比29%
- 乔布斯1976年签名支票开拍:当前竞价已超2.2万美元
- HarmonyOS 6.1已大规模推送:华为Mate 60、nova 12等老机型也能升级
- 《药屋少女的呢喃》剧场版预告首曝 12月11日上映
- 打满冠AL提前锁定EWC名额!16强BLG在哪里发财呢?
- 安切洛蒂:日本是一支值得尊重的球队,我们正走在正确的道路上