闂傚倷鑳舵灙缂佺粯鍨剁换娑欑節閸嬭姤鐩弫鎾绘晸閿燂拷
80KM婵犵數濮伴崹鐓庘枖濞戞◤娲晲婢跺﹨鍩為梺闈涚墕濡瑦鎱ㄥ⿰鍕╀簻闁哄秲鍔庨幊鍕亜閹拌埖瀚�
闂傚倷鑳堕崢褔銆冩惔銏㈩洸婵犲﹤瀚崣蹇涙煃閸濆嫬鈧摜娆㈤悙鐑樼厱闁靛鍨抽悾閬嶆煛娴e湱鐭掗柡灞诲妼閳藉螣閸噮浼冮梻浣风串缂嶄胶绮婚弽褜鍤曟い鏃傚亾瀹曞銆掑鐓庣仭閺嶁€斥攽閻愬樊鍤熷┑顖涙尦楠炲繘鏁撻敓锟�
闂備浇宕垫慨宕囨媼閺屻儱鐤炬繛鍡樺灩缁€濠冩叏濡炶浜鹃梺璇″灠閸熸潙鐣烽悢纰辨晢濞达綀顕栭崯鈧梻鍌欒兌椤㈠﹪顢氶弽顓炵獥婵°倐鍋撴い鈺併偢瀹曞ジ鎮㈢悰鈩冪亙闁诲骸绠嶉崕杈┾偓姘煎幗缁嬪濮€閻欌偓閻斿棝鎮规担绛嬫綈閻庢熬鎷�

摩尔线程夸娥智算中心扩展到万卡,拥有万卡 P 级浮点运算能力-IT行业

首页 2024-07-04 10:25:18

本站 7 月 3 摩尔线程今天宣布了日新闻 ai 夸娥旗舰产品(kuae)智能集群解决方案从目前的千卡级扩展到万卡规模。摩尔线程夸娥万卡智能集群,全功能 gpu 作为底座,可承载万卡规模,拥有万卡 p 国内通用加速计算平台具有水平浮点运算能力,专为万亿参数级复杂大模型培训而设计。

夸娥万卡智算解决方案具有以下核心特点:

万卡万 P:夸娥智算集群实现单集群规模超万卡,实现浮点运算能力 10Exa-Flops,达到 PB 超大显存总容量,每秒 PB 超高速卡间互联网总带宽和每秒 PB 超高速节点互联总带宽。

长稳训练:摩尔线程夸娥万卡集群平均无故障运行时间超过 15 天,最长可实现大模型稳定训练 30 每天以上,每周平均训练效率高 99% 远远超过行业平均水平。

高 MFU:夸娥万卡集群在系统软件、框架、算法等方面进行了一系列优化,实现了大模型的高效训练,MFU(一般指标评估大模型训练效率)最高可达到 60%。

友好的生态:可以加速 LLM、MoE、多模态、Mamba 不同架构、不同模式的大型模型。基于 MUSA 编程语言,完全兼容 CUDA 能力和自动迁移工具 Musify,加快新模型“Day0”级迁移。

该网站了解到,摩尔线程将分别开展三个万卡集群项目:

  • 青海零碳产业园万卡集群项目
  • 青海高原夸娥万卡集群项目
  • 广西东盟万卡集群项目

以上是摩尔线程夸娥智算中心扩展到万卡的规模 P 更多关于浮点运算能力的详细信息,请关注其他相关文章!


p