以夸娥千卡集群为底座,摩尔线程与无问芯穹联手开启千亿大模型服务新篇章
2024-04-02 09:33:42爱云资讯831
3月31日,无问芯穹AI算力优化论坛暨产品发布会在上海成功举办,重磅发布了“无穹Infini-AI”大模型开发与服务平台,并宣布与国内AI芯片领军企业摩尔线程达成深度战略合作。这一强强联合旨在基于摩尔线程大模型智算千卡集群夸娥(KUAE),携手打造集高效算力、便捷调度、稳定运行于一体的全国产大模型算力服务和云端调度平台,为更多用户开展大模型开发、训练、运行、应用提供完整的交钥匙解决方案。
无穹Infini-AI大模型开发与服务平台是基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。目前,无穹Infini-AI已支持了Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5等系列模型共20多个模型。
图注:无穹Infini-AI平台演示
当前,无穹Infini-AI与摩尔线程大模型智算千卡集群夸娥(KUAE)已顺利完成系统级融合适配,并完成了LLama2-70B大模型的训练测试。发布会现场演示了无穹Infini-AI如何灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。
图注:摩尔线程联合创始人兼执行总裁王东、无问芯穹联合创始人兼CEO夏立雪作为双方代表进行了现场签约
摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产GPU公司。无问芯穹联合创始人兼CEO夏立雪表示:“经验证,摩尔线程夸娥千卡智算集群在性能、稳定性、易用性和算力利用率上均有优异表现,可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。”双方的合作是国产算力产业链上下游携手推动大模型落地应用的完美例证。
摩尔线程联合创始人兼执行总裁王东表示,“基于先进的MUSA架构,摩尔线程已建立了从芯片、板卡、集群到软件的全栈AI产品线。摩尔线程夸娥智算集群是以全功能GPU为底座、软硬一体化的全栈解决方案,凭借高兼容性、高稳定性、高扩展性等综合优势,我们致力于成为大模型训练坚实可靠的先进基础设施。”
无问芯穹依托行业领先且经过验证的AI计算优化能力与算力解决方案,追求大模型落地的极致能效。打造 “M 种模型” 和 “N 种芯片” 间的“M×N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署。链接上下游,共建AGI时代大模型基础设施,加速AGI落地千行百业。摩尔线程作为国内AI芯片领军企业,旨在为广泛的生态合作伙伴提供强大的AI计算加速能力,可充分赋能大模型AIGC、数字孪生、物理仿真等场景,驱动各行业智能变革,致力于为新质生产力提供 AI原动力。
基于此次战略合作,无问芯穹与摩尔线程将携手共进,开展更多适配与测试,推动国产大模型技术的快速发展与应用普及,为中国人工智能产业的蓬勃发展贡献力量。
相关文章
- 青云科技 × 摩尔线程,共筑国产 AI 算力新生态!
- 青云科技与摩尔线程达成战略合作,共筑国产AI算力新生态
- 以夸娥千卡集群为底座,摩尔线程与无问芯穹联手开启千亿大模型服务新篇章
- 摩尔线程出席2023算力技术大会,异地算力调度方案重磅发布
- 摩尔线程携手威星智能和贵安新区管委会,共建贵安智算中心
- “悟道·天鹰”(Aquila)发布24小时后,摩尔线程率先实现兼容适配
- 摩尔线程亮相2023北京科技周,展示全功能GPU助力的数字文娱与AI创作
- 摩尔线程与敦煌·华人传承专项基金战略合作:以元计算助力敦煌千年文明保护与传承
- 摩尔线程获评2022年度“专精特新”中小企业称号
- 摩尔线程与光环新网和光环云达成战略合作,共筑AIGC时代智能算力新基建
- 首个支持Windows的国产GPU,摩尔线程为数字经济聚势聚能
- 摩尔线程协同紫光,成功中标某大型国有银行台式电脑采购项目
- 赋能云桌面技术与体验持续进化,摩尔线程重磅发布GPU云桌面产品和生态加速共建计划
- Colossal-AI助力,摩尔线程预训练语言模型MusaBert荣登CLUE榜单TOP10
- 首批合作伙伴!摩尔线程携手中国移动共建新型智算开放实验室
- 摩尔线程携手光线云:赋能全场景应用,加速元宇宙创新发展