阿里云磐久AI Infra 2.0在OCP峰会上展现AI互连技术新突破
2024-10-25 15:15:32爱云资讯阅读量:26,209
2024年10月15日至17日,全球基础设施和开放计算领域的年度盛会——开放计算全球峰会(OCP Global Summit)在美国加州圣何塞盛大举行。本届峰会以“从创新到影响力(From Ideas to Impact)”为主题,吸引了全球超过7000名专业人士参与。峰会特别关注了AI基础设施技术生态的建设,尤其是OCP基金会宣布其人工智能开放系统战略计划后,人工智能特别关注议程(Special Focus Tracks)成为焦点。
在此次峰会上,阿里云的磐久AI Infra 2.0服务器成为了讨论的热点。这款服务器是阿里云在AI领域的重要突破,它不仅提供了强大的计算能力,还通过与UALink联盟的合作,推动了AI服务器互连技术的发展。文芳志,阿里云服务器研发资深总监,与UALink联盟主席Kurtis Bowman联合发表了题为《UALink: Pioneering the AI Accelerator Revolution》的演讲,分享了他们在AI服务器Scale UP互连技术领域的发展趋势、UALink标准的路线图,以及UALink联盟和ALink System产业生态未来的合作潜力。
UALink协议是由行业领先的AI芯片、服务器和CSP厂商联合发起的一项新标准,旨在彻底改变AI服务器Scale UP互连技术生态系统。这项协议以其高性能内存语义访问的原生支持、显存共享,支持Switch组网模式,以及超高带宽、超低时延能力等性能优势,正在迅速构建起一个AI服务器Scale UP互连技术的超级开放生态。UALink联盟计划于10月底正式成立并开始吸纳成员加入,并在年底对外发布第一版UALink spec。
UALink标准的推广和实施,特别是在中国市场,是一个巨大的挑战。为了应对这一挑战,ALink System(ALS)产业生态应运而生。ALS提供了具备性能竞争力和统一标准的互连系统,包括ALS-D数据面和ALS-M管控面两个主要组成部分,为AI训练和推理场景提供丰富的能力和特性支持。
ALS-D将支持UALink国际标准,形成极具性能竞争力的数据面方案。它支持高性能内存语义访问、显存共享,支持Switch组网模式,性能上具备超高带宽、超低时延能力外,还增加定义了在网计算等特性。而ALS-M则为不同芯片方案提供标准化的接入方案,支持开放生态和厂商专有互连协议的统一软件接口,为云计算等集群管理场景提供灵活和弹性的配置能力。
阿里云自主设计的磐久AI Infra 2.0服务器遵循ALink System的规范,体现了开放生态、高能效、高性能和高可用的设计理念。这款服务器定义了AI计算节点和Scale Up/Scale Out互连系统,可以在统一的硬件架构下支持业界主流AI方案,推动了AI领域的“一云多芯”发展。
互连系统ALink System全面兼容UALink生态,与行业伙伴共建超高性能、超大规模的Scale UP集群互连能力。一级互连支持64-80个节点,二级互连可达2000个以上节点,提供了PB级共享显存和TB级互连带宽。
磐久AI Infra 2.0服务器集成了阿里自研的CIPU 3.0芯片,支持高带宽大规模AI服务器实现Scale Out网络扩展,同时满足云网络弹性、安全的要求。在硬件工程方面,服务器单机柜支持最大80个AI计算节点,采用400V PSU,单体供电效率可达98%,整体供电效率提高2%。散热设计上,机柜级液冷方案可以根据实际负载动态调整CDU冷却能力来降低能耗,单柜冷却系统节能30%。在运维管理上,全新的CableCartridge后维护设计,支持全盲插,零理线易运维、零误操作,维护效率提升50%。
在可靠性方面,磐久AI Infra 2.0服务器支持弹性节点、智能路由、高可靠供电、分布式CDU等技术,可以实时监控、探测各种硬件故障并自愈,硬件的故障域也缩减到节点级。
阿里云在ALink System产业生态建设上,秉持开放合作的策略,推动互连技术领域的发展和繁荣。自ALink System产业生态在开放数据中心大会上正式发布以来,已有20多家AI芯片、互连芯片、服务器整机硬件和IP设计厂商加入,成员单位已就相关协议标准制定和实行路径选择展开交流。
阿里云不仅是UALink的积极支持者和ALink System产业生态的牵头者,还是OCP、CXL、UCIe和UEC等多个互连技术行业组织的创始成员或技术委员会成员,并用实际行动支持相关开放互连技术标准的制定和落地。通过这些合作和努力,阿里云磐久AI Infra 2.0服务器与UALink联盟的携手,不仅展示了阿里云在AI基础设施领域的技术实力和创新能力,也体现了阿里云在推动开放计算和AI技术发展中的领导地位。随着技术的不断进步和合作的深入,我们有理由相信,阿里云将继续引领AI技术的未来发展,为全球客户提供更加强大、灵活和高效的AI基础设施解决方案。
相关文章
- 阿里云助力童语故事跑出增长“加速度”——加速开拓C端与B端场景
- 阿里云磐久AI Infra 2.0在OCP峰会上展现AI互连技术新突破
- 阿里云×端木软件携无影云电脑精彩亮相天津市“一起益企”中小企业服务大会
- AI安全新突破!阿里云实现Confidential AI全栈覆盖
- Elastic亮相云栖大会,在阿里云上隆重发布企业版
- 阿里云旗舰级合作伙伴端木软件亮相2024云栖大会
- 2024云栖大会:阿里云通信发布大模型语音机器人,响应时间仅500毫秒
- 奇墨ITQM亮相2024云栖大会,荣获阿里云产品生态伙伴成长进步奖
- 共创云上数字基建,智加科技与阿里云开启全面合作
- 阿里云服务器操作系统Alibaba Cloud Linux全新升级,核心场景性能提升超20%
- “JetBrains与阿里云战略合作发布JetBrains Al Assistant”
- 强强联合!亚信科技、阿里云携联盟之力,助力行业“零门槛”玩转大模型
- IDC最新报告:阿里云连续四年领跑中国公有云大数据平台市场
- 阿里云×端木软件助力温州市企业云化转型研讨会暨温州市十朵云系列活动圆满举行
- 阿里云、字节、浪潮信息、英特尔、电标院: OpenBMC是服务器固件大势所趋
- 海亮科技集团与阿里云达成合作 共建“教育科技数据库创新应用中心”