腾讯发布星脉网络2.0:大模型训练效率相比上代提升20%
2024-07-03 09:08:30爱云资讯70543
7月1日,腾讯宣布其自研星脉高性能计算网络升级至2.0版本,星脉网络2.0搭载全自研的网络设备与AI算力网卡,支持超10万卡大规模组网,网络通信效率比上一代提升60%,让大模型训练效率提升20%,定位从天级降低至分钟级。
腾讯自研交换机从 25.6T 升级到 51.2T,容量提升一倍;自研硅光模块从 200G 升级到 400G,速率提升一倍;搭载自研算力网卡;整机通信带宽 3.2T,为业界最高。
腾讯自研全新通信协议 TiTa2.0 的部署位置从交换机转移到了网卡上,拥塞算法也从被动拥塞算法升级为主动拥塞控制算法,将星脉网络的通信效率提升 30%,让大模型的训练效率提升 10%。
腾讯全新高性能集合通信库 TCCL2.0 采用 NVLINK+NET 异构并行通信,实现数据的并行传输。Auto-Tune Network Expert 自适应算法可以根据机型、网络规模、模型算法等差异,自动调整数据包分割大小、匹配算法等参数。星脉网络通信性能提升 30%,让大模型的训练效率再提升 10%。
TiTa 与 TCCL 升级带来的效果叠加,让星脉网络的通信效率共提升 60%,大模型训练效率共提升 20%。
腾讯云副总裁王亚晨这样比喻,AI大模型就像是一场F1比赛,腾讯云专门设计了星脉高性能算力网络“赛道”,并自研了TiTa和TCCL网络协议作为“赛事指挥中心与专业车队”,共同让“腾讯云高性能计算集群HCC的GPU服务器”这台F1赛车发挥最大的算力性能。
相关文章
- DeepSeek 从热潮到应用,腾讯云携手行业专家共探 AI 下一步
- 座无虚席!前沿技术议题吸引全球游戏开发者,腾讯游戏安全ACE亮相GDC2025
- 贝锐与腾讯云宣布战略合作升级,共同推进国产技术及全球市场布局
- 腾讯云与拈花湾文旅战略合作升级 共探数字化全域经营体系
- 老乡鸡与腾讯智慧零售达成战略合作:瞄准数智化
- 德适生物与腾讯云达成战略合作 共筑医学影像智能新基建
- 腾讯七年累计研发投入3403亿,AI战略提速重塑全域业务
- 六度人和携手腾讯云接入DeepSeek, 客户意向转化率提升30%
- 深圳印发重磅新政《行动计划》,三星/腾讯/微美全息强化AI优势构筑护城河
- 凡泰极客与腾讯云传媒达成战略合作,赋能传媒行业数字化跃迁
- 腾讯iOA荣获2024年度赛可达优秀产品奖及ATT&CK安全能力奖
- AI漫画翻译成本降低90%!快看漫画携手腾讯云接入DeepSeek
- 腾讯企点客服接入DeepSeek大模型,实现问答质量和客户满意度双重提升
- 腾讯云助力天润融通接入DeepSeek,客服机器人独立接待率提升15-20%
- 腾讯安全市占率领跑!艾瑞咨询最新威胁情报市场报告出炉
- 京东&腾讯视频首款定制百吋电视即将开售 海量超高清片源免费看