智源发布悟道3.0,天数智芯从底层赋能大模型发展
2023-06-11 11:52:48爱云资讯1113
6月9-10日,由北京智源人工智能研究院举办的2023智源大会正式召开。与会期间,智源发布了完整的悟道 3.0 大模型系列,标志着大模型进入到了全面开源的新阶段。此次悟道 3.0 包含首个支持中英双语知识、开源商用许可的“悟道·天鹰(Aquila)”语言大模型系列,提供“能力-任务-指标”三维评测框架的“天秤(FlagEval)”大模型评测体系,力求打造大模型时代“新Linux”生态的FlagOpen大模型开源技术体系,以及6项“悟道·视界”视觉大模型研究成果。 一年一度的智源大会是国际人工智能生态发展的标志性活动,全球人工智能精英汇聚一堂,用最前沿的成果、最广阔的国际视野进行思想碰撞。大模型成为主角的背后,是此前ChatGPT掀起全球技术革命和商业浪潮的必然结果。如今,伴随着大模型的快速崛起及广泛应用,底层算力的支撑作用愈发凸显。潮流之下,国内领先的AI硬件公司天数智芯与此次智源大会有多方面的深度合作。

在技术推动层面,基于天数智芯天垓100加速卡的算力集群,仅用19天便成功完成北京智源人工智能研究院70亿参数大模型全量训练,收敛效果与英伟达A100集群相当。天数智芯从硬件、软件两个角度推动战略升级,打造高性价比、广通用性的全栈式集群解决方案,为大模型时代提供强大算力底座。 天数智芯的通用GPU产品天垓、智铠系列具有自主可控、高性能、通用性、灵活性等特点,广泛支持PyTorch、TensorFlow、PaddlePaddle 等各种原生框架,支撑了200余种人工智能算法模型稳定运行。在此基础上,天数智芯自主研发了IXCCL分布式通信技术,显著提升多机多卡高速互联性能,打造基于自主通用GPU的算力集群方案,持续优化自动混精训练、流水线并行、张量并行、数据并行以及模型并行等并行加速策略,让大模型训练、推理变得更加高效。 大模型应用的海量爆发,天数智芯以持续的研发和技术升级,支撑算力成规模增长的需求。用国际领先的高性能通用GPU产品,不断升级算力解决方案,适配支持更多参数量、更大数据集、更复杂算法的大模型。
相关文章
- 智源研究院与安谋科技达成战略合作,共建开源AI“芯”生态
- 智源最新评测结果发布:豆包大模型“主观评测”排名第一,多榜单位居国内第一
- 双桅扬帆:钛动科技亮相两场重磅AI大会,与MiniMax、智源人工智能研究院、阿里巴巴等共话数字未来
- 优刻得首个「国产千卡智算集群」落地,支持智源千亿大模型训练
- 高品图像与智源研究院达成战略合作
- 智源推出大模型全家桶及全栈开源技术基座新版图,大模型先锋集结共探AGI之路
- 2023北京智源大会开幕“悟道3.0”大模型发布,顶级专家共话通用人工智能发展
- 智源发布悟道3.0,天数智芯从底层赋能大模型发展
- 智源研究院携手浪潮信息AIStation,打造大模型本地化开发方案
- 智源研究院与浪潮信息战略签约,携手共推大模型开源生态
- 智源研究院联合昆仑芯科技等共建AI芯片生态实验室
- 中国移动副总经理高同庆参加2022北京智源大会“人工智能新基建”专题论坛
- 2022北京智源大会开幕,精度最高「智能线虫」诞生,图灵奖得主领衔3天AI论道
- 孙茂松领衔,智源NLP重大研究方向发布智源指数,汇报10余项近期成果
- 智源三周年:开创“智源模式”,交上10张“亮眼”成绩单
- 行深智能受邀参加北京智源大会 共论自动驾驶发展趋势