燧原科技加入人工智能开放计算体系-DeepLink,共建AI软硬件生态
2023-07-10 10:58:05爱云资讯阅读量:513
燧原科技与上海人工智能实验室合作,基于人工智能开放计算体系-DeepLink共建AI软硬件生态,当前双方的合作主要基于燧原科技已量产的第二代训练产品云燧T20和第二代推理产品云燧i20。
2022年11月,燧原科技与上海人工智能实验室就云燧T20、云燧i20和深度学习框架的适配开始进行深入合作,逐步在人工智能开放计算体系(DeepLink)上实现接入T20和i20,共同打造人工智能软硬件生态。
目前,T20和i20已基于DeepLink实现多个模型的训练和推理的适配,支持CV、NLP 等核心领域以及开源LLaMA大模型。双方的合作降低了硬件接入AI 模型训练和推理的门槛,为大模型的发展提供强劲算力保证。
燧原科技同时参与了DeepLink芯片评测工作,DeepLink评测体系针对送测芯片进行多维度测试并提供季度评测报告,其评测结论为各类加速卡提供优化参考,推动AI芯片技术规范的标准建设。
DeepLink作为连接硬件芯片与深度学习软件框架间适配的"桥梁",厂商可基于DeepLink一次适配即接入广泛的算法生态,根本性实现软硬件解耦。目前DeepLink已提供200余个标准算子接口,支持超过5000个算子测例,同时支持大语言模型和视觉模型。遵循DeepLink标准可以实现主流框架与AI芯片高效适配,极大降低算力使用门槛,节省适配时间,更容易实现算力对模型的使能。同时通过编译的优化,系统性提升整体训练效率。
人工智能开放计算体系 (DeepLink)
云燧T20是面向数据中心的第二代人工智能训练加速卡,具有模型覆盖面广、性能强、软件生态开放等特点,可支持多种人工智能训练场景。同时具备灵活的可扩展性,提供业界领先的人工智能算力集群方案。
云燧T20
云燧i20是面向数据中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆盖面广、易部署易运维等特点,已广泛应用于计算机视觉、语音识别与合成、自然语言处理、搜索与推荐等推理场景。
云燧i20
燧原科技相关负责人表示:"DeepLink可以让上游芯片和下游框架两层在适配工程实施时能有效地解耦,并复用到不同的训练框架适配中去,从而降低芯片和框架的适配成本,同时保障算子实现正确性。燧原科技将与上海人工智能实验室合作,在算力和算法上进行深度融合,为业界构建软硬一体、更加优化的计算解决方案,为产业赋能,共建软硬协同生态,推动中国数字化产业转型和升级。"
相关文章
- 专注为通用人工智能算力底座筑基 燧原科技连续五年参加世界人工智能大会
- 燧原科技助力甘肃庆阳算力枢纽2024年底5万P规模目标
- 燧原科技与爱奇艺签署战略合作协议,共同探索生成式AI在泛娱乐行业的技术变革
- 青云QingCloud与燧原科技携手创新异构算力,共建本土AI生态
- 燧原科技完成D轮融资20亿,上海国际集团领投
- 燧原科技签署《共建东数西算算力网络和系统战略合作框架协议》
- “燧原科技面向AIGC模型训练的液冷集群“荣获2023世界人工智能大会“SAIL之星“
- 燧原科技加入人工智能开放计算体系-DeepLink,共建AI软硬件生态
- 燧原科技亮相世界人工智能大会 构建AIGC时代算力底座
- 燧原科技发布燧原曜图™文生图MaaS平台服务产品
- 燧原科技荣获2022年吴文俊人工智能专项奖芯片项目一等奖
- 燧原科技发布云燧智算机,定义人工智能算力中心建设实践
- 浪潮信息联合燧原科技发布“钱塘江”智算中心方案
- 燧原科技亮相Hot Chips大会,详解邃思芯片架构
- 燧原科技与之江实验室签约成立“燧原-之江人工智能芯片联合研究中心”
- 燧原科技推出新基建人工智能数据中心全系统解决方案