DeepSpark 开源社区百大应用开放平台24.12版本正式发布

2024-12-27 15:11:52爱云资讯阅读量:17,508

近日,由上海天数智芯半导体有限公司(以下简称“天数智芯”)主导的DeepSpark开源社区正式发布了百大应用开放平台24.12版本。

百大应用开放平台作为国内领先的AI和通用计算应用开发及评测平台,甄选上百个与行业应用深度耦合的开源算法和模型,支持主流生态应用框架,并针对行业需求构建多维度评测体系,广泛支持各类落地场景。

本次24.12版本首次开源了4个云原生相关项目,包含天数智芯GPU设备监控的Golang API接口和容器运行时,方便用户在集群上配置和管理天数智芯加速卡,欢迎社区用户使用体验。

开源地址:

https://gitee.com/deep-spark/go-ixml

https://gitee.com/deep-spark/go-ixdcgm

https://gitee.com/deep-spark/ix-gpu-operator

https://gitee.com/deep-spark/ix-container-toolkit

24.12版本继续丰富DeepSparkHub(https://gitee.com/deep-spark/deepsparkhub)百大模型训练库和DeepSparkInference(https://gitee.com/deep-spark/deepsparkinference)推理模型库中的模型示例。

24.12版本在DeepSparkHub百大训练模型库中新开源了4个基于PyTorch框架的小模型示例和5个基于ColossalAI,Megatron-LM和LLaMA-Factory的大语言模型训练示例。迄今为止在DeepSparkHub百大训练模型库累计开源上线的模型数量达到了292个。

24.12版本在DeepSparkInference推理模型库中新开源了24个基于天数智芯自研推理引擎IGIE和IxRT的推理小模型和9个大语言模型推理示例。迄今为止在DeepSparkInference推理模型库累计开源上线的模型数量达到了152个。

此外,在多维度评测系统社区版(https://mdb.deepspark.org.cn:8086)中添加了13个小模型推理和1个大模型推理评测示例,可从速度、准确度、延时、功耗、显存、稳定性等多个维度来全面评价通用GPU加速卡在模型推理中的综合表现,欢迎社区用户使用体验。

回顾整个2024年,DeepSpark社区开源上线了197个模型实例(45个训练模型,152个推理模型),累计开源模型数量已超过400个,国内排名第一。社区Gitee/GitHub代码仓的全年访问量约1.5万次,下载量超5500次,同比去年再创新高。借助DeepSpark开源成果,天数智芯在启智社区国内算力英雄月榜(https://openi.pcl.ac.cn/computingpower/domestic)排名第二,进一步展示了天数智芯通用GPU产品的通用性和易用性。

2025年,将会有更多的成果通过DeepSpark社区开源。欢迎行业合作伙伴、社区用户和开发者以任何形式参与DeepSpark开源社区。

社区网站:

https://www.deepspark.org.cn

社区代码:

https://gitee.com/deep-spark

https://github.com/deep-spark

联系我们:

contact@deepspark.org.cn

相关文章

人工智能技术

更多>>

人工智能公司

更多>>

人工智能硬件

更多>>

人工智能产业

更多>>
关于我们|联系我们|免责声明|会展频道

冀ICP备2022007386号-1 冀公网安备 13108202000871号

爱云资讯 Copyright©2018-2024