百度飞桨与比特大陆AI芯片算丰系列融合适配,构建自主AI生态典范
2020-03-27 15:44:28爱云资讯阅读量:1,098
进入智能时代,AI芯片和深度学习框架二者融合成为构建我国自主AI生态的关键力量。作为智能时代的操作系统,深度学习框架起到承上启下的作用——上承应用、下接芯片。作为智能时代的核心大脑,AI芯片支持框架平台让AI技术更加普及易用,为行业赋能更多应用场景。近日,百度飞桨深度学习平台新增适配比特大陆最新算丰系列AI芯片,两者的成功融合在芯片利用率、性能功耗比等指标上尽显优势,相比传统GPU更适合深度学习推理,成为我国构建自主AI生态的典范。
轻量化推理引擎Paddle Lite再升级
作为国内功能最完备的端到端开源深度学习平台,飞桨以其兼具灵活和效率的开发机制、工业级应用效果的模型、超大规模并行深度学习能力、推理引擎一体化设计以及系统化的服务支持,成为加快产业智能化升级的主力军。
Paddle Lite是飞桨推出的一套功能完善、易用性强且性能卓越的轻量化推理引擎。轻量化体现在使用较少比特数用于表示神经网络的权重和激活,能够大大降低模型的体积,解决终端设备存储空间有限的问题。推理性能也整体优于其他框架,以ResNet50模型做例,在高通骁龙845上,Paddle Lite相比其他框架,比MNN快10.26%,比NCNN快17.1%。近期已正式上线的V2.3版本更通过支持“无校准数据的训练后量化”及网络结构与算子优化,在不牺牲性能的条件下,将模型压缩率提升至75%,有效将模型体积大幅缩小,进而满足移动及边缘端设备的轻量化需求。而搭载了比特大陆AI芯片的V2.4版本即将在近期上线。
百度飞桨与比特大陆兼容性认证书
通过对比特大陆AI芯片的适配,Paddle Lite不仅可实现对多种硬件平台的兼容,亦能更好地服务用户实际业务需求、节省模型迁移时间、加快敏捷开发部署,极大丰富了飞桨的硬件生态。
Paddle Lite支持比特大陆算丰BM系列芯片
算丰芯片与飞桨整合效能
与百度同为国内人工智能企业先行者的比特大陆是世界上少数几家有能力开发云端人工智能芯片的公司之一,并已成功推出四代人工智能芯片(云端芯片算丰BM1680、算丰BM1682、算丰BM1684,终端芯片BM1880)。凭借多年技术积累与行业实践,比特大陆AI芯片正在迅速成长为国产智能芯片阵营的中坚力量,为中国乃至全球的AI平台落地提供核心支撑。比特大陆开发的形态丰富的各种AI硬件产品均基于自主研发AI芯片,拥有完整的国内自主知识产权和专利,同一套SDK和简单易用的工具链支持多形态应用,充分满足云+边的“新基建”算力基础设施建设需求。
最新一代算丰BM1684芯片,聚焦于云端及边缘应用的人工智能推理,采用台积电 12nm 工艺,在典型功耗仅 16 瓦的前提下,INT8 算力可高达 17.6Tops,在 Winograd 卷积加速下,INT8 算力更提升至 35.2Tops,是一颗低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指标业界领先,超过主流推理GPU,在性能满足视频分析业务需求的前提下,可以实现视频结构化的单路成本最优。
算丰1684在飞桨框架上int8运行Resnet50的性能指标
强强联手合构AI生态圈
与此同时,比特大陆积极参与百度的黄埔学院计划,进一步深化双方合作关系,并成功合作开发运行百度“行人车辆”算法的SS-5416C3人工智能一体机,交付于公安部安全与警用电子产品质量检测中心进行检测。此外,在接下发布的飞桨开源框架版本,也会完整对比特大陆的编译工具BM Lang及相关Profiler工具的支持。
随着飞桨在稳定性、兼容性和成熟度等方面不断升级,比特大陆AI芯片也在不断提升性能、优化指标,助力飞桨加速产业结合,二者联手帮助产业实现智能转型,为我国产业智能化发展贡献力量。
相关文章
- 摩尔线程加入飞桨硬件生态共创计划,加速人工智能生态和创新应用发展
- 十个大模型、六大发布 WAVE SUMMIT 2022飞桨持续夯实AI底座
- WAVE SUMMIT 2022将于5月20日召开 飞桨将迎来大规模升级
- 中科曙光×百度飞桨,以算力助跑开发者同台竞技
- 河南师范大学等27所高校联合百度飞桨推出“人工智能微专业”
- 百余位高校教师齐聚“云端课堂”,百度飞桨师资培训班落地重庆大学
- “创客北京2021”百度飞桨人工智能产业创新应用专项赛决赛圆满结束
- 2021全国人工智能师资培训走进北理工,百度飞桨助力高校教师提升AI能力
- 百度飞桨人工智能产业赋能中心于上海浦东启动运营
- 岳麓山下齐聚全国高校教师 飞桨深度学习师资培训开班助AI教学
- 支持更大规模产业应用!百度飞桨获KDD CUP 2021两金一银
- “创客北京2021”百度飞桨AI产业创新应用专项赛正式启动
- 开源生态融合,DeepModeling开源社区使用飞桨攻坚分子动力学
- 产教融合新范式 飞桨助力高校创新AI人才培养
- 融合创新 伙伴同行 飞桨推动产业走通AI工业大生产之路
- 飞桨全新发布推理部署导航图,助力打通AI应用最后一公里