5G是桥梁,高通侯明娟解读混合AI架构:云端和终端灵活衔接
2023-09-07 15:29:47爱云资讯阅读量:1,081
在9月5日举行的2023年中国国际服务贸易交易会成果发布活动中,高通公司发布《混合AI是AI的未来》白皮书。在发布现场,高通公司全球副总裁侯明娟发表演讲,深入解读混合AI架构的领先优势。混合AI架构可以根据任务的复杂程度,在云端和终端之间分配工作负载,任务优先在终端完成,当终端侧无法完成的任务,可以通过5G等网络,无缝衔接到云端完成。这种混合AI架构,可以降低云端运营成本,突破算力瓶颈,加速AI的普及。
侯明娟谈到,生成式AI带来了空前的创新和发展机遇,人工智能正以惊人的发展速度和强大的创新潜能,迅速走进我们生活的各个方面。这个过程产生了巨大的AI算力需求,云端的成本很高,每个查询的成本比传统搜索高10倍,如果完全在云端处理AI工作负载,每天全球有那么多次搜索查询,需要几十亿美元的额外成本。业界普遍认为,算力不足是阻碍AI普及的最大障碍。
通过混合AI架构,将一部分算力分配到终端侧运行,挖掘海量终端侧设备的算力资源,是生成式AI克服成本问题,实现AI快速扩展到全球更广范围的关键。随着智能手机、个人电脑等终端设备的升级,终端侧AI的算力在不断提升,通过混合AI架构在终端侧AI和云端AI按需分配负载,让更多的推理运算在终端侧运行,既可以降低成本,也可以提供更优的用户体验。侯明娟把这种混合AI架构比喻成一个团队协作,可以帮助全球范围更快获得,具有成本、能源、性能、隐私、安全和个性化优势的AI。她也指出,目前高通的5G智能手机,已经具备平滑运行10亿参数生成式AI模型的能力。在本次服贸会高通展台,就有现场演示骁龙5G手机运行Stable Diffusion的效果,用户只需要输入自然语言提示,就可以在15秒内完成20步推理,生成标准的512x512图像。
侯明娟表示对AI的应用前景充满了希望,期待能与各个行业的伙伴合作,共同探索AI更加丰富的商业模式和创新应用,一起把AI能力扩展到更广泛的领域,让AI普惠更多的行业、更多的消费者,创造更加便利和愉悦的数字化生活。
相关文章
- 通宇通讯最新推出面向5G-A的空地一体化赋形绿色天线,为低空经济发展保驾护航
- 迎接低空网络覆盖新需求,中信科移动筑牢5G-A低空组网规划能力
- 华为F5G-A方案亮相GITEX GLOBAL,共赢行业智能化
- 高通亮相中国移动全球合作伙伴大会,展示最新5G+AI合作成果
- 携手伙伴加速5G普及,高通荣获“5G发展特殊贡献奖”
- 加速启航5G-A商用时代,微美全息布局AI+AR+5G-A产业链推动新型应用落地
- 5G-A×AI六大创新方案发布!河南移动携手中兴通讯共创数智新时代
- 高通荣获“ 5G发展特殊贡献奖”,携手中国移动加速5G终端创新
- 浙江电信全面建设5G-A网络,为AI时代注入新功能
- 中兴通讯总裁徐子阳:5G-A新时代,AI+兴未来
- 加速F5G-A全光智能接入网商用,迎接智能时代新机遇
- 亚信科技、Intel 联合发布“5G核心网TSN工业时间敏感网络“解决方案
- 好看更好用的中兴晴天BE5100墙面路由器开售,比居家用5G更快更靠谱
- 比科奇澎湃中国芯赋能首款全国产5G无线云网络和移动通信服务创新
- 5G轻量化(RedCap)“领航”产业发展论坛在京成功举办
- MediaTek携手“天玑芯世界探索官”辛芷蕾 发布旗舰5G智能体AI芯片天玑9400