京东数科深度学习算法新突破 节省34.4%训练时长
2019-02-02 17:30:26爱云资讯阅读量:927
近期,京东数科在深度学习大数据计算框架研究方面取得重大突破,在此研究的推动下,深度学习算法速率将大大提升,成为深度学习算法领域的重要里程碑。
该研究创新的深度学习优化算法,从根本上解决了深度学习算法的计算速度瓶颈问题,提出了新颖的深度学习分布式优化理论和算法——特征回放算法(Features replay),并通过实验验证了在无性能损失的前提下,特征回放算法比传统反向传播算法(Backpropagation)在速率上将节省至少34.4%的训练时间,应用该技术成果将加速深度学习模型的训练计算,提升效能。
目前业界大数据、人工智能、智能供应链、无人车、计算机视觉等工程项目均使用深度学习算法,其中,针对超大数据量的深度学习,模型训练是关键步骤,同时也是既耗时又耗费GPU资源的工作,是其主要瓶颈之一,严重限制了深度学习各项应用的推进。京东此项技术成功研发,具有行业领先优势,并有望引领深度学习领域的创新研发热情,推动深度学习快速产业化应用的新高潮。
科技创新应用 回馈京东生态圈
目前该成果的核心内容已在不久前召开的机器学习顶会NeurIPS上发布,并已于近期交付并应用于京东商城大数据平台,将被整合加入京东机器学习平台,为京东相关项目提供支持,以提升数据利用效能,助力供应链物流的降本提效,推进消费者体验的优化升级,最终回馈京东生态体系中的广大合作伙伴和消费者。
该算法的研发团队由京东数科智能大数据部首席算法科学家黄恒教授领衔。黄恒教授是美国匹兹堡大学John A.Jurenko基金赞助冠名的杰出讲席教授,是机器学习、人工智能、、计算机视觉等领域的世界权威科学家,取得了大量令人瞩目的研究成果,有着重要的全球学术影响力。过去十年里他发表的计算机顶级会议文章数量,在世界公认的csrankings.org(Computer Science Rankings)计算机顶级会议文章发表统计网站排名中位于全世界第三位,充分显示了其全球领先的科研创造能力。
黄恒教授于2018年9月加入京东,聚焦于机器学习平台和深度学习平台研发、优化模型与算法中心及学术研究等相关内容。本次深度学习的分布式算法的研究成果是黄恒教授将产研结合,进行商业化创新应用的一次亮剑,同时也是京东所肩负的让科技引领生活使命的重要实践。
他表示,"该最新算法及软件系统能够和当前最流行的深度学习算法框架Tensor Flow无缝结合,从而进一步使用已有的底层并行以及分布式计算的支持,进一步加快深度学习算法的计算。"
4篇论文被收录 AAAI再现实力京东
在于当地时间2019年1月27日拉开帷幕的全球顶级人工智能会议——第三十三届AAAI人工智能会议(AAAI-19)上,黄恒教授4篇论文入选,涉及基于格拉斯曼流形的鲁棒度量学习模型,快速有效的双维度随机梯度算法,针对非凸非平滑机器学习难点问题的快速随机非梯度算法,使用贝叶斯推理的字典学习模型等4个人工智能核心领域,4篇论文分别为:
1369:"Robust Metric Learning on Grassmann Manifolds with Generalization Guarantees" Lei Luo; Jie Xu; Heng Huang.
2326: "Scalable and Efficient Pairwise Learning to Achieve Statistical Accuracy" Bin Gu; Zhouyuan Huo; Heng Huang.
5329:"Faster Gradient-Free Proximal Stochastic Methods for Nonconvex Nonsmooth Optimization" Bin Gu; Zhouyuan huo; Songcan Chen; Heng Huang.
2742: "Orthogonality-Promoting Dictionary Learning via Bayesian Inference" Lei Luo; Heng Huang; Jie Xu.
本届会议论文投稿数量高达7745篇,录取率仅为16.2%,较往年录取率呈大幅下降趋势,会议选录的论文主题涵盖40多个领域,包括大数据分析、机器视觉、深度学习、自然语言处理等人工智能研究成果。
本次黄恒教授系列学术成果获AAAI的认可与选录,成为黄恒教授本人及京东数科在大数据和人工智能科研领域全球竞争力的一个缩影。
人工智能未来可期 加速产研融合
人工智能作为新一代信息技术,正深刻影响着全球零售、医疗、金融、教育、家居、农业、制造、网络安全、人力资源、安防等领域,对于改善传统环节流程、提高效率、提升效能、降低成本等方面起到了巨大的推动作用。人工智能已成为我国新一轮科技革命和产业变革的新动能和重要驱动,同时也成为各国及企业间国际竞争的焦点之一。
我国政府高瞻远瞩,在政策方面给予了高度关注,人工智能两次被写入全国政府工作报告,在2017年《国务院关于印发新一代人工智能发展规划的通知》(国发〔2017〕35号)中就已确立了人工智能技术发展三步走的战略目标,明确到2020年人工智能总体技术和应用与世界先进水平同步,人工智能核心产业规模超过1500亿元,带动相关产业规模超过1万亿元。十九大报告中也特别提到要推动互联网、大数据、人工智能与实体经济的深度融合。
在国家科技强国战略及对于人工智能技术的政策导向下,京东从未停止过对于人工智能及大数据方面的探索。智能大数据部作为京东数科统管的一级部门,负责京东数科整体数据战略的制定和实施,同时也是利用人工智能、大数据等技术进行产学研结合的重要源地之一,肩负不断进行科技创新,赋能京东数科各业务场景的重任,同时,在京东向零售科技转型的整体战略进程中,还承载着引领我国零售业及其他行业领域科技水平不断迭代、跃升,走出国门的使命。
目前,智能大数据部正在积极开展AI算法与各产业领域的深度融合,此外区块链在零售、医疗、金融、公益等领域的应用探索也是其重要方向。
未来,随着我国持续的科技投入和战略倾斜,人工智能、大数据将日益成为推动第四次产业革命的重要技术引擎,降低各行业运行成本的重要驱动力,实现社会公平普惠的重要科技保障。在此趋势下,京东数科也将承担并扮演更加重要的角色。
相关文章
- 践行B2B2C商业模式 京东数科做11.11背后的“首席增长官”
- 京东数科亮相2020世界人工智能大会 “首席增长官”助力高质量增长
- 京东数科成立产业AI中心 希望将AI能力基础设施化
- 京东数科日均千亿级复杂计算 掀AI驱动的智能反欺诈新篇章
- 京东数科AI技术厚积薄发,6篇论文入选全球顶会AAAI 2020
- 京东数科姚秀军:智能运维场景不断丰富,无人化运维时代或将提前到来
- 京东数科与梯之星联合发布“京梯计划” 助力线下媒体数字化
- 京东数科智臻链:数字存证技术加速智慧司法建设进程
- 京东数科AI实验室首席科学家薄列峰:人工智能是推动实体经济优化升级的驱动力量
- 京东数科陈蕾:突破界限,为线下广告行业插上飞翔的翅膀
- 京东数科与百度地图达成合作,手机地图也能付公交费
- 亲邻科技完成数亿元B轮战略投资,京东数科、小米科技投资
- 京东数科深度学习算法新突破 节省34.4%训练时长
- 京东数科亮相2019 CES 展示中国数字科技创新力量
- 京东数科沈建光亮相央视《机智过人》 预言技术将实现无人养殖、无人耕种
- 京东云和京东数科联合投资亿方云 探索AI等应用