ChatGPT o3等创新再破AI极限 第一线DYXnet张先国揭秘企业数智化关键
2024-12-26 16:21:43爱云资讯阅读量:5,707
近期,第一线DYXnet智算网络技术部总监张先国接受了51CTO的独家专访,在谈及AI智能时代,企业数智化转型需要注重的方向时,他坦言道:释放数据价值是这一进程的关键。以前数据只是存放在业务数据库中,企业仅是对其进行简单检索,很多非结构化数据难以发挥价值。但现在,借助AI的能力可以更好地释放数据价值。对于企业来说,关键在于如何发挥私有数据价值的同时保护自身数据,避免让自己的数据仅仅成为大型平台的一部分,这才是企业未来转型的真正价值所在。
随着大模型深化发展,越来越多的企业开启数智化升级。大模型私有化呈现出愈发明显的趋势。企业只有将私有数据、专业知识和行业经验融入大模型之中,进而打造出AI 原生化的业务形态,让模型生成更符合企业实际和专业需求的内容,才能够为企业提供更加具有针对性的决策支持和解决方案,进而更好地帮助企业获得竞争优势。
AINet战略布局双线并行
面对AI大模型新发展趋势,第一线正致力于向AI应用与大模型服务+AI原生基础设施服务升级。其中AI原生基础设施服务方面,第一线的战略方向便是构建AINet。在这一战略中,第一线采取了以下两条路线:
传统业务层面进行创新
这包括SD-WAN/MPLS VPN、核心网络架构以及SASE安全。目前,第一线正致力于将这些技术与AI相结合,以实现以下目标:通过SD-WAN/MPLS VPN+AI实现流量的智能预测;核心网+AI构建出InsightNet智能网络;将SASE的AI能力集成到位于核心网络边缘的SASE POP,打造智能安全防护体系。
打造AI原生超互联架构基础设施
围绕企业进行AI原生转型,第一线紧跟企业对安全、AI、算力等方面的更高要求,通过技术创新、生态合作,构建了AI原生超互联架构基础设施,实现了算力与网络的深度融合,为企业提供了一个集AI算力、私域数据、模型、隐私计算于一体的企业可信计算空间,能够支持企业在AI原生领域的创新。
融合联动
双向路线汇聚而成的AINet将提供网随需动、双网联动的服务赋能,为企业AI业务应用的训练、推理等多方面场景,提供智慧基础底座支撑。
扫清AI原生化痛点向私有化而行
张先国表示,基于私有数据构建AI原生化业务的优势显而易见,而在私有大模型的训练与推理过程中,也充满着多方面挑战。
算力需求井喷带来的挑战
在大模型训练阶段,由于参数量和训练数据集巨大,对算力有着极高的要求。以金融行业为例,在训练专属金融大模型时需要处理的数据量动辄几十T甚至达到PB级别。然而,当前市场上GPU资源紧张,算力成本高昂,如何有效利用算力资源成为企业面临的一大难题。
数据隐私保护难题
作为企业的核心资产,近年来数据泄露和隐私侵犯事件频发,让企业对于数据隐私保护的担忧日益加剧。如何保障大模型训练过程中的数据隐私安全,成为企业必须面对的重要课题。
承势而为
张先国强调,在新的趋势驱动下,第一线正不断深化探索AI原生超互联架构的建设,汇聚创新技术与AI算力资源,形成具备多元能力加持的服务底盘,承载企业AI原生化的全面升级。
构筑可信计算空间 双线并行
第一线AI原生超互联架构实现了园区与楼宇之间算力直达的高速安全通道,以构筑可信计算空间,解决了算力资源紧张和数据传输需求激增的问题,助力企业实现基于私有数据进行大模型训练的同时,实现更高级别的数据安全性。
算力层面
第一线通过整合多方AI算力资源,形成具备多元算力加持的服务底盘。
网络层面
第一线基于远程RDMA等技术打造的AI原生超互联架构,采用动态切片技术进行网络的动态切换。在客户需要大算力时,能够快速分配出大带宽且安全隐私的直连网络,并为其开通百G以上带宽,保障巨量数据与算力端之间实现快速、高效的互联互通,并在任务完成后自动释放资源。
安全层面
第一线构建了隐私计算平台,打造了端到端加密+算后即释放能力。
首先,第一线在网络中增强了实时大带宽加密能力,从而确保客户端与算力服务端之间的数据传输全程加密。当企业与算力端建立连接后,将获得性能与安全兼具的算网支撑,同时确保数据不会向外部传输。
其次,所有计算服务器将只有内存而无硬盘,实现无盘隐私计算,私有数据算后即清。这意味着计算完成后将结果传回去,随后便清空相关数据。当下一次有其他客户使用时,又会建立一个动态的私有连接,在内存空间中开展新计算服务,计算完成后同样不会留下任何痕迹与保存。如此一来,就能确保做到数据只存在于当前计算时空内的私有计算空间中,用户可放心使用相关计算服务。
解决方案
以某教育企业为例,第一线通过为其构建一个新的私域来存放数据,并提供算力专网服务。通过将数据打造为私有向量数据库形式的知识库,并与第一线提供的隐私计算算力相连接,利用隐私计算算力进行微调训练。在训练过程中,所有数据都在私域空间内完成处理,确保不会向外部传输。最终,训练出一个新的AI模型,并将其部署到公网上供教育企业用户使用。
这如同拼接“乐高”一般,第一线传统业务平面+AI原生超互联架构形成的AINet,将作为汇聚网络、算力与安全等多元能力的大底盘,支撑企业推进创意创新孵化成个性化的AI原生业务形态,以供自身智慧升级,或对外提供智慧服务。
全新技术范式
大模型私有化部署带来的诸多挑战催生了新技术与解决方案的需要。正是凭借敏锐的行业洞察力和强大的技术实力,第一线在不断转型升级过程中,打造出了AI原生超互联架构,即满足了传统业务的需求,又让企业部署私有化大模型应用变得更加简单,为业务持续创新和发展夯实了基石。这种转型不仅是业务范围的扩大,其构建的架构为企业提供了全新的技术范式,在算力资源整合上突破传统局限,通过区域联动构建起强大的算力矩阵,为应对大模型训练的高算力需求提供了创新思路。
随着大模型行业的蓬勃发展,企业数智化转型迎来新契机,但也面临着诸如算力需求、数据隐私保护等诸多挑战。第一线通过其AINet 战略布局的双线并行模式,在传统业务创新与打造 AI 原生超互联架构基础设施方面持续发力,构建出可信计算空间,从算力、网络和安全等层面提供解决方案,以应对企业在 AI 原生化进程中的痛点,为企业基于私有数据构建大模型提供了有效支撑,并在技术范式上实现创新与突破,有望助力企业在 AI 时代更好地实现智慧升级与竞争力提升,而其经验与模式也为行业发展提供了有益的参考与借鉴,值得持续关注与深入研究。相关文章
- OpenAI宣布桌面版ChatGPT推出应用协作功能,编程能力得到增强
- OpenAI宣布向所有用户开放ChatGPT人工智能搜索功能
- 苹果开始推送iOS 18.2:Siri终于整合ChatGPT了
- ChatGPT版本大更新!沸蛇AI语音鼠标,更适合国人的创作神器
- OpenAI发布o1模型完整版和“顶配版”ChatGPT Pro
- ChatGPT每周活跃用户已经超过3亿
- ChatGPT在2025年的目标是达10亿用户量,并开始尝试投放广告
- ChatGPT引领AIGC飞跃,微美全息多模态AI赋能企业增长
- OpenAI正式推出ChatGPT搜索功能,微美全息乘AI浪潮培育生产力驱动业务革新
- 苹果Siri融合ChatGPT AI 能力提升,微美全息强化AI基础设施建设完善底座
- OpenAI推出ChatGPT的Windows和Mac电脑版高级语音模式
- 苹果首个iOS 18.2测试版增加了ChatGPT集成和更多人工智能功能
- 苹果内部测试,Siri还是被ChatGPT甩好几条街
- OpenAI推出Windows版ChatGPT客户端
- ChatGPT对资源的需求越来越失去控制
- OpenAI ChatGPT用户激增至2亿,亚马逊/微美全息加速布局大模型市场蓝海