是德科技推出AI数据中心构建器以验证和优化网络架构和主机设计
2025-04-10 14:34:04爱云资讯6353
通过模拟真实工作负载验证AI基础设施的性能
·通过评估新算法、组件或协议提高AI训练的性能
·在不投资昂贵的大规模部署的情况下,调整和优化AI工作负载和系统基础设施的参数
是德科技(NYSE: KEYS )推出Keysight AI (KAI)数据中心构建器,这是一款先进的软件套件,通过模拟真实工作负载来评估新算法、组件和协议对AI训练性能的影响。KAI数据中心构建器的工作负载模拟功能将大型语言模型(LLM)和其他人工智能(AI)模型训练工作负载集成到AI基础设施组件的设计和验证中——包括网络、主机和加速器。该解决方案实现了硬件设计、协议、架构和AI训练算法之间的更紧密协同,提升系统性能。
Keysight AI (KAI)数据中心构建器是一款先进的软件套件,通过模拟真实工作负载来评估新算法、组件和协议对AI训练性能的影响
AI服务提供商使用各种并行处理策略(也称为数据或模型并行)来加速AI模型训练。将模型并行与AI集群拓扑和配置对齐可以提高训练性能。在AI集群设计阶段,关键问题最好通过实验来回答。许多问题集中在图形处理单元(GPU)之间的数据传输效率上。关键考虑因素包括:
·AI主机或机架内GPU互连的scale up设计
·Scale out网络设计,包括每个GPU的带宽和拓扑
·网络负载均衡和拥塞控制的配置
·训练框架参数的调整
KAI数据中心构建器的工作负载模拟解决方案再现了真实AI训练任务的网络通信模式,加速实验,降低达到熟练程度所需的学习曲线,并更深入洞察性能下降的原因,这些是通过真实AI训练任务实验难以获得的。是德科技客户可以访问包括GPT和Llama在内的LLM工作负载库,以及数据并行(DP)、全分片数据并行(FSDP)和三维(3D)并行等流行的模型分区方案。
使用KAI数据中心构建器中的工作负载模拟应用程序,AI服务提供商可以:
·实验并行参数,包括并行数据大小及其在可用AI基础设施上的分布(调度)
·了解并行内和并行间通信对整体任务完成时间(JCT)的影响
·识别低性能的集合通信操作并深入识别瓶颈
·分析网络利用率、尾部延迟和拥塞,了解它们对JCT的影响
KAI数据中心构建器的新工作负载模拟功能使AI服务提供商、GPU云提供商和基础设施供应商能够将真实的AI工作负载引入其实验室环境,以验证AI集群和新组件的不断演变的设计。他们还可以通过实验微调模型并行方案、参数和算法,以优化基础设施并提高AI工作负载性能。
是德科技网络测试与安全解决方案副总裁兼总经理Ram Periakaruppan表示:“随着AI基础设施规模和复杂性的增长,对全栈验证和优化的需求变得至关重要。为了避免昂贵的延误和返工,必须将验证转移到设计和制造周期的早期阶段。KAI数据中心构建器的工作负载模拟为AI组件和系统设计提供了非常高的真实性,优化工作负载以实现最佳性能。”
KAI数据中心构建器是是德科技人工智能(KAI)架构的基础,这是一系列端到端解决方案,旨在通过使用真实AI工作负载模拟验证AI集群组件,帮助客户在数据中心扩展人工智能(AI)处理能力。
是德科技在2025年4月1日至3日于旧金山Moscone中心举行的OFC 2025会议上展示KAI数据中心构建器及其工作负载模拟功能,展位号1301。
相关文章
- 是德科技推出AI数据中心构建器以验证和优化网络架构和主机设计
- 是德科技发布无线测试平台, 加速Wi-Fi 7性能测试
- 是德科技发布2024技术趋势预测,新一轮技术变革机遇浮现(下篇)
- 十年磨一剑:是德科技推出N5186A MXG矢量信号发生器,一站式解决方案满足用户期待
- 用创新为每一代技术做好准备,是德科技M9484C VXG微波矢量信号发生器以一当多
- 是德科技推出面向宽带多通道毫米波应用的高性能矢量信号发生器
- 应对未来5G网络之需,是德科技提前准备好了
- 是德科技助力联发科技验证其首个5G毫米波调制解调器
- 是德科技率先向3GPP提交新的协议测试例,加速验证支持IMS的5G NR设备
- 是德科技互联汽车测试解决方案助力中国一汽实现可靠和高性能的车载通信和V2V通信
- 是德科技5G用户设备仿真解决方案助力京信通信验证全套小基站产品的性能
- 是德科技5G测试解决方案助力SK电讯在韩国验证5G设备性能
- 是德科技助力3GPP开展MIMO空中测试,加速先进5G设备的性能验证
- 是德科技发布PathWave Design 2021软件套件,加速5G设计、仿真和验证工作流程
- 是德科技收购Eggplant,为智能软件测试自动化市场注入创新力量
- 8合1的是德科技MXR系列示波器,实现三个更多