蘑菇云创客空间协办AI Infra创新主题会议 共探大模型开源生态与开发者未来
2025-02-28 16:21:45爱云资讯10103
2月28日,由浦软创投携手华为云,联合硅基流动、清昴智能、蜜度科技、蘑菇云创客空间共同举办的《大模型驱动下的AI Infra创新:技术突破与应用拓展》主题会议在上海浦东软件园举行,这场盛会吸引了众多AI领域的大咖齐聚一堂。
《大模型驱动下的AI Infra创新:技术突破与应用拓展》主题会议
本次活动亮点纷呈,不仅有AI Infra领域的前沿洞察分享,还深度探讨了人工智能行业的痛点与解决方案,为参与者提供一场思想的盛宴。无论是关注大模型私有化部署的企业高管,还是AI领域的创业者与技术负责人,亦或是对大模型应用感兴趣的开发者,都能在这里找到灵感与机遇。
会议现场
硅基流动政企商业化负责人分享了在AI应用部署大模型的过程中,开发者面临的四大核心挑战:模型丰富度不足、推理速度瓶颈、推理成本过高、系统可用性风险,为此,AI基础设施需通过模型微调与集成工具链增强多模型兼容性,借助超低延迟架构与调度优化突破算力效率边界,依托芯片适配与吞吐量最大化策略实现硬件降本增效,并通过云原生稳定性架构与开发工具链兼容设计构建全链路可靠性保障,最终形成覆盖“模型-算力-硬件-系统”的闭环解决方案。
清昴智能市场合伙人现场介绍了其玄武智算平台的突破性能力:通过DeepSeek敏捷集群部署方案的自动化优化技术,在Llama系列模型(78/158/308/658)上实现推理速度2-10倍提升、内存占用缩减2-4倍、吞吐量激增10-30倍,同时将模型部署周期从传统3-12个月压缩至1周,在最小化精度损失的基础上,全面兼容国产芯片与英伟达异构算力,以实际案例验证了该方案如何系统性攻克AI应用“高延迟、高成本、长周期”难题,推动行业迈向高效敏捷部署的新阶段。
蘑菇云创客空间的联合创始人夏青主持圆桌论坛并分享看法
蘑菇云创客空间联合创始人夏青主持了圆桌论坛,并分享了对于人工智能基础建设发展的看法,人工智能基础设施(AI Infra)的演进正推动新一轮技术范式重构:在生成式AI与大模型爆发性需求的催化下,行业竞争已从单一算法突破转向系统性效率博弈。头部企业依托资本与生态优势加速构筑技术壁垒,而中小参与者的破局关键在于通过异构计算优化、轻量化架构设计、开源协同生态实现技术普惠化——以分布式训练效率提升降低算力边际成本,以自适应模型压缩打破硬件依赖桎梏,以模块化工具链缩短开发周期。这场变革的本质是算力民主化进程的深化,唯有将底层基础设施的“高门槛、重资产”特性转化为“可扩展、可定制”的服务能力,方能在产业级智能化的浪潮中重塑价值分配格局。
相关文章
- 榨干3000元显卡,跑通千亿级大模型的秘方来了
- 商汤与傅利叶达成战略合作,让大模型成为机器人的大脑和眼睛
- 留学智囊上线!科大讯飞联合教育部留学服务中心推出“出国留学助手”大模型
- Meta开源大模型Llama 4震撼发布,阿里巴巴/微美全息聚焦加速垂直领域AI应用布局
- 加码AI垂域创新 易鑫年内推汽车金融行业首个Agentic大模型
- 信通院栗蔚:大模型推理应用重塑云智算技术体系
- 重大升级 | SecGPT V2.0:打造真正“懂安全”的大模型
- 亚信科技+阿里云 | 大模型协作新突破,让百行千业用上普惠AI !
- 博大数据高辉对话算力行业专家:AI大模型与算力产业深度融合,推动可持续发展
- 北京筑龙:AI大模型在采购评审中的落地
- AI赋能审计:“知识×AI大模型”推动审计系统变革
- 九科信息bit-Agent智能体,打通企业应用DeepSeek等大模型的最后一公里
- 2024公有云大模型调用量,火山引擎中国第一!
- 腾讯云TVP AI与安全高峰论坛圆满落幕,共探大模型时代的安全破局之道
- 大模型一体机塞进这款游戏卡,价格砍掉一个数量级
- 阿丘科技李嘉悦:大模型驱动的AI检测范式变革——大模型、小模型、智能体的协同进化