千问QwQ-32B硬刚671BDeepSeek,海云捷迅AIStackDC全面支持部署
2025-03-10 11:47:08爱云资讯865
3月6日凌晨,阿里云发布并开源全新的推理模型通义千问QwQ-32B。官方称,这个新模型仅仅拥有320亿参数,但在性能上比肩6710亿参数的满血版DeepSeek R1。
根据阿里云官方数据,QwQ-32B在编程竞赛(LiveCodeBench)和美国数学竞赛(AIME24)两项略逊于满血版的DeepSeek-R1,但在其他三项测试中则全面超越了后者。此外,QwQ-32B的表现也远超OpenAI-o1-mini。以下结果展示了QwQ-32B与其他领先模型的性能对比,包括DeepSeek-R1-Distilled-Qwen-32B、DeepSeek-R1-Distilled-Llama-70B、o1-mini以及DeepSeek-R1-671B。
阿里云团队基于Qwen2.5-32B模型探索了扩展强化学习(RL)的技术方案,并发现这种方法显著提升了模型在数学与编程任务中的表现。通过持续扩展强化学习训练规模,中型模型也能实现与巨型混合专家模型(MoE)相匹敌的性能水平。
QwQ-32B的性能优势
QwQ-32B在推理性能上表现出色,仅用320亿参数量就达到了与6710亿参数的DeepSeek R1相当的性能水平,且推理成本仅为后者的1/10。这一突破性进展使得QwQ-32B能够在资源有限的环境中高效运行,极大地拓展了其应用场景。
AIStack智算中心支持QwQ-32B部署
AIStack智算中心(后文称为AIStackDC)现已全面支持QwQ-32B的部署。AIStackDC是一个高效、灵活的算力资源租赁解决方案平台,提供基于“容器实例”的灵活算力租用服务,满足个人用户以及企业、院校、研究机构等各类组织对高性能计算资源的需求。
关于QwQ-32B部署主线流程解读
1、注册登录AIStack智算中心
首先,我们通过浏览器访问AIStackDC平台:
https://aistackdc.com
输入账号和密码登录平台。
注册时使用邀请码77414E,可获得额外福利优惠券。
敲黑板看重点:在AIStackDC上的一块4090GPU就可以支持部署QwQ-32B(新人注册1折起,接近零成本薅羊毛!)
2、创建实例
我们需要创建一个实例,实例是部署QwQ-32B模型的环境
3、进入实例
4、安装部署...
部署流程细节不在此处一一展开,喂饭级别详细教程请点击
https://aistackdc.com/phone-register
跳转至AIStackDC官网登录后到帮助文档板块查看
5、访问细节...
通过open-webui界面实现本地访问:
2025 已经全面进入大模型时代,AIStackDC为高校师生、个人开发者和中小型企业提供灵活弹性的算力租赁服务,依托企业级服务与支持,帮助用户解决算力资源使用难,技术门槛高的问题,让智能算力如同水电般触手可及。
相关文章
- RTE2024 AI 专场开启 通义千问、MiniMax、智谱、Soul来了
- 智慧家庭领域AI分析大模型:小奥千问“扇动翅膀”,引领家电数据查询变革
- 全球最强开源模型!阿里通义千问登顶国内第一:超越一众开闭源
- 通义千问新版本发布超越GPT-4-Turbo,微软/微美全息构建多模态AI生产力领先业界
- ChatGPT、Gemini、通义千问等一众大语言模型,哪家更适合您?
- MTK携手阿里云 完成通义千问天玑平台端侧部署
- 免费开放1000万字长文档处理功能,阿里通义千问文档能力超越ChatGPT
- 阿里巴巴CEO吴泳铭:通义千问正加快追赶 GPT-4
- 接入“通义千问”等大模型,蓝凌加速打造AI时代最好用办公平台
- 阿里云将开放“通义千问”,为每家企业打造专属GPT