品高AISTACK创新采用显存复用和算力切割技术，助力DeepSeek大模型应用

随着人工智能技术的快速发展，DeepSeek-R1模型凭借强大的高性能推理能力，成为业界瞩目的焦点。品高AI大模型融合平台--AISTACK早在2024年7月开始支持DeepSeek的混合专家模型(MoE)，并上架京东商城，在DeepSeek-R1发布后，也第一时间在产品中进行了集成，为垂直领域大模型的落地提供了更强大的技术支持。在结合过程中，AISTACK不仅提供对DeepSeek一系列模型的训练微调支持，还为其推理服务实现了加速，进一步提升了垂直领域大模型的应用效果。

垂直领域大模型的落地挑战

越来越多的企业希望利用大模型技术来提升业务效率，创造新的价值。然而，在实际应用中，企业常常面临以下挑战：

• 数据安全顾虑

企业核心数据涉及商业机密，担心在使用云端大模型服务时数据泄露。

• 综合成本高

除了算力硬件成本，还包括运维成本、选型成本、数据处理成本及不同厂商模型的切换成本等。

• 技术门槛高

缺乏专业的AI技术团队，开发大模型应用难度大、周期长。

• 定制化需求强

在线通用大模型无法满足垂直领域的深度业务需求。

AISTACK：为企业打造专属垂域AI能力

AISTACK大模型训推一体机平台是广州市品高软件股份有限公司推出的一款面向企业的软硬结合的AI产品，旨在帮助企业轻松构建适合自身业务的垂直领域大模型应用。它将繁琐的技术细节隐藏起来，让企业聚焦于业务本身。此次集成DeepSeek-R1模型，为企业提供了更强大的AI能力。

1►开箱即用，零门槛操作

AISTACK提供可视化的操作界面，无需编程基础，企业用户登录平台即可快速定制和部署DeepSeek-R1模型，真正实现开箱即用，降低了技术门槛。

2►数据安全有保障企业可选择在本地部署AISTACK，所有数据都在内部网络中流转，避免了使用云端服务可能带来的数据泄露风险。这对涉及敏感信息的行业，如法律、医疗、金融等，尤为重要。

3►丰富的预置模型，满足多样化需求AISTACK内置超过100种主流优质大模型，包括DeepSeek-R1，涵盖语言、视觉、图像等多个领域，企业无需从零开始即可快速启动AI项目。

4►模型全生命周期覆盖，深度契合业务点击几下鼠标即可完成垂域AI的全生命周期开发，从根据业务目标选择适合的大模型、到针对预置模型进行领域知识的微调训练，再到模型业务能力的评测，覆盖大模型开发的全流程。

5►一键部署，灵活集成评测好的模型，可一键部署为推理服务，并提供标准化的API接口，方便与企业现有系统进行集成，快速投入使用，并支持自动化迭代更新，减少运维成本。

6►资源优化，降低成本AISTACK支持显存复用和算力细粒度切割技术，充分利用硬件资源，降低算力需求，减少硬件投入成本。

场景案例：解决企业实际问题

案例一：高效构建税务细分领域大模型

背景与目标

一家在税务智能咨询领域处于全国领先的NLP技术公司，面对生成式AI的冲击，积极寻求技术升级路径。希望通过专业数据微调的模型能力增强现有NLP税务问答系统，提升非标准问题的应答质量。

困难与挑战

• 面对众多开源模型的选型困惑

• 存量高质量NLP数据到训练数据的转化问题

• 大量的盲目训练工作耗时费力

方案与成效

• 帮助用户快速锁定适合自身业务的最优模型

• 帮助业务专家针对应用场景构建高质量的训练数据

• 通过批量微调和自动化评测实现微调参数的快速收敛

• 模型训练周期从1个月压缩至1周

• 训练出的领域模型在个税相似问ROUGE-L准确率远超目标

案例二：降低大模型在教育领域的落地成本

背景与目标

某职业学校打造AI教学和科研环境，要求支持50人规模班级同时开展大模型推理和微调训练实验，以及老师的科研实验资源分配管理。

困难与挑战

• 预算有限，无法同时支持班级学生的教学

• 教学场景多样，各种环境所需算力复杂繁琐

• 算力运维效率低，分配调节困难，实时性差

方案与成效

• GPU细粒度切割提升算力资源适配性和利用率

• 灵活的算力调度支持多模型的高效运行

• 支持教学环境案例模板化满足多样性科研及教学需求

• 将原本需要 50 张GPU的教学需求，缩减到 4 张GPU

• 成本降低超过10倍，加速大模型实训课程的推广落地

案例三：医疗机构的智能诊断支持

挑战

希望利用AI辅助医生诊断，但数据涉及患者隐私，且缺乏AI技术团队。

解决方案

• 院内部署AISTACK，数据不出医院，保障隐私

• 上传匿名化的病历数据，对模型进行微调

• 部署智能诊断助手，为医生提供诊断建议和用药参考

效果

• 诊疗效率提升:每位患者平均诊疗时间缩短30%

• 诊断准确率提高:结合AI建议，误诊率明显降低

• 技术门槛降低:无需专业AI团队，医生即可使用

为什么选择AISTACK?

极致性价比，综合成本更低通过极致优化过的软硬件一体化平台，能让AI大模型最大限度释放性能，实现一机顶多机的效果，大幅降低垂域AI应用综合成本。

快速构建，降低门槛无需深厚的技术背景，企业即可在短时间内构建和部署专属的大模型应用，加速AI落地。

数据安全，安心使用支持本地部署，数据不出企业，满足高安全性的业务需求，特别适合金融、医疗、法律等行业。

贴近业务，灵活定制支持模型的全生命周期开发流程，能够深度契合企业的业务场景，提供更精准的AI服务。

人工智能的大潮已经来临，垂直领域大模型的应用将成为企业提升核心竞争力的关键。我们坚信：AI的行业落地必须依托多方协作，只有通过优势互补、灵活运营、互利共赢的合作模式，才能加速AI在各行业的落地应用。AISTACK愿携手各行业伙伴，共同迎接AI时代的机遇与挑战。让AI更简单，选择AISTACK，助力智能创新、驱动未来变革!