商业通讯
请输入关键词
  • 首页
  • 资讯
  • 科技
  • 财商
  • 汽车
  • 家电
  • 生活
 > 科技

范式智能联合睿思智联推出开源一站式生产级 AI 部署平台 "模域ModelSphere"

发布于:2026-10-19 09:59:33 来源:互联网

面向企业大模型应用,简化部署与运维,提升算力使用效率

  • 模域简化企业大模型部署与运维,系统极限吞吐效率提升约285%(性能跃升至原来4倍)
  • 打造更开放、兼容多元芯片的规模化AI基础设施
  • 面向企业用户免费开源,现已于GitHub上线


中国北京 – Media OutReach Newswire – 2026年10月16日 – 范式智能技术集团有限公司(”范式” 或”集团”,股票代码:6682.HK)联合北京睿思智联科技有限公司(”睿思智联”)宣布,一站式生产级 AI 部署平台”模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源,将算力管理、模型部署和运行优化整合在统一平台,帮助企业降低部署与运维门槛,更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。

随着大模型进入规模化商业阶段,企业在算力统筹、模型部署与效能优化中,普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题。模域致力于将这些工作整合为 统一的部署与管理流程,减少企业在底层系统适配、资源调度和日常运维上的重复投入,让企业无需深度掌握驱动编译与硬件适配等复杂工作,即可将各类开源大模型嵌入核心业务流程, 让技术团队更专注应用开发和业务需求。

模域具备四大核心优势:

1. 简化部署,保障模型服务稳定运行:模域提供图形化操作面板和预置部署能力,减少环境配置代码的偏写,帮助开发者快速大模型搭建推理服务,并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力,支持模型服务在生产环境中稳定运行。

2. 持续自动化调优,提高模型运行效率:平台内置 AutoTune 智能模型排期策略,以及结合硬件加速能力的自适应负载均衡调度,优化模型处理请求的能力和首次响应速度,系统极限吞吐效率较基准大幅提升约 285%,性能跃升至原来4倍,真正实现了算力的”满血”释放。

3.统一管理多种芯片,减少重复适配:平台融合 EngineX 推理引擎,支持并针对多种算力芯片进行深度调优,可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源,用户无需为不同芯片重写底层逻辑代码。

4. 持续优化适配主流模型,加快部署应用:模域团队持续跟进开源社区迭代,已适配优化了DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型,支持在模型发布后快速部署并且性能调优至生产环境,帮助企业将新模型落地实际业务。

模域在AI技术栈中的定位

在技术层面上,模域与 vLLM、SGLang 等推理引擎互相配合:推理引擎负责提升单台服务器的计算效率,模域则负责集群架构级纳管和优化,包括负载和缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等,保证生产环境下系统的高性能和高可用。

模域全面开源,将大模型部署与优化的工程能力向更多企业和开发者开放,同时汇聚产业力量,持续完善对不同芯片和模型的支持,减少硬件适配障碍,降低大模型应用门槛,帮助企业用好已有算力,高效释放异构算力的商业潜能。

模域采用宽松的 Apache 2.0 协议,已在GitHub上线:https://github.com/modelsphere/modelsphere

https://github.com/modelsphere/modelsphere

上一篇:“青花醉”新品发布 超高端新品预告——古越龙山武汉酒博会重磅连连

下一篇:

热门文章

  • “健康中国・品牌榜”揭晓!达仁堂速效救心丸蝉联西普金奖

    2026-08-14
  • 纽曼户外电源出海中亚热卖 极海传媒海外推广助推“用电自由梦”

    2025-04-29
  • 又双叒升级!申克Smart Balancer 4 迈入3.0时代,六大功能全面加码

    2026-08-18
  • 当"户外两小时"遇上屏幕围城:儿童智能设备该往何处去?

    2026-08-10
  • 第三届宋庄儿童艺术节系列学术活动丨宋庄·观潮·未来创新美育论坛圆满收官

    2026-07-30
  • 新迪天工云库V2026 R0发布:技术升级赋能企业设计数字化转型

    2026-07-30

本站部分文字及图片均来自于网络,如有侵权请及时联系删除处理

Copyright ©2023-2024 商业通讯.Powered by © hubeizhichuang.com