金山云全面支持DeepSeek模型 优化长文本推理与微调服务

发布时间:2025-02-14 20:32 已有: 人阅读

  金山云宣布在公有云和国资云/政务云场景中全面支持DeepSeek-R1/V3,进一步拓展其在高性能大语言模型推理和微调任务的服务能力。金山云已发布基于DeepSeek-R1蒸馏模型的多种镜像服务,用户可在金山云官网免费体验。用户可以在公有云GPU云服务器和GPU裸金属服务器上搭建推理服务并进行调参验证,支持DeepSeek系列模型运行。

   金山云的DeepSeek镜像服务适用于长文档分析、多轮对话、复杂代码项目理解等场景,针对长上下文场景优化,支持32K tokens窗口,并采用Positional Interpolation技术降低长文本推理复杂度。此次开放的云服务器镜像包括1.5B、32B两种尺寸模型,其余尺寸模型镜像将陆续更新。金山云国资云/政务云平台已上架DeepSeek-R1和DeepSeek-V3模型,通过集成金山云自研的内容安全服务,实现模型安全增强与企业级高可用保障。

   金山云国资云/政务云平台支持vLLM、LMDeploy、TensorRT-LLM、SGLang等主流推理框架,提供高度灵活的开发环境。金山云的人工智能技术已被多个央国企采纳,显著提升数据处理效率。金山云依托国资云/政务云平台,构建丰富的模型资源,提供一站式AI服务,助力客户在实际业务场景中深度优化模型性能。金山云将继续坚持技术立业,加速技术创新落地,携手生态企业积极拥抱时代机遇,助力行业数智化转型。

   免责

热门推荐
图文推荐
  • 苹果可能将iPad,Apple TV与HomePod合并,以
  • 三星的下一代Galaxy Z Fold折叠手机的屏幕可
  • 微信支付分怎么提高分数 分享微信支付分提高