京东云全面上线DeepSeek模型,专混模式数据不出域更安全

发布时间:2025-02-10 09:15 已有: 人阅读

  京东云已正式上线和DeepSeek-V3模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。

   其中,专混私有化算力实例部署模式,已经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。

   以DeepSeek R1版本为例,具体的使用步骤如下:

   1、进入算力管理页面,点击租用新实例按钮

   2、选择资源规格以及对应带有deepseek模型的镜像

   3、资源创建成功后进入实例,启动即可与之对话

   针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。

热门推荐
  • 微软推出Windows Terminal 1.0开源 微软推出Windows Terminal 1.0开源 Windows Terminal是一个开源的、基于选项卡UI风格的终端应用程序,最初发布于微软的Build 2019活动。所谓基于选项卡的UI,就是你可以在一个选项卡中打……[详细]
图文推荐
  • 苹果将??于本月晚些时候推出首款采用Mini-LE
  • iPad 2021,我们所知道的一切
  • 尽管Mini-LED面板供应受限,本月仍将推出新的