发布时间:2025-02-10 09:15 已有: 人阅读
京东云已正式上线和DeepSeek-V3模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。 其中,专混私有化算力实例部署模式,已经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。 以DeepSeek R1版本为例,具体的使用步骤如下: 1、进入算力管理页面,点击租用新实例按钮 2、选择资源规格以及对应带有deepseek模型的镜像 3、资源创建成功后进入实例,启动即可与之对话 针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。 |