
京东云已正经上线 DeepSeek-R1和 DeepSeek-V3模子足球投注入口,因循公有云在线部署、专混特有化实例部署两种花样,供用户按需部署,快速调用。
花样一:公有云在线部署
建立者和企业不错在京东云官网,插足言犀AI建立盘算平台的“AI金钱商场“中,采选该模子进行一键部署。
言犀AI建立盘算平台一经因循 DeepSeek-V3、DeepSeek-R1 以及整个蒸馏小参数模子(DeepSeek-R1-Distill)的一键部署,具体步调如下:
1、聘请基础模子
在“AI金钱商场/模子” 中,提供DeepSeek开源的多个版块,如DeepSeek-R1-Distill-Qwen-1.5B,点击插足卡片页可了解模子结构和预练习数据等要道信息,并检察模子文献结构。
2、准备资源节点
在部署时,LLM模子因为模子较大,资源性能条目较高,需要独占盘算卡进行部署,提议提前准备好专属资源节点。
功能旅途:专属资源组-创建资源组-创建节点。
节点规格:部署DeepSeek-R1-Distill,推选使用 cap.p.n3a30.4xlarge;部署DeepSeek-V3,推选使用 cap.hc.p5h20.46xlarge
3、模子部署使用
将模子部署到相应的奇迹资源上提供推理调用奇迹,在部署时平台将自动适配预置推理框架,杀青一键部署,仅需指定使用的专属资源组和对应的节点规格。部署完成后,景色将会变为运转中,运转中的模子可被调用,提供推理奇迹。
功能旅途:专属资源组-创建资源组-创建节点在线奇迹-部署;在线奇迹-奇迹列表 | 奇迹称号-在线调试
花样二:专混花样数据不出域,特有化算力实例部署
专混特有化算力实例部署花样,一经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的特有化模子推理奇迹。
以DeepSeek R1版块为例,具体的使用步调如下:
1、插足算力惩处页面,点击租用新实例按钮
2、聘请资源规格以及对应带有deepseek模子的镜像
3、资源创建得手后插足实例,启动即可与之对话
京东云言犀AI建立盘算平台还因循特有化部署及API快速集成,通过自研高性能资源惩处与弹性转机系统,可提供大模子的全生命周期奇迹及部署,涵盖模子建立、推理及多场景应用膨胀。
针对资源紧缺的场景足球投注入口,京东云因循通过蒸馏工夫练习企业我方的大模子,减少模子部署所需资源的同期具备较好的性能。使用京东云vGPU AI算力平台,不错将多个蒸馏过的企业自有模子部署在统一张卡上,灵验普及资源诈骗率70%。
