阿里云pai一键部署deepseek系列模型,ai能力再升级!-凯发app平台

   时间:2025-02-07 23:03 作者:江紫萱

阿里巴巴(中国)有限公司近日宣布了一项重要更新,其旗下的阿里云pai model gallery平台现已全面支持deepseek-v3、deepseek-r1以及所有经过蒸馏的小参数模型(deepseek-r1-distill)的一键部署功能。

model gallery作为阿里云pai人工智能平台的核心组件,一直致力于整合全球ai开源社区中的优质预训练模型。这一平台涵盖了llm、aigc、计算机视觉(cv)、自然语言处理(nlp)等多个领域,为用户提供了丰富的模型选择。

为了方便用户快速部署所需模型,阿里云pai提供了详细的操作步骤。用户首先需要登录pai控制台,并根据实际需求选择相应的地域。随后,在工作空间列表中选定目标工作空间,进入快速开始模块下的model gallery页面。

在model gallery的模型列表中,用户可以轻松找到并点击自己感兴趣的模型卡片,例如“deepseek-r1-distill-qwen-7b”。点击后,系统将跳转至该模型的详情页面,为用户提供更多关于模型的信息。

部署过程同样简便快捷。用户只需在模型详情页面右上角点击“部署”按钮,即可根据模型类型选择合适的部署方式。目前,deepseek-r1支持vllm加速部署,而deepseek-v3则支持vllm加速部署和web应用部署。对于deepseek-r1的蒸馏小模型,用户还可以选择使用阿里云pai自研的高性能推理框架bladellm和vllm进行加速部署。选定部署方式和资源后,系统将一键完成部署,并生成一个pai-eas服务。

部署成功后,用户可以在服务页面查看并获取调用的endpoint和token。为了更方便地使用推理服务,用户还可以点击“查看调用信息”链接,返回模型介绍页面查看详细的调用方式说明。这一功能极大地提升了用户的操作便捷性和模型应用效率。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
智快科技微信账号
itbear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群

网站地图