前置步骤
进入创建云主机启动模版页面
a.点击天翼云门户首页的“控制中心”,输入登录的用户名和密码,进入控制中心页面。
b.单击“产品服务列表>弹性云主机”,进入计算控制台,单机“云主机启动模版”,进入启动模版列表页。
c.单击“创建启动模版”,进入云主机实例模版创建页。
大模型服务器启动模版配置
a.根据业务需求配置“计费模式”、“地域”、“可用区”、“企业项目”、“虚拟私有云”等。
b.选择规格。此处选择"CPU架构"为"X86"、"分类"为"GPU型"、"规格族"为"GPU计算加速型pi7"、"规格"为"pi7.4xlarge.4"。
c.选择镜像。“镜像类型”选择“镜像市场”,在云镜像市场中选择预置了DeepSeek R1模型的DeepSeek-R1-7B-Ubuntu22.04镜像。
注意本镜像推荐配置:内存≥8G、显存≥16G。
注意目前提供了预装多种量化精度、多种参数量的模型,如您有需求,也可在云镜像市场中进行选择。
d.设置云盘类型和大小。
e.根据需要设置网络,包括"网卡"、"安全组",同时配备 "弹性IP" 用于下载和访问模型;设置高级配置,包括"登录方式"、"云主机组"、"用户数据"。
f.填写此模版名称,创建启动模版。
启动模版使用
a.单击左侧导航栏“产品服务列表”,选择“计算 >弹性云主机 > 云主机启动模版”,进入云主机启动模版控制列表页。
b.找到想要使用的云主机启动模版,点击操作中“创建云主机”。
c.在创建云主机页面将默认选中该条云主机启动模版。创建云主机需要的参数按照模版中内容已默认填写。