使用场景
大模型API提供了接口以便用户更好地进行DeepSeek管理和应用开发。用户在开通天翼云DeepSeek云主机后,利用Open WebUI API即可实现对外提供API调用,同时也可以非常方便的实现外部大模型API接入使用。
本教程使用的GPU云主机规格如下所示,用于部署DeepSeek-r1:7b模型,配置仅供参考。
cpu 16核
内存 64G
GPU: NVIDIA A10*1 (24GB)
如需体验其它模型版本,请参考在天翼云使用Ollama运行 DeepSeek的最佳实践-7b版-弹性云主机-最佳实践-AIGC实践 - 天翼云--自定义部署DeepSeek--步骤二:规格选型,选择合适的云主机。
准备
参考在天翼云使用Ollama运行 DeepSeek的最佳实践-7b版-弹性云主机-最佳实践-AIGC实践 - 天翼云--快速体验DeepSeek,准备相关设备及模型资源。
认证
OpenWebUI 使用Bearer Token认证保证客户端请求的合法性,其Token为APIKEY中JWT令牌(Json Web Token)。获取API key方式如下:
1.登录Open WebUI。
2.选择设置->账户,选择获取或者新建API KEY。
API接口
1.列举模型
URL:GET /api/models
描述:列出可用的模型列表,并提供相关模型的基本信息。
例子:
curl -H "Authorization: Bearer API_KEY" http://公网IP:3000/api/models
2.对话补全
URL:POST /api/chat/completions
描述:根据输入的上下文,来让模型补全对话内容。
例子:
curl -L -X POST 'http://公网IP:3000/api/chat/completions' \
-H 'Content-Type:application/json' \
-H 'Accept:application/json' \
-H 'Authorization:BearerAPI_KEY' \
-d '{
"model":"deepseek-r1:7b",
"messages": [
{
"content":"用英语翻译一下你好",
"role":"user"
}
],
"stream":false
}'
使用外部大模型
Open WebUI通过云主机方式部署完自己的DeepSeek后,可以直接嵌入使用外部大模型,嵌入后可以通过WEB、API进行模型使用。配置方式如下:
1.登录Open WebUI。
2.选择管理员面板->设置->外部连接。
3.选择OpenAI API开启,点击管理OpenAI API连接,新增外部大模型连接,输入外部模型的URL和API KEY。
- 点击保存。
- 查看对话新增的大模型,其中DeepSeek-chat和DeepSeek-reasoner为DeepSeek官网新增模型。
使用天翼云息壤一体化智算服务平台
准备工作
使用天翼云息壤提供的大模型不仅需要提供API KEY,还需要提供对应的模型ID。其获取方式如下:
1.登录天翼云官网,选择息壤一体化智算服务平台->一站式智算服务平台->服务接入->创建服务组->DeepSeek-R1-昇腾版,点击提交。
2.选择测试服务,获App key作为API KEY。选择查看详情->了解更多。
3.选择API文档,获取模型ID和终端地址。
Open WebUI接入
1.登录Open WebUI并选择管理员面板->设置->外部连接。
2.选择OpenAI API开启,点击管理OpenAI API连接,新增息壤大模型终端地址、API KEY和模型ID。终端地址需要增加V1版本。
3.点击保存。
4.点击模型,修改模型ID为易理解的模型。
5.查看对话新增的大模型,其中息壤-DeepSeek-R1-昇腾版为新增模型。
注意请妥善保管您的API KEY,不要在公共场合泄露。