(请参考官方github readme)GitHub - songquanpeng/one-api: OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
部署oneapi也可参考:一键接入大模型:One-Api本地安装配置实操_one-api 编号906的issue-CSDN博客
其中, 中的第一个 是宿主机的端口,可以根据需要进行修改。
数据和日志将会保存在宿主机的 目录,请确保该目录存在且具有写入权限,或者更改为合适的目录。
如果启动失败,请添加 ,具体参考 #482 。
如果上面的镜像无法拉取,可以尝试使用 GitHub 的 Docker 镜像,将上面的 替换为 即可。
如果你的并发量较大,务必设置 ,详见下面环境变量一节。
更新命令:
Nginx 的参考配置:
之后使用 Let's Encrypt 的 certbot 配置 HTTPS:
初始账号用户名为 ,密码为 。
浏览器打开
-
默认 账号
提供了开箱即用的功能,有一个默认的账号,密码是
第一次登录后需要修改密码。
配置渠道
这里在配置星火模型,可以配置任何oenapi支持的模型
-
查看渠道列表
密钥这个地方需要注意格式:APPID|APISecret|APIKey
-
申请令牌
点击复制就可以拿到密钥,随后就可以在我们项目中以 格式去请求我们的大模型接口
本文重点,本地python代码如下:
在model这块要注意,要填入渠道下模型的参数,不是上面的名称
body: