分享好友 最新动态首页 最新动态分类 切换频道
利用oenapi以openai_api的方式调用非openai系列模型的方法
2024-12-26 03:14

(请参考官方github readme)GitHub - songquanpeng/one-api: OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

利用oenapi以openai_api的方式调用非openai系列模型的方法

部署oneapi也可参考:一键接入大模型:One-Api本地安装配置实操_one-api 编号906的issue-CSDN博客

 

其中, 中的第一个  是宿主机的端口,可以根据需要进行修改。

数据和日志将会保存在宿主机的  目录,请确保该目录存在且具有写入权限,或者更改为合适的目录。

如果启动失败,请添加 ,具体参考 #482 。

如果上面的镜像无法拉取,可以尝试使用 GitHub 的 Docker 镜像,将上面的  替换为  即可。

如果你的并发量较大务必设置 ,详见下面环境变量一节。

更新命令

Nginx 的参考配置

 

之后使用 Let's Encrypt 的 certbot 配置 HTTPS

 

初始账号用户名为 ,密码为 。

浏览器打开

  • 默认  账号
     提供了开箱即用的功能,有一个默认的账号,密码是

第一次登录后需要修改密码。

配置渠道

这里在配置星火模型,可以配置任何oenapi支持的模型

  • 查看渠道列表

密钥这个地方需要注意格式:APPID|APISecret|APIKey

  • 申请令牌

点击复制就可以拿到密钥,随后就可以在我们项目中以  格式去请求我们的大模型接口

本文重点,本地python代码如下

 

 在model这块要注意,要填入渠道下模型的参数,不是上面的名称

body

最新文章
关键词排名点击一流zx78(关键词排名点击工具)
本文目录导读:zx78 的定义与重要性影响关键词排名的因素提升关键词排名的实战技巧案例分析在当今数字化的时代,自媒体的影响力日益凸显,而关键词排名点击一流则成为了众多自媒体作者追求的目标,我们就来深入探讨一下关键词排名点击一流
LLM | 一些开源的AI代码生成模型调研及总结【20240130更新】
本文主要介绍主流代码生成模型,总结了基于代码生成的开源大语言模型,按照时间顺序排列。 在了解代码大语言模型之前,需要了解代码相关子任务 代码生成文本生成代码(Text to code):根据自然语言描述生成代码重构代码&#x
微信公众号文章采集器,你的内容雷达
在这个信息爆炸的时代,如何快速捕获有价值的资讯成了每个人的刚需。今天,给大家安利一款神器——微信公众号文章采集器。它能自动从指定的微信公众号抓取最新发布的文章,帮你精准锁定目标,轻松收集所需内容!
AI智能写作开启高效创作新时代的利器与市场前景
随着科技的飞速发展,人工智能已经渗透到我们生活的方方面面。AI智能写作作为这一技术的前沿应用,正逐渐成为创作者、高校学生、企业文案以及各类文化工作者的重要助手。本文将深入探讨AI智能写作网站的现状、应用领域及其市场前景,帮助读
大模型是新的数据库!蚂蚁开源负责人王旭:应用开发新范式,新一代LAMP正在形成 | MEET 2025
  编辑部 整理自 凹非寺  量子位 | 公众号 QbitAI  大模型的开源与闭源之争至今仍是热议话题,毕竟讨论核心触及技术发展路径、产业生态构建,以及对未来创新动力的影响。  蚂蚁集团开源技术委员会副主席王旭立下断言:  在MEET大
什么是好域名?如何选择一个好域名?
淘宝的域名:taobao.com从后缀来看,.com是最早的域名后缀,大众最为熟悉和认可,因此.com域名总是建站首选,因为它在互联网最流行,早已深入人心。从前缀来看,“taobao”是“淘宝”的汉语全拼,与品牌名字保持一致。京东的域名:jd.com京
《深圳网站排名优化攻略:揭秘提升网站排名的秘籍与策略》(深圳网站排名优化秘籍教你轻松提升网站流量)
:深圳网站排名优化:掌握这五大策略,让你的网站脱颖而出随着互联网的普及,越来越多的企业开始注重网站建设,希望通过网站展示自己的产品和服务。面对竞争激烈的市场,如何让自己的网站在搜索引擎中脱颖而出,成为许多企业关心的问题。本
使用搜索引擎可以帮助我们在互联网上快速找到所需的信息和资源
样本图:blog.csdn.net/FL1623863129/article/details/144487333文件放服务器下载,请务必到电脑端资源预览或者资源详情查看然后下载数据集格式:labelme格式(不包含mask文件,仅仅包含jpg图片和对应的json文件)图片数量(jpg文件个数):359
如何搜索负面信息内容?新闻负面舆情检索方法有哪些?
不管是负面信息内容还是新闻负面舆情信息的传播,都会给相关组织及单位带来不可预估的不利影响,因此,对于政企单位来说,为了能够了解和应对潜在的风险,也为了能有效地应对和管理这些负面信息,掌握一定的检索方法和技巧是必要的。所以,
GPT-o1答疑及发言纪要(附产业链图谱)
来源:雪球App,作者: 私-募2019,(https://xueqiu.com/1855261132/304874835)【模型技术基础解析】O1的思考原理概述:在响应用户之前,它可以产生一个很长的内部思维链(CoT)。大规模强化学习算法教会模型如何在数据高效的训练过程中
相关文章
推荐文章
发表评论
0评