本次安装使用Docker的方式,在linux服务器上执行,尽可能的简化操作流程。其他操作流程暂未实践过。仅作为记录使用。
创建FastGPT文件并拉取docker-compose.yml和config.json两个文件。这里需要注意,下载下来的docker-compose文件里mongo,pg两个数据库有两个镜像源,当下载的特别慢的时候,可以更换阿里云的。下载的文件里面有写,注意查看。
docker-compose中提到的几个端口没有被占用的情况下,只需要修改docker-compose中的OPENAI_BASE_URL和CHAT_API_KEY就行。因为我本地也部署了one-api服务,所以这两个值,填写one-api上的即可。
下面这两步很重要,如果不和文档上的一样,有可能会执行不了,我部署了两遍才能够正常执行。
FastGPT 4.6.8 后使用了 MongoDB 的事务,需要运行在副本集上。副本集没法自动化初始化,需手动操作。这是原文档中的描述,执行这个的前提是docker ps 查看mongo是否已经运行,如果没有运行执行下面的操作也是不起作用。
现在就可以通过本地ip:3000来访问了。用户名和密码都在docker-compose文件中。
oneapi的部署比较简单,只需要执行这个docker命令就可以。
这里解释一下代码!
因为前面我们已经在docker中部署了fastgpt了,用的是‘3000’端口!你往后部署任何的docker镜像,要注意端口不能重复的,否则会占用报错!
所以这里one api,我们用的是‘13000’端口!这样就不冲突了!
运行后就可以登录了,使用本地ip:13000就可以进入了,帐号:root,密码:123456,登录系统会让你修改密码,需要自行修改。
这里可以使用gpu和cpu两种方式,gpu的能够快一点,cpu也能够运行。
这个就是chatglm3的模型操作,通过github下载chatglm3的源码。
执行下面命令将程序运行