部署谷歌的Gemini大模型
2023-12-25 21:44:32
前言
本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型,以及没有服务器的情况下如何使用Vercel来部署。
Demo:
使用新加坡云服务器部署:Gemini Pro Chat (snowice.eu.org)
使用Vercel部署:Gemini Pro Chat (snowice.eu.org)
作者项目地址babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)
部署
获取API
Docker部署
如果你还没有安装Docker,Centos7安装Docker和Docker-Compose
本教程使用的是新加坡的云服务器,如果你使用国内的可能需要代理!
docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest
***
改为你获取到的API
还可以设置别的环境变量,例如设置网站密码为'123'
docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest
环境名 | 描述 | 是否必填 |
GEMINI_API_KEY | 您的 GEMINI 的 API 密钥。你可以从这里得到它。 | 是 |
API_BASE_URL | GEMINI API 的自定义基础 URL。点击此处查看如何使用。 | 否 |
HEAD_SCRIPTS | 在页面的 </head> 标签之前注入分析或其他脚本。 | 否 |
PUBLIC_SECRET_KEY | 项目的秘密字符串。用于生成 API 调用的签名。 | 否 |
SITE_PASSWORD | 为站点设置密码,支持多个用逗号分隔的密码。如果未设置,站点将是公共的。 | 否 |
Docker-Compose部署
首先创建docker-compose.yml
vim docker-compose.yml
将以下内容粘贴到yml文件中,同样的将***换成获取到的API,同样的也可以设置别的环境变量
version: '3'
services:
geminiprochat:
container_name: geminiprochat
restart: always
ports:
- "3000:3000"
environment:
- GEMINI_API_KEY=***
image: babaohuang/geminiprochat:latest
设置网站密码为'123'
version: '3'
services:
geminiprochat:
container_name: geminiprochat
restart: always
ports:
- "3000:3000"
environment:
- GEMINI_API_KEY=***
- SITE_PASSWORD=123
image: babaohuang/geminiprochat:latest
以“后台模式”运行服务
docker-compose up -d
更新服务
首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令)
docker-compose down
重新拉取镜像
docker-compose pull
再次运行即可
docker-compose up -d
Vervel部署
Vercel点击一键部署,当然你也可以fork该项目自行使用Vervel部署
[t-primary icon='']点击Create
[/t-primary]
输入你的API 点击Deploy
稍等片刻 部署成功
部署成功之后Vervel会送你一个域名可以访问该项目,但是该域名被墙了,因此需要自行添加域名。
文章来源:https://blog.csdn.net/weixin_67658096/article/details/135208165
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!