部署谷歌的Gemini大模型

2023-12-25 21:44:32

前言

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型,以及没有服务器的情况下如何使用Vercel来部署。

Demo:

使用新加坡云服务器部署:Gemini Pro Chat (snowice.eu.org)

使用Vercel部署:Gemini Pro Chat (snowice.eu.org)

作者项目地址babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)

部署

获取API

Docker部署

如果你还没有安装Docker,Centos7安装Docker和Docker-Compose

本教程使用的是新加坡的云服务器,如果你使用国内的可能需要代理!

docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest

***改为你获取到的API

还可以设置别的环境变量,例如设置网站密码为'123'

docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest

环境名描述是否必填
GEMINI_API_KEY您的 GEMINI 的 API 密钥。你可以从这里得到它。
API_BASE_URLGEMINI API 的自定义基础 URL。点击此处查看如何使用。
HEAD_SCRIPTS在页面的 </head> 标签之前注入分析或其他脚本。
PUBLIC_SECRET_KEY项目的秘密字符串。用于生成 API 调用的签名。
SITE_PASSWORD为站点设置密码,支持多个用逗号分隔的密码。如果未设置,站点将是公共的。

Docker-Compose部署

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中,同样的将***换成获取到的API,同样的也可以设置别的环境变量

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
    image: babaohuang/geminiprochat:latest

设置网站密码为'123'

version: '3'

services:
  geminiprochat:
    container_name: geminiprochat
    restart: always
    ports:
      - "3000:3000"
    environment:
      - GEMINI_API_KEY=***
      - SITE_PASSWORD=123
    image: babaohuang/geminiprochat:latest

以“后台模式”运行服务

docker-compose up -d

更新服务

首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令)

docker-compose down

重新拉取镜像

docker-compose pull

再次运行即可

docker-compose up -d

Vervel部署

Vercel点击一键部署,当然你也可以fork该项目自行使用Vervel部署

[t-primary icon='']点击Create[/t-primary]

输入你的API 点击Deploy

稍等片刻 部署成功

部署成功之后Vervel会送你一个域名可以访问该项目,但是该域名被墙了,因此需要自行添加域名。

在Vercel上配置自定义域名

文章来源:https://blog.csdn.net/weixin_67658096/article/details/135208165
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。