自部署gemini pro api

# 简介

Gemini pro 是谷歌最新推出的大模型,最近免费开放了api试用接口,提供了多个平台的sdk。目前在工作中多用于poe,现在每天会限制对答100次,基本上也是够用的,也偶尔会使用bard,但使用上比较麻烦,需要开vpn,如今Gemini pro api可以免费调用,产生了自部署的想法。

经过一番比较,选择了ChatGPT-Next-Web,最近该项目支持上了Gemini pro,项目完善度还是很不错的。

# 准备

  • 申请api密钥

https://makersuite.google.com/app/apikey

  • 一台电脑或者服务器

需要具备docker环境

  • 具备简单的linux命令知识

# 操作环境

  • 机器信息,可通过此链接查询:https://dash.lass.cc/

  • docker 版本信息:24.0.4

  • docker compose 版本信息:v2.19.1

# 部署步骤

# 克隆项目

1
git clone https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web.git

# 更新docker-compose.xml配置文件

由于官方的docker镜像更新并不是那么及时,我找到了一个同步更新的docker镜像版本,可以临时使用:https://hub.docker.com/r/unserialize/chatgpt-next-web-image ,最后配置文件如下

GOOGLE_API_KEY 是api的密钥

CODE 是chatgpt-next-web部署后的访问密码

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
version: "3.9"

services:
  chatgpt-next-web:
    container_name: chatgpt-next-web
    image: unserialize/chatgpt-next-web-image:latest
    ports:
      - 3000:3000
    environment:
      - GOOGLE_API_KEY=xxxxxxxxxxxxxxxxxx
      - CODE=password

# 运行

1
docker compose up -d

接下来便可以通过 http://ip:3000 使用,如果不出意外,部署成功后便可看如下图

# 使用注意事项

  • 如果部署时设置了CODE,在使用前则需要输入密码

  • 在设置下面选择使用Gemini pro模型

  • 所有设置以及对话存储在本地
Licensed under CC BY-NC-SA 4.0