[RFC] 066 - Vertex AI #4488
arvinxx
started this conversation in
RFC | 特性开发
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
背景
Vertex AI 是 Google 的企业级 AI 服务,目前的呼声较高,因此做一下接入,这里做个记录。
设计思路
Vertex AI 的使用场景更偏向企业级,因此暂时考虑不提供前端的 UI 配置,只运行后端配置环境变量后使用。
同时 Vertex AI 的鉴权方式和 OpenAI 系列的有较大差别,需要通过一个 JSON 的秘钥来完成。由于在 Vercel 这样的平台中并不支持直接将 env 指定到文件,因此考虑提供两个环境变量分别支持。
VERTEXAI_CREDENTIALS
: 用在 Vercel 上,直接复制粘贴 env 字符串;VERTEXAI_CREDENTIALS_PATH
: 添加秘钥路径,适合 Docker 部署;Beta Was this translation helpful? Give feedback.
All reactions