agentbase-docs

LLM Gateway

截图未公开:上游原图包含真实账号或资源标识。

项目访问模型能力的统一入口:管理 Provider 凭据、签发受限 Gateway Key、按模型路由请求并提供 OpenAI 兼容执行端点(Chat Completions、Embeddings、Rerank、Anthropic Messages 兼容)与模型目录。页面三个页签:Providers / Keys / Usage。

Provider(模型提供商连接)

项说明
可创建类型openai、anthropic、dashscope、theta
关键字段连接名(项目内唯一)、Base URL、API Key(加密存储、不回显)、默认模型、允许能力(chat / embedding / rerank / vlm)、各能力模型列表、超时(默认 120 秒)、重试次数、优先级(故障转移顺序)、默认连接标记
安全边界Provider 密钥不在读取接口回显;Provider 地址经 URL / DNS / 网络策略校验,禁止指向内部敏感地址
管理支持模型发现、逐模型健康检查、缓存刷新

Gateway Key(网关密钥)

模型路由与体验模型

项目级开关

项目 Settings → Services 中的 AI Gateway 开关控制 LLM Gateway 的客户端面:关闭后普通 Client API 调用被阻止,Server API Key 与平台内部任务仍按各自权限运行;切换不修改 Provider 或 Gateway Key 配置(见项目设置)。

请求默认值

Chat Completions、Anthropic Messages 与 Rerank 执行端点默认限流 60 请求/分钟;支持流式(SSE)、tools / tool_choice、响应格式等 OpenAI 兼容参数。