Docs
文档目录

统一 AI 网关

AI 网关为模型与工具请求提供统一入口,可按网关实例管理工具接入、策略与凭证。功能入口和可用配置以当前部署及账号权限为准。

AI 网关初始化页面(测试项目)

界面参考:测试项目尚未初始化 AI 网关。新项目需先选择向量模型;已初始化的项目重新启用时可不选择模型。

开始使用

  1. 在项目中打开 AI 网关。如果入口不可见,请先检查项目服务开关与当前账号权限。

  2. 按页面提示初始化服务并配置模型。调用前,检查所选模型供应商及其凭证可用。

  3. 按实际页面配置网关、工具和访问凭证。业务请求应使用当前网关显示的地址和已授权的凭证,不要直接照搬其他项目的示例 ID。

  4. 如需检查策略决策,可使用 OPA 策略预演;预演结果不等于线上请求已经执行了相同策略。发布后应结合真实请求和日志验证。

v2.12.0 限制:AI 网关的模型推理、逻辑模型与模型部署管理、模型发现以及标准模型管理接口不可用。模型调用请使用 模型(LLM Gateway)。

安全与缓存边界

常见问题

调用失败怎么办? 先核对请求地址、项目和网关是否匹配,再检查凭证权限、模型配置以及供应商返回的错误。不要把一个环境的配置或密钥直接用于另一环境。

如何选择向量模型? 新项目初始化前,应先在模型页面接入具备向量能力的模型,并确认它在当前环境可用。

相关文档