统一 AI 网关
AI 网关为模型与工具请求提供统一入口,可按网关实例管理工具接入、策略与凭证。功能入口和可用配置以当前部署及账号权限为准。
界面参考:测试项目尚未初始化 AI 网关。新项目需先选择向量模型;已初始化的项目重新启用时可不选择模型。
开始使用
在项目中打开 AI 网关。如果入口不可见,请先检查项目服务开关与当前账号权限。
按页面提示初始化服务并配置模型。调用前,检查所选模型供应商及其凭证可用。
按实际页面配置网关、工具和访问凭证。业务请求应使用当前网关显示的地址和已授权的凭证,不要直接照搬其他项目的示例 ID。
如需检查策略决策,可使用 OPA 策略预演;预演结果不等于线上请求已经执行了相同策略。发布后应结合真实请求和日志验证。
v2.12.0 限制:AI 网关的模型推理、逻辑模型与模型部署管理、模型发现以及标准模型管理接口不可用。模型调用请使用 模型(LLM Gateway)。
安全与缓存边界
当前版本不能保证对模型输入、输出或工具结果自动脱敏,也不能保证统一阻断提示注入。请在发送和上报前处理敏感信息,并按业务需要另行验证防护措施。
当前版本不提供语义响应缓存。不要依赖相似度阈值、缓存旁路请求头或清除操作来改变响应。
密钥仅在安全的位置保存;截图、示例和日志中不得包含真实密钥。
常见问题
调用失败怎么办? 先核对请求地址、项目和网关是否匹配,再检查凭证权限、模型配置以及供应商返回的错误。不要把一个环境的配置或密钥直接用于另一环境。
如何选择向量模型? 新项目初始化前,应先在模型页面接入具备向量能力的模型,并确认它在当前环境可用。
相关文档
API 文档中的 AI 网关接口
