外观
真实服务配置与在线验证
真实模式使用HTTP适配器,默认目标为OpenAI原生接口:文本使用Chat Completions工具协议,Embedding使用/embeddings,图片使用/images/generations返回base64,TTS使用/audio/speech返回WAV。接口兼容不是凭名称保证:其他厂商需要核对参数、结构化输出、工具协议与错误语义。
配置
在system/.env设置MODE=real及四组*_API_KEY、*_BASE_URL、*_MODEL。模板中的模型名是可配置示例,不代表你的账号一定可用,也不是最新模型承诺。图片适配目前要求b64_json,不会替模型下载任意URL。
| 配置 | 必要检查 |
|---|---|
| LLM | 支持tools、严格function schema与Chat Completions;本实现不依赖responses协议 |
| Embedding | 支持指定dimensions;返回向量长度与数量必须一致 |
| Image | 返回base64图片;size参数与模型兼容 |
| TTS | voice可用、接受中文input、支持WAV输出 |
| 费用 | 可填文本输入/输出每百万Token单价;缺少usage或价格则记unknown/null;图片/音频成本仍需对账 |
切换模式后重新执行初始化,导入当前Embedding namespace的示例资料:
bash
docker compose up --build -d --force-recreate init api worker
docker compose logs initdemo与real向量空间由namespace隔离;同名资料在不同namespace保留独立版本。不要把demo向量与真实向量混查。改变Embedding模型或维度后必须重新导入;目前没有后台全量重嵌入迁移器。
在线验收步骤
/health显示real;创建任务时scenario=normal。- 导入一份已知资料,检查namespace、向量维度、过滤条件与返回来源。
- 创建教材,核对真实model_call事件和provider id,不能仅看UI状态。
- 检查中文内容、英文/阿语本地化、来源真实性。先由具备语言和教学能力的人审核。
- 人工通过后检查真实图片、可听音频、视频音画和字幕;核对外部平台请求与费用。
- 测试一个真实失败,例如无效密钥。系统应失败并留下错误,不产生demo成功结果。
- 素材请求超时应为unknown;先查看外部账单和回执,再明确选择是否重试。
- 保存模式、模型、实际请求ID、输出、评审和费用证据;只有这些通过后才能写“在线验证通过”。
本次验证状态
没有用户提供的有效服务凭据,所以未执行线上LLM、Embedding、图片和TTS调用。交付包含完整适配代码、请求契约测试和上述步骤。契约测试核对路径、参数、工具往返、usage缺失、超时和错误分类;不能证明真实内容质量、账号权限、限流或账单。
必须知道的限制
- 文本节点有工具轮数和Schema修复上限,但没有精确Token预算器;长资料/大教材需要额外的上下文预算与截断策略。
- 检索当前没有最低相关性阈值,过滤后最接近不保证相关;真实使用应标注相关性金标准并调阈值。
- 场景质量由模型评审+有限业务规则+人工复核共同保证;独立上下文不能消除两个模型相同偏差。
- 不同供应商的查询/取消接口未统一实现;未知外部结果不能全自动消除重复计费风险。