核心导读与中文摘要
结合意图分类器与置信度分级,把简单抽取与格式转换交给 Flash 模型,仅将高复杂度推理路由给 Opus/Gemini 旗舰。
三层分级路由设计模板
在真实线上流量中,往往 70%–80% 的请求(改写、摘要、分类、简单 SQL、结构化抽取)并不需要动用最昂贵的旗舰模型。
推荐流量分配方案
- Tier 1(轻量高性价比 Flash,占比 ~75%):如
DeepSeek V4.1 Flash、GLM 5.3 Flash、Gemini 3.8 Flash,负责初筛、结构化解析与常规问答。 - Tier 2(旗舰主力,占比 ~20%):如
Claude Opus / Sonnet、Gemini 4、Qwen3.8 Max,处理多步骤规划、复杂代码生成与跨文件重构。 - Tier 3(高推理/兜底升级,占比 ~5%):当 Tier 1 输出校验失败或用户点“重新深度思考”时自动升级重试。
