按任务复杂度分层
复杂研究设计、长链条推理和高风险代码审查可优先使用旗舰模型;常规文献解释、写作和数据整理使用均衡模型;分类、格式转换和批量简单任务使用经济模型。不要让高价模型承担所有机械工作。
比较模型时看什么
用同一份输入和评价标准比较事实准确性、指令遵循、引用可核验性、代码可运行性和输出稳定性。跨公司的“总分排行榜”往往掩盖任务差异,应更重视自己的真实样本。
- 先用 3–5 个代表任务做小测
- 记录输入、输出、缓存和实际成本
- 高风险结果进行第二模型或人工复核
成本不只由模型单价决定
总成本还受上下文长度、输出长度、工具调用次数和缓存命中影响。对长项目先整理材料、减少重复上下文,并把简单子任务交给经济模型,通常比只比较每百万 token 单价更有效。