Skip to content

实现成本、运营成本、模型成本与数据依赖 ​

产品方案可行,不等于方案能够长期运行。成本分析要回答三个问题:建设需要付出什么,运行一个单位任务需要付出什么,规模或故障变化时成本会怎样变化。数据依赖分析则回答:方案所需数据是否有权获得、能否持续保持可用,以及能否纠错和退出。

一、分析对象是完整任务,不是开发报价 ​

只估算开发工时,会漏掉上线后的监控、支持、审核、数据更新、供应商费用和退役工作。应先固定一个可验收任务,再划定从输入到结果的责任范围。

例如“自动分类工单”的边界可以是:

  1. 接收工单正文和附件元数据;
  2. 判断类别与优先级;
  3. 低置信度时进入人工队列;
  4. 写入分类结果和证据版本;
  5. 允许纠错、重放和删除;
  6. 监控延迟、错误和单位成本。

如果分析只覆盖第 2 步,得到的只是模型调用价格,不是产品任务成本。

二、五类成本 ​

1. 一次性实现成本 ​

包括需求澄清、交互与架构设计、开发、数据清理、评测集建设、安全评审、迁移、培训和首次发布。它们通常不随每次调用增加,但可能在大版本迁移时再次发生。

2. 固定运营成本 ​

包括最低基础设施、监控平台、值班、供应商最低承诺、合规复审、文档维护和固定支持能力。即使当月请求量为零,也可能发生。

3. 变量成本 ​

变量成本随业务单位增长。计费单位可能是请求、Token、存储量、带宽、任务、交易、人工分钟或活跃账号。必须先统一业务单位,才能比较方案。

text
月总成本 = 一次性成本摊销
         + 固定运营成本
         + 成功任务数 × 单位正常成本
         + 重试任务数 × 单位重试成本
         + 人工复核数 × 单位人工成本
         + 故障与补偿成本

4. 失败风险成本 ​

失败不仅产生一次重试。它还可能带来重复写入、错误通知、人工排查、服务补偿、数据修复和信任损失。风险成本可写为场景估算:

text
预期风险成本 = 事件发生概率 × 单次事件影响

概率和影响不确定时应给低、中、高区间,不制造精确结论。

5. 退出与退役成本 ​

包括数据导出、依赖方迁移、双轨运行、合同退出、历史记录保留、旧资源删除和用户通知。退出路径不存在时,低价方案也可能形成高锁定成本。

三、观察事实、推断与假设必须分开 ​

产品拆解通常看不到内部架构。可以确认的是公开价格、接口合同、可观察行为、响应时间和错误结果;不能从界面直接断言数据库、队列或模型实现。

证据类型可写内容不应写成事实的内容
官方文档计费单位、限制、数据处理声明未公开的内部成本
账单与日志本账号的调用量、重试、延迟所有客户的平均水平
控制测试固定输入下的结果与资源消耗生产高峰一定相同
架构推断可能需要异步队列或缓存产品必然使用某技术
场景假设预计请求量、人工时薪已发生的真实业务事实

成本表中的每个数字应带 来源、单位、时间范围、币种、是否含税、置信度。公开价格还应记录地区和访问日期。

四、建立可计算的成本驱动表 ​

先列能力,再列驱动因素,而不是先列云服务名称。

能力一次性工作固定成本变量驱动人工环节外部依赖失败影响
接收工单接口与权限网关监控请求数、附件量异常补录工单系统丢单、重复
自动分类提示或规则、评测模型监控输入输出量低置信复核模型服务错分
写回结果幂等与审计队列、存储写入数冲突处理工单 API重复更新
纠错重放后台与版本审计存储重放数审核数据版本历史污染

然后选择统一单位,例如“成功完成并写回的一张工单”。不能用“每次模型请求”代替,因为一次任务可能包含多次请求。

json
{
  "model_version": "ticket-cost-v1",
  "observed_on": "2026-07-17",
  "business_unit": "成功分类并写回的一张工单",
  "currency": "CNY",
  "assumptions": {
    "monthly_tasks": 100000,
    "retry_rate": 0.08,
    "human_review_rate": 0.15,
    "review_minutes": 2,
    "labor_cost_per_hour": 60
  },
  "evidence": {
    "request_volume": "过去三个月工单日志",
    "retry_rate": "固定评测集与压测",
    "labor_cost": "场景假设,需由财务确认"
  }
}

这个记录可复算,也能在假设变化后建立新版本。

五、AI 方案的模型成本 ​

AI 功能至少检查以下驱动:

  • 输入、输出和缓存输入的计费单位;
  • 系统提示、历史上下文、检索结果是否重复发送;
  • 工具调用、检索、嵌入、文件处理和安全检测;
  • 超时、限流、解析失败和低质量结果造成的重试;
  • 离线评测、线上抽检、红队测试和版本回归;
  • 低置信度、敏感类别和争议结果的人工复核;
  • 峰值并发下的延迟目标与降级路径;
  • 模型版本变化带来的重新评测与迁移。

模型单价下降,不必然让单位任务成本下降。如果上下文变长、重试增加或人工复核扩大,总成本仍可能上升。

六、数据依赖不是“有没有数据” ​

每个数据源都应完成依赖卡:

维度要回答的问题
权利与目的为什么可以收集、训练或推断?用途是否超出原目的?
来源与版本数据来自何处,何时生成,经过哪些转换?
质量缺失、重复、错标和冲突如何发现?
覆盖哪些语言、类别、地区或边缘情形不足?
时效更新频率是什么,过期后如何失效?
权限谁能读、改、导出和删除?是否最小权限?
纠错用户或运营如何纠正错误,历史结果是否重算?
保留与删除保存多久,副本、日志和索引如何同步删除?
退出更换供应商时能否导出、迁移和验证完整性?

ICO 的数据保护原则包含目的限制、数据最小化、准确性、存储限制、安全和问责。具体项目还需依据实际地区和法律完成法务判断;本文不能替代合规审查。

七、容量、SLO 与运营成本 ​

平均请求量不足以规划运行能力。至少记录正常量、峰值、增长率、突发模式和故障时的积压。GOV.UK 的性能测试指南要求先做容量规划,并逐步增加负载,记录系统在何种负载下、以何种方式失效。

运营合同可以包含:

  • 可用性与最大可接受积压;
  • P50、P95、P99 延迟;
  • 正确率或人工改判率;
  • 单位任务成本上限;
  • 超时后的降级方式;
  • 告警责任人和恢复时限;
  • 数据删除与纠错完成时限。

成本不能脱离服务目标单独优化。关闭必要监控会降低账单,却可能增加故障发现时间;减少人工复核会降低直接成本,却可能扩大高风险误判。

八、完整案例:AI 工单分类 ​

1. 输入与证据 ​

场景为每月 100,000 张工单。以下数字仅是教学场景数据,不代表任何供应商价格:

  • 历史日志:月任务量 100,000,峰值为平均值的 6 倍;
  • 控制测试:每个任务平均模型成本 0.012 元;
  • 压测:正常重试率 8%,每次重试模型成本相同;
  • 评测:15% 的任务进入人工复核;
  • 场景假设:每次复核 2 分钟,人工综合成本 60 元/小时;
  • 固定运行:监控、队列和审计存储合计 4,000 元/月;
  • 实现与迁移:120,000 元,按 12 个月摊销。

2. 基准计算 ​

text
模型正常成本 = 100,000 × 0.012 = 1,200 元
模型重试成本 = 100,000 × 8% × 0.012 = 96 元
人工复核成本 = 100,000 × 15% × 2/60 × 60 = 30,000 元
固定运营成本 = 4,000 元
实现摊销 = 120,000 / 12 = 10,000 元

月总成本 = 45,296 元
每成功任务成本 = 45,296 / 100,000 = 0.45296 元

结果显示人工复核是主要驱动,不能只优化模型单价。

3. 三种方案比较 ​

方案主要机制优势主要成本与风险适用条件
规则系统关键词与确定规则可解释、成本稳定长尾维护、覆盖有限类别稳定且规则明确
模型系统模型分类与人工复核长文本覆盖较好模型、评测、复核、漂移有持续评测和接管能力
人工流程全量人工分类个案判断灵活成本线性增长、延迟高低频或高风险任务

比较时应在同一完成标准下测量:必须成功写回、可纠错、满足延迟和风险边界。规则方案若把大量任务转给人工,也要计入人工成本。

4. 验证 ​

  1. 用最近四周数据回放,按类别、语言和附件类型分段;
  2. 逐步增加并发,记录延迟、限流、积压和恢复时间;
  3. 注入超时、错误响应和写回失败,验证幂等与重试上限;
  4. 抽检人工复核时间,避免用主观估计替代记录;
  5. 从账单、日志和工单系统核对同一时间窗的数量;
  6. 测试纠错、删除和供应商退出流程;
  7. 每次模型或数据版本变化后重跑固定评测集。

5. 失败分支 ​

若新类别上线后人工复核率从 15% 升至 30%,人工成本变为 60,000 元,月总成本增至 75,296 元。此时应先检查数据覆盖、置信阈值和新类别定义,而不是直接扩大预算。

若峰值导致重试率从 8% 升至 40%,还应检查退避、排队和降级;无限立即重试会把一次容量问题放大为成本与可用性问题。

若无法证明历史工单可用于当前目的,方案应停止进入生产数据阶段,先完成授权、最小化和保留策略,不能以模型效果替代数据合法性。

九、成本模型的维护规则 ​

  • 按月核对预测与实际,解释差异而非覆盖旧版本;
  • 将价格、流量、重试、人工和固定成本分别版本化;
  • 同时报告单位成本与任务质量,防止低质量“降本”;
  • 对低、中、高规模分别计算,不只给单一点;
  • 记录币种、税费、地区和生效日期;
  • 为下线、迁移和数据删除预留预算;
  • 重大假设变化时重新做方案比较。

AWS Well-Architected 成本优化资料强调成本归属、工作负载指标、不同使用量下的成本分析和定期复审。它提供的是分析原则,不代表某一具体系统的成本结论。

十、完成检查与练习 ​

完成一份成本与数据依赖分析,至少应能回答:

  • 业务计量单位是什么;
  • 哪些数字是事实,哪些是推断或场景假设;
  • 一次性、固定、变量、风险和退出成本是否齐全;
  • 三个规模档下的单位成本怎样变化;
  • 模型以外的评测、重试和人工成本是多少;
  • 每个数据源的权利、质量、覆盖、纠错和删除路径是什么;
  • 峰值、外部依赖失败和数据失效时如何降级;
  • 与规则系统、人工流程相比,何时仍应选择当前方案。

练习:选择一个 AI 或数据功能,用真实可获得证据建立低、中、高三个规模档的模型。输出成本驱动表、数据依赖卡、可复算假设、一个故障场景和三个替代方案。完成标准是另一位读者能用原始证据复算,并指出结论在哪个假设变化后失效。

来源 ​

从前端走向软件产品工程的长期路线图。