# 【AI星球日报】2026-10-26 | Token价格一年跌到43%，但通用大模型输给了一个十年前的小网络
今日焦点深度解读
【趋势洞察】两头挤压：通用大模型正在变成"水电煤"，而专业场景正在被小模型夺回去
事件简述： 昨日 Hacker News 两条高热度帖子指向同一个方向。一条是 Max Woolf 的复盘《OpenAI 和 Anthropic 几个月内把 LLM 价格砍了最多 80%，为什么？》（80分/102评论），数据显示按 Vercel AI 网关口径，模型单 token 成本已跌到 2026 年 4 月的 43.3%。另一条是英国皮肤科医生 Magnus Lynch 的实验（387分/184评论）：一个 2015 年的 Inception v3 小网络、微调不到 20 分钟，在 200 例活检确诊的皮肤病变上诊断正确率 62%，而 GPT-6 Astra 和 Claude Fable 5.1 都只有 42%。
第一层（是什么）： 两条新闻其实是同一件事的两面——模型层的护城河正在被抽干。价格侧：从 6 月到现在，GPT-5.6 Sol 的 5/30 美元降到 GPT-6.1 Sol 的 2/10（缓存读再砍半），Opus 5 的 5/25 降到 Opus 5.5 的 4/20；关键不只是单价，而是缓存读取价从"输入的 10%"降到"输入的 5%"，这对 Agent 编程意味着总成本降 70% 以上。原因很直白：OpenRouter 上 Kimi K3 有 20 多家供应商，DeepSeek V4.1 Flash 有 29 家，切换模型只是一个字符串的事。质量侧：Lynch 的实验把"通用能力"和"专业判断"的差距摆到台面上——而且注意，LLM 的错误方向更危险，它把黑色素瘤说成"脂溢性角化，可以出院"。
第二层（为什么&影响）：
- 应用层迎来真正的红利期：token 成本降到一年前的四成、还在往下走，过去"用不起"的批量场景——全量客服记录质检、合同逐条审查、每天几千条短视频素材分析——现在算得过账了。
- "通用大模型包打天下"的叙事在崩：皮肤科这个案例的含金量在于对比条件很公平（同样两张图、同样六选一），结论却是小模型赢 20 个百分点。原因也不玄：CNN 见过几十万张标注病变图，前沿 LLM 见过的是全世界网页。垂直领域的胜负手是数据，不是参数量。
- 成本下降会改变你客户的行为：作者自己的例子很典型——模型便宜 75% 后，他把订阅配额砍到原来的 1/5，总支出基本不变。别指望客户因为降价而多付钱，他们会要求同样的钱办更多事。
第三层（我们的机会）：
- 重新盘一遍你搁置的场景清单：凡是当初因为"token 太贵"被否掉的方案（尤其是长文档、大批量、多轮 Agent 类），按现在的价格重算一遍 ROI，很可能翻案。
- 做大模型 + 小模型的分工设计：通用理解、意图拆解、报告撰写交给 LLM；有明确类别、有历史标注数据的判断环节（质检、分类、异常识别），训一个小模型或微调一个开源视觉模型，更准也更便宜。
- 把"缓存命中率"当工程指标管：Agent 编程里缓存读占总 token 支出的 96%-99%，提示词结构、上下文顺序、会话复用方式，直接决定你的账单是 100 还是 30。
延伸思考/风险提示： 价格战的另一面是——两家头部公司都在冲刺 IPO（传 Anthropic 就是几周内），靠融资支撑的低价能维持多久？更现实的信号是 OpenAI 在降价同期把 200 美元档的用量配额砍了一半。降单价、砍配额，本质是重定价。建议把所有关键业务的模型成本做成可切换的抽象层，别把任何一家写死进架构。
高价值应用拆解
【实战工具箱】场景：给"有历史数据"的垂直判断做一套小模型 | 效果：比通用大模型准 20 个百分点，成本降到零头
场景锚定： 面向制造业质检、电商图文审核、医疗/保险单据判读、客服对话打标等场景的团队——你手上有几百到几万条历史标注结果，但一直在用通用大模型硬做。判断标准很简单：如果这个任务最后是"从固定的 N 个类别里选一个"，就适合走这条路。
方法步骤：
1. 先做一次"人能看懂"的基线对比：从历史数据里随机抽 100-200 条，做成表格，同时让通用大模型和你的老系统/人工各跑一遍，算出正确率。Lynch 的实验之所以有说服力，就是因为 200 条全是活检确诊、且刻意挑了"连良性都切了"的难例。你的测试集也应该专挑难例。
2. 检查类别边界是否清晰：把所有错例摊开，看错误集中在哪两类之间。如果两类本身就分不清（比如"良性痣"和"早期黑色素瘤"），先改业务规则或引入第二视图（Lynch 的 CNN 是靠皮肤镜视图赢的），别指望换模型解决。
3. 选型：先跑微调，别急着上大模型。用开源视觉/文本底座（ResNet/Inception 一代的现代替代、或小参数量的中文基座），拿你的历史标注做微调，几十条到几千条就能起步。先跑通再谈架构——Lynch 的对比模型只是微调了 20 分钟。
4. 阈值必须单独调：这一步最容易被忽略。CNN 在默认阈值下"能出院的漏放率"很差（30 例黑色素瘤里漏了 18 例），但把阈值调到和 LLM 同一安全水平后，漏放降到 2-1 例，同时仍能安全出院 76% 的良性样本——远高于 LLM 的 22%-32%。同一个模型，阈值决定它是好工具还是定时炸弹。
5. 上线初期双轨运行：小模型出结论，大模型只处理"低置信度"的少数样本（一般 10%-20%），既控风险又省成本。
原理与变体： 原理是任务特化 > 通用能力：固定类别、有标注、有稳定输入格式的任务，本质是一个"高维查表"问题，小模型用领域数据训过的分布，比大模型的世界知识更贴合。变体一：没有视觉数据、只有文本的，把步骤 1-5 换成小参数量模型微调（LoRA），逻辑完全一致。变体二：连标注都没有的，先用大模型批量打标 + 人工抽检 200 条校验，再用这批标签训小模型，这叫"教师蒸馏助手"路线。
效果预览： 一个原本每次调用要付钱、结果还不稳定的判断环节，变成一次训练、长期零边际成本的本地能力；准确率上去了，账也算得清了。这就是"用AI重造业务"里最实在的那一层。
星友互动
互动钩子： 翻一下你手上正在用 AI 做的业务，有哪一个是"从固定几类里选一个"的判断？你有没有把历史标注数据攒起来、试过训个自己的小模型？还是觉得"通用大模型够用了"就一直没动？欢迎在评论区说说你的场景和顾虑——特别是那些"试过但没成"的，失败原因往往比成功经验更有价值。
我一直在做的事
帮传统企业和软件公司把AI真正嵌进业务流程——不是教你怎么点工具，是改流程、定边界、留人工确认节点。
如果你手上有个环节一直在耗人力，或者有个想法不确定AI顶不顶用，可以直接问我：随时聊，不推销。
? 企业AI成熟度免费测评（5分钟出报告，测完能看到三处该改的地方）：长按识别下方二维码，或点左下角「阅读原文」，也可以后台回复「测评」。
H5测评二维码图片占位:H5_QR
想系统看案例和落地方法：加入星球「AI工程落地实战」
星球二维码图片占位:GZH_QR
关注「IT老傅聊AI」，每周一篇能落地的实操拆解。 |
