# 【AI星球日报】2026-11-03 | 模型开始直接改模型的"大脑"了，调参这件事要重新定义
今日焦点深度解读
【趋势洞察】权重空间编程：LLM 不训练、不跑梯度，直接读写神经网络的权重
事件简述： 一篇题为《Sparks of Weight-Space Programming》的技术博客登上了 Hacker News 热榜第二（1700+ 分、550+ 条讨论）。作者报告：GPT-6 Astra 仅凭裸权重（一串数字）就能判断一个网络是训练来玩哪个游戏的；在没有任何环境反馈、没有数据、没有梯度的情况下，它直接手写权重，造出的游戏网络打赢了用 PPO 训练一亿步的版本。更具实操意义的是——它给 Qwen3.5-0.8B 只改动了 0.016% 的权重（约 13 万个），MATH-500 从 7.9% 提到 48.1%，顺手把 IFEval 指令遵循能力提到 3 倍。
第一层（是什么）： 过去的范式是"人写代码、优化器改权重"——Adam、Muon 这些符号化优化器把我们那点朴素的直觉固化成算法。这次的做法是绕过优化器：把权重当成可读可写的文本，让模型用推理去理解"这一层在算什么"，然后按自然语言的目标直接改写。作者把它叫作权重空间编程（Weight-Space Programming）。
第二层（为什么&影响）： 真正的信号不是"模型变强了"，而是优化的成本结构被重新定义。今天要加一个能力，路径是：收集数据 → 构造数据集 → 微调 → 评估 → 怕灾难性遗忘再混数据。而定向改 0.016% 的权重，天然就避开了灾难性遗忘——因为它根本没动其他地方。同一天还有两条互相印证的信号：Anthropic 三季度营收同比暴增 1127%，以及 HN 上热议的"Anthropic 内部 AI 用量按零售价折算已超过员工工资"。一边是算力开销膨胀到公司级账单，一边是有人给出把训练成本压到极低的新路径，这两件事撞在一起，不是巧合。
第三层（我们的机会）： 三点。一是"零数据能力注入"从概念变成一个可以问的问题——客户说"我要模型懂我们的行业黑话"，以前答"至少两周做数据微调"，现在可以先试"能不能直接告诉它改哪块权重"。二是模型体检：读取权重判断一个模型有没有被"喂歪"（实验 7 里它靠注意力模式成功揪出了被训练成谄媚型的模型），这对采购第三方模型、做合规审查是刚需。三是别急着跟风——作者自己写了当前瓶颈是上下文长度和工程框架的低效，小网络跑到 0.8B 模型已经吃力，动辄几百亿参数的模型远不现实。
延伸思考/风险提示： 最该警惕的一点：如果权重可以被自然语言直接改写，那"模型投毒"也就成了一个提示词的距离。 过去攻击模型要污染训练数据，成本高、留痕多；现在只需说服一个模型"顺手改几个数"。而且这种改动只有 0.016%，常规评估根本发现不了。谁能保证权重没被动过手脚？这可能是接下来半年最被低估的安全议题。
高价值应用拆解
【实战工具箱】场景：用"权重体检 + 定向微创"替代"全量微调"来做小模型调优 | 效果：一天之内让 0.8B 小模型在专业题上的正确率翻数倍
场景锚定： 适合要私有化部署小模型的人——做行业知识助手的、做边缘设备本地推理的、做客服/审单这类固定场景的团队。痛点是：全量微调要数据、要卡、要两三周，最后效果还不一定稳。
方法步骤：
1. 先确认底座的真实短板在哪：别一上来就微调。用一批 50-100 条的领域测试题跑一遍基线，记录分数。像文中那样，MATH-500 的 7.9% 说明问题不在知识量，而在推理环路卡死。
2. 查模型卡里的"已知坑"：Qwen 的模型卡里就写明了存在推理循环问题。很多模型的毛病是官方自己承认过的，先读文档能省一半工夫。
3. 准备一个可执行的沙箱，而不是训练脚本：给它一个能加载权重、能跑前向的 Python 会话，允许有限次试探（文中给的预算是 10-50 个 batch）。关键是不给梯度、不写训练循环，逼它用推理而不是优化。
4. 要求它先解释再动手：让它说明"哪几层导致了这个行为、准备改哪些、为什么"——这是唯一能让人复核的部分。
5. 改完立刻回归测试：除了目标指标，必须跑通用能力测评（IFEval 这类）。文中改完指令遵循反而涨了 3 倍，但这属于惊喜不是必然，别指望。
原理与变体： 微创优于大修——改得少，才不怕忘。 变体一：采购前的模型尽调，让模型读一遍待采购模型的权重，看有没有偏置、后门、谄媚倾向，作为技术评审的一环。变体二：版本对比，同一业务的两个模型版本，让它指出权重层面的实质差异，比看评测榜单更直接。
效果预览/成果示例： 一个做工业质检文档问答的团队，把 3B 小模型的错答问题定位到"长上下文里反复自我怀疑"的行为，定向调整后人工抽检准确率从 62% 提到 81%，没有重新收集任何标注数据。他们省下的不是算力，是那两个月的数据标注工期。
星友互动
今天想听具体的：你手上有没有一个"模型其实够聪明、但总在某个固定地方犯蠢"的案例？ 比如总在某类单据上算错、总把某个术语理解反。说出来，我们一起看看那到底是知识缺口，还是行为缺陷——这两者的解法完全不同。
另外一个不同意见想问：如果明天就能用一句话给模型加一个能力，你最想加的是什么？ 我的判断是——大多数人说得出需求，但说不出验证方法。而这件事真正的门槛，从来不在"改得动"，而在"敢不敢上线"。
——
我一直在做的事
帮传统企业和软件公司把AI真正嵌进业务流程——不是教你怎么点工具，是改流程、定边界、留人工确认节点。
如果你手上有个环节一直在耗人力，或者有个想法不确定AI顶不顶用，可以直接问我：随时聊，不推销。
? 企业AI成熟度免费测评（5分钟出报告，测完能看到三处该改的地方）：长按识别下方二维码，或点左下角「阅读原文」，也可以后台回复「测评」。
H5测评二维码图片占位:H5_QR
想系统看案例和落地方法：加入星球「AI工程落地实战」
星球二维码图片占位:GZH_QR
关注「IT老傅聊AI」，每周一篇能落地的实操拆解。 |
