核心直觉
它不是“灵感机器”,而是“淘汰机器”
AI 可以提出很多猜想,但猜想没有特权。最终留下什么,由事先约定的检验决定。
01
允许大胆猜
换方法、换顺序、删步骤都可以。猜想负责扩大可能性。
02
强制真实试
不能靠“我觉得更好”。必须执行一次,留下可观察结果。
03
失败不累积
差的版本撤销;好的版本才成为下一轮的起点。
AutoResearch = 有记忆的试错 + 有标准的淘汰
拆开机器
原版 AutoResearch 其实只有一个“小实验室”
外部的编程 Agent 像实验员。仓库则把考场、可改对象、规则、撤销和日志准备好。
KARPATHY / AUTORESEARCH · 实验室剖面
固定区 · 不准动
同一个考场
prepare.py
实验区 · 可以改
一份候选方案
train.py
实验员Claude Code / Codex 阅读规则并动手
实验守则program.md 规定每一步怎么做
记忆与撤销Git 保存胜者,结果表保留失败经验
为什么必须锁住考场
尺子变化,成绩就失去意义
如果这次考10道题、下次考2道题,即使分数更高,也不能证明方法进步。
为什么只给 5 分钟
比较的是“同样预算下谁更好”
方案越复杂,单位时间能完成的工作可能越少。固定时间会迫使系统同时考虑质量与效率。
循环怎样跑
点击五个步骤,看一轮实验如何闭合
闭环比“聪明”更重要。只要有一步断掉,系统就会退化成空想或无效忙碌。
点按任一步骤查看它真正解决的问题
定基准:如果不知道旧方法通常表现如何,就无法判断新方法是否真的改善。基准是实验的“零刻度”。
用一个生活化的演示看“保留/撤销”
保留:指标变好,而且没有触碰护栏。
翻译到生活
代码世界的零件,可以逐一翻译
你不需要写代码。你需要在自己的场景里找到“固定考场、可改方案、评分尺、撤销键”。
原始实现
电脑实验室
prepare.py 锁定考场,train.py 是候选方案,Git 决定保留或回退。
→
迁移后的本质
你的现实实验
锁定时间和任务,只改变一种做法,用同一指标比较,并保存上一版。
prepare.py → 固定条件同类任务、相近时段、相同周期和评分方式
train.py → 可改方法会议模板、写作流程、学习节奏、任务排序
val_bpb → 结果指标完成时间、错误数、返工率、真正完成量
Git → 撤销能力保留旧模板、旧流程和旧设置,随时恢复
results.tsv → 实验日志记录改了什么、结果怎样、保留还是放弃
program.md → 实验规则一次只改什么、跑多久、什么情况立即停止
设计你自己的实验
选择一个场景,自动生成“生活版 AutoResearch”
下面不是替你做决定,而是把问题改写成可检验的小循环。先使用预设,再逐渐换成你的真实数据。
写作实验:先写结论,再补论据
目标在不降低质量的前提下,缩短一篇文章从动笔到可发布的时间。
固定考场同类篇幅、相近难度;都使用同一个完成标准。
本轮只改写作顺序:先写一句结论和三个论据,再扩写正文。
主指标从开始到“可交给别人阅读”的总分钟数。
质量护栏24小时后重读时,关键事实错误为0;不为提速牺牲准确性。
保留规则7 天后,时间有稳定下降且护栏未触发,才保留。
适用性检查
不是所有问题都适合 AutoResearch
勾选右边条件。越满足,越适合做小步自动迭代;缺少“可逆”和“反馈”,就该换成慎重决策。
防止跑偏
最危险的不是失败,而是“分数变好、现实变坏”
任何指标都只是现实的一小块。AutoResearch 会非常勤奋地优化你给它的尺子,哪怕尺子选错了。
容易走偏
把“可量化”误当成“真正重要”
- 只追求邮件回复速度,结果回复敷衍
- 只追求阅读页数,结果没有理解
- 只追求会议变短,结果会后反复返工
正确护栏
主指标之外,再放一条不可牺牲线
- 速度提高,但错误数不能上升
- 产出增加,但睡眠不能下降
- 流程简化,但客户投诉不能增加
可接受的改进 = 主指标变好 + 护栏没有变坏
一次改太多
即使成功,也不知道该保留哪一项。下一轮无法积累知识。
样本太少
一次偶然顺利不等于方法有效。至少观察多个同类任务。
只看短期
短期提速可能透支未来。涉及健康、金钱、关系时尤其谨慎。
哪些事情不应该直接用这种方法自动迭代?
不可逆或高风险决策,例如大额投资、擅自改变药物、法律承诺、伤害关系的试探、隐私或安全设置。这里应优先使用专业建议、充分论证和人工确认,而不是追求高速试错。
为什么不能不断用同一批任务评分?
做得次数越多,你越可能无意中迎合这批任务的特点,而不是真正提升一般能力。解决办法是:日常用一批任务调整,最后留一批从未参与调整的任务做最终检查。
七天上手
第一次不要自动化,只做一个手工小循环
先学会设计可靠实验,再考虑让 AI 帮你记录、提醒或提出候选改法。
DAY 1选一个小问题
例如:每天下午最重要任务总是拖延。
DAY 2测旧方法
不改变任何东西,记录实际启动时间与完成结果。
DAY 3写一个猜想
例如:把任务入口缩成一个按钮,会减少启动阻力。
DAY 4只改一件事
其他工具、时段和任务类型尽量保持不变。
DAY 5继续真实使用
不因某天表现差就临时修改评分规则。
DAY 6检查护栏
速度是否提高?错误、压力或返工有没有变坏?
DAY 7保留或撤销
写一句结论;无明显改善也算获得了知识。
最小实验记录模板
问题:我想改善什么?
基准:旧方法通常表现怎样?
猜想:为什么这一处改变可能有效?
本轮只改:__________
固定不变:__________
主指标:__________
质量/安全护栏:__________
实验周期:__________
结果:__________
决定:保留 / 撤销 / 证据不足
学到什么:__________
第一目标不是“立刻找到最佳方法”,而是建立一套不会自欺的改进机制。