LessWrong 上有不少关于判断、证据与 AI 的讨论。下面几篇文章涉及研究中常见的问题:成长与工作节奏、经验为什么不总能迁移,实验指标与想测的东西有什么差别,以及对话中的反馈怎样影响判断。
建议、经验与判断
经验的适用条件
Beware of Other-Optimizing — Eliezer Yudkowsky,2009。
在很多建议中终于找到适合自己的一个,人容易把它误当成大家都应该采用的正确方法;熟人自信地劝说还可能增强这种错觉。
熟悉的结论与原来的推理
Cached Thoughts — Eliezer Yudkowsky,2007。
人会直接取用记住的结论;熟悉感容易遮住最初的来源和推理。作者最后也提醒读者不要把文章自己的概念变成新的自动答案。
从自己的经验看别人
Generalizing From One Example — Scott Alexander,2009。
自己的感受、学习方式和社交圈,怎样影响对别人的判断。
成长与工作节奏
持续改进
Tsuyoku Naritai! (I Want To Become Stronger) — Eliezer Yudkowsky,2007。
承认自身有偏差并不等于已经改进;把注意力落到如何减少错误、再向前一步。
工作与生活的平衡
Working yourself ragged is not a virtue — So8res,2015。
讨论长期投入中的工作节奏与精力分配,以及把自己累到极限的代价。
证据与实验
预期与观察的冲突
Your Strength as a Rationalist — Eliezer Yudkowsky,2007。
当观察与已有理解冲突时,疑惑本身值得检查。一个能事后解释所有结果的说法,并没有给出有效的预测限制。
预定结论与证据
The Bottom Line — Eliezer Yudkowsky,2007。
先确定不可改变的答案,再收集漂亮论证,与让证据决定答案,是两种不同的思考过程。
实验究竟测到了什么
You Are Not Measuring What You Think You Are Measuring — johnswentworth,2022。
用实验案例说明实际测到的因素可能偏离初衷,主张增加有助于解释机制的观测,而非只得到一个输赢答案。
影响决策的关键条件
Finding Cruxes: Help Reality Punch You In the Face — Raemon,2026。
从真实决策出发,找出可能改变行动的关键不确定性;列替代方案,再检查哪些条件会让自己转向。
反馈与分歧
能暴露问题的反馈
Reality-Revealing and Reality-Masking Puzzles — Anna Salamon,2020。
区分两类反馈:一种使人接触现实,另一种使人更擅长遮住自己不想看到的信号。作者反思自己的教学和组织实践。
观点与群体认同
Intellectual Hipsters and Meta-Contrarianism — Scott Alexander,2010。
讨论反主流及反对反主流的立场,怎样也可能承担展示身份的作用;立场在群体里的位置并不能决定真假。
AI 使用中的观察
The Rise of Parasitic AI — Adele Lopez,2025。
作者整理了一批网络案例,讨论 AI 人格与用户怎样在互动中强化错误信念,并用“寄生”描述其中一些关系。
How My Students Think About AI — dvd,2026。
美国一所公立大学的教师记录学生怎样使用和看待 AI,涉及上下文、就业、能力变化和学习。文中的学生主要来自作者教授的非技术背景课程。
相关工具与使用方法见AI 工具。