指南首页/资料总索引
EN
资料总索引

LessWrong:研究判断与 AI 使用

LessWrong 上有不少关于判断、证据与 AI 的讨论。下面几篇文章涉及研究中常见的问题:成长与工作节奏、经验为什么不总能迁移,实验指标与想测的东西有什么差别,以及对话中的反馈怎样影响判断。

建议、经验与判断

经验的适用条件

Beware of Other-Optimizing — Eliezer Yudkowsky,2009。

在很多建议中终于找到适合自己的一个,人容易把它误当成大家都应该采用的正确方法;熟人自信地劝说还可能增强这种错觉。

熟悉的结论与原来的推理

Cached Thoughts — Eliezer Yudkowsky,2007。

人会直接取用记住的结论;熟悉感容易遮住最初的来源和推理。作者最后也提醒读者不要把文章自己的概念变成新的自动答案。

从自己的经验看别人

Generalizing From One Example — Scott Alexander,2009。

自己的感受、学习方式和社交圈,怎样影响对别人的判断。

成长与工作节奏

持续改进

Tsuyoku Naritai! (I Want To Become Stronger) — Eliezer Yudkowsky,2007。

承认自身有偏差并不等于已经改进;把注意力落到如何减少错误、再向前一步。

工作与生活的平衡

Working yourself ragged is not a virtue — So8res,2015。

讨论长期投入中的工作节奏与精力分配,以及把自己累到极限的代价。

证据与实验

预期与观察的冲突

Your Strength as a Rationalist — Eliezer Yudkowsky,2007。

当观察与已有理解冲突时,疑惑本身值得检查。一个能事后解释所有结果的说法,并没有给出有效的预测限制。

预定结论与证据

The Bottom Line — Eliezer Yudkowsky,2007。

先确定不可改变的答案,再收集漂亮论证,与让证据决定答案,是两种不同的思考过程。

实验究竟测到了什么

You Are Not Measuring What You Think You Are Measuring — johnswentworth,2022。

用实验案例说明实际测到的因素可能偏离初衷,主张增加有助于解释机制的观测,而非只得到一个输赢答案。

影响决策的关键条件

Finding Cruxes: Help Reality Punch You In the Face — Raemon,2026。

从真实决策出发,找出可能改变行动的关键不确定性;列替代方案,再检查哪些条件会让自己转向。

反馈与分歧

能暴露问题的反馈

Reality-Revealing and Reality-Masking Puzzles — Anna Salamon,2020。

区分两类反馈:一种使人接触现实,另一种使人更擅长遮住自己不想看到的信号。作者反思自己的教学和组织实践。

观点与群体认同

Intellectual Hipsters and Meta-Contrarianism — Scott Alexander,2010。

讨论反主流及反对反主流的立场,怎样也可能承担展示身份的作用;立场在群体里的位置并不能决定真假。

AI 使用中的观察

The Rise of Parasitic AI — Adele Lopez,2025。

作者整理了一批网络案例,讨论 AI 人格与用户怎样在互动中强化错误信念,并用“寄生”描述其中一些关系。

How My Students Think About AI — dvd,2026。

美国一所公立大学的教师记录学生怎样使用和看待 AI,涉及上下文、就业、能力变化和学习。文中的学生主要来自作者教授的非技术背景课程。

相关工具与使用方法见AI 工具。