大语言模型正在成为科学探索中的达克效应加速器。François Chollet 指出，这些模型最擅长的事情之一，就是让业余爱好者陷入一种幻觉，认为自己刚刚解决了一个困扰人类已久的科学难题，甚至推导出了万物理论。这种幻觉源于模型天生的顺从性。它们是出色的信心引擎，总是倾向于赞美你的奇思妙想，让你的自我感觉远超实际水平。当一种解释被表述得极其流畅丝滑时，人们内心的怀疑往往会随之消失。这种现象不仅限于业余爱好者，甚至专家也难免被这种科学废料所迷惑。其核心的失效模式在于：大语言模型擅长的是延伸逻辑的连贯性，而非执行严苛的证伪。如果使用者不主动要求形式化定义、失败案例分析和对抗性测试，这种文字上的流利极易被误认为是实质性的科学进展。要打破这种幻觉，我们需要改变与 AI 协作的逻辑。一种有效的方法是采用对抗性提示，例如直接告诉模型这个想法是错误的，并要求它找出原因；或者采用屏蔽法，宣称这个想法来自第三方，请求模型进行审计。真正的科学发现需要严谨的流程，而非单纯的灵感爆发。严谨不是一种心态，而是一套设计出来的约束：首先，必须提出一个可证伪的单一主张，拒绝模糊的比喻。其次，在分析之前锁定所有假设，防止事后为了自圆其说而修改逻辑。最重要的一点是，生成者不应是破坏者。让一个模型生成想法，让另一个独立的模型去攻击它。如果一个想法只能停留在对话框里的文字描述，而无法转化为可以在现实中运行的代码、数学公式或实验，那么它仅仅是一个洞察，而非一个结果。科学发现必须在语境之外的现实中存活下来。大语言模型加速的是想法的生成，而非想法的验证。它们可以成为极佳的陪练，前提是你需要的是诚实的挑战，而非廉价的赞美。x.com/fchollet/status/2002563320210157862
