我们抗拒大语言模型的输出，并非出于“理解” (En)

2026-11-08

本文由 LLM 从英文原文翻译，以原文为准：We Dislike LLM Output, not Because of Comprehension

尽管大语言模型（LLM）迄今在可观测（功能主义意义上）的输出模式上仍与人类大相径庭， 但别忘了：（一）人类也时常胡制滥造、满嘴跑火车——我们亲爱的同事们捅出的娄子还少吗？（二）正如我在前文末段所言，“我们完全可以主张‘理论上人类能做的事，LLM 都能做’”。 这固然尚存争议、难以简单定论，但不可否认，LLM 已展现出超越常人的能力，在诸多领域（坦白说主要是数学）出类拔萃。即便如此，我们依然有充足的理由拒绝将一切全盘交由 LLM 处理。

人们通常认为，之所以应当限制或干预 LLM 的使用，是因为我们需要属于人类的“理解”。 但“理解”本身就是个棘手的概念。“中文房间”论证 [1]本欲反驳强功能主义与计算主义，结果却作茧自缚，因为它立基于一个可疑的笛卡尔式预设：真正的“理解”在于某种孤立的、具有内在意向性的内部心理状态。维特根斯坦的规则遵循与“私人语言论证”（PLA）正是直指这一预设（以及更广泛的方法论与语义唯我论） [2]。正如《斯坦福哲学百科全书》（第 1 节）所总结的 [3]：The conclusion is that a language in principle unintelligible to anyone but its originating user is impossible. The reason for this is that such a so-called language would, necessarily, be unintelligible to its supposed originator too, for he would be unable to establish meanings for its putative signs.

症结不在于“理解”，而在于“规范性”（normativity）。请注意，我们在争论时的措辞是：“我们不应当将一切全盘交由 LLM 处理”。即便抛开私人语言论证不谈，哪怕我们确实拥有可测量的神经生物状态或“感受质”（Qualia）等等，它们也只是在规范性上惰性的（normatively inert）事实 [4]。 “中文房间”误将关于“理解”的事实断言当成了规范性地位。孤立地看，无论是生物大脑还是自注意力模块，都不具备语义规范性 [5]。

但现实中确实存在规范性客体，比如法律合同，或是输出对错结果的程序。根据规范实用主义 [6]，规范性源于外部社会结构与共同体实践——当我们说某人“理解”一个概念时，指的并非某种纯粹私密的心理过程，而是一种社会地位：在给出理由与索取理由的博弈中承担承诺与责任 [7]。

将“理解”重构为规范性问责，便能揭示为何“中文房间”的设想依然令我们不安，以及人类的敷衍应付（slop）与 AI 的敷衍应付有何本质不同。人与人之间彼此也是黑箱，但人类受制于社会结构与切身存亡的利害关系（skin in the game，即切身利益捆绑）。人工工具缺乏这种切身利害，无法成为完全的规范性主体；它们若要融入社会，只能作为可审计的工具，由人类操作者来承担责任 [8]。然而在现代深度学习中，AI 公司搜罗来海量语料进行大规模预训练，无数权重在其中发生神秘的相互作用，彻底消解了这种可审计性。这就是认识论上的不透明性（epistemic opacity）：人类主体在认知上根本无法审视、拆解或追溯计算过程中产生正当性依据的要素 [9] [10] [11]。

值得注意的是，克服认识论上的不透明性，并不等于重蹈笛卡尔式的覆辙去寻找“内在语义”（从而退回私人语言论证的泥淖），而是追求一种实用意义上的可理解性：即把握反事实依赖关系、诊断错误并加以干预的公共能力 [12] [13]。 在此情形下，与传统工具相比，人类面临着一种规范性失权（normative disempowerment）：我们既无法将该系统视作同类去问责，也无法按问责制的要求，将其视作工具去审计和修正 [14]。

此外，不妨看看药理学。有人或许会说，医学长期以来都在依赖经验上有效的药物。其实，药理学面临着与使用 LLM 相同的困境。 许多药物虽无法做到端到端的彻底阐明，但至少在机制上实现了部分可拆解（例如业界采用的 5R 框架 [15]）；在此之上，严格的临床监管与制度性追责，将切身利害转移到了制药公司和开具处方的医生身上。

既然我们无法赋予模型权重真正的切身存亡利害（又或者可以？若真能做到，恐怕麻烦更大），我由衷希望机械可解释性（MechInterp）研究能让 LLM 达到类似于药理学的境地。不失为一个理想而务实的折中方案。

注：本文的前期文献调研由 LLM 深度辅助完成。

References

  1. J. R. Searle, “Minds, brains, and programs,” Behav. Brain Sci., vol. 3, no. 3, pp. 417–424, Sep. 1980, doi: 10.1017/S0140525X00005756.
  2. L. Wittgenstein, Philosophical Investigations, G. E. M. Anscombe, Trans. Oxford, UK: Basil Blackwell, 1953.
  3. S. Candlish and G. Wrisley, “Private language,” in The Stanford Encyclopedia of Philosophy, Fall 2019 ed., E. N. Zalta, Ed. Stanford, CA, USA: Metaphysics Research Lab, Stanford Univ., 2019. Accessed: Nov. 9, 2026. [Online]. Available: https://plato.stanford.edu/archives/fall2019/entries/private-language/
  4. J. McDowell, Mind and World. Cambridge, MA, USA: Harvard Univ. Press, 1994.
  5. W. Sellars, “Empiricism and the philosophy of mind,” in Minnesota Studies in the Philosophy of Science, vol. 1, H. Feigl and M. Scriven, Eds. Minneapolis, MN, USA: Univ. Minnesota Press, 1956, pp. 253–329.
  6. S. A. Kripke, Wittgenstein on Rules and Private Language: An Elementary Exposition. Cambridge, MA, USA: Harvard Univ. Press, 1982.
  7. R. B. Brandom, Making It Explicit: Reasoning, Representing, and Discursive Commitment. Cambridge, MA, USA: Harvard Univ. Press, 1994.
  8. J. Haugeland, Having Thought: Essays in the Metaphysics of Mind. Cambridge, MA, USA: Harvard Univ. Press, 1998.
  9. P. Humphreys, Extending Ourselves: Computational Science, Empiricism, and Scientific Method. Oxford, UK: Oxford Univ. Press, 2004.
  10. P. Humphreys, “The philosophical novelty of computer simulation methods,” Synthese, vol. 169, no. 3, pp. 615–626, Aug. 2009, doi: 10.1007/s11229-008-9435-2.
  11. K. A. Creel, “Transparency in complex computational systems,” Philosophy of Science, vol. 87, no. 4, pp. 568–589, Oct. 2020, doi: 10.1086/709729.
  12. H. W. de Regt, Understanding Scientific Understanding. Oxford, UK: Oxford Univ. Press, 2017.
  13. K. Khalifa, Understanding, Explanation, and Scientific Knowledge. Cambridge, UK: Cambridge Univ. Press, 2017.
  14. A. Matthias, “The responsibility gap: Ascribing responsibility for the actions of learning automata,” Ethics Inf. Technol., vol. 6, no. 3, pp. 175–183, Sep. 2004, doi: 10.1007/s10676-004-3422-1.
  15. D. Cook et al., “Lessons learned from the fate of AstraZeneca's drug pipeline: a five-dimensional framework,” Nat. Rev. Drug Discov., vol. 13, no. 6, pp. 419–431, Jun. 2014, doi: 10.1038/nrd4309.