本期播客 EP23，题为“何为理解 · Thoughts”，重点回顾了 Geoffrey Hinton 的相关理论，旨在阐述人工智能与人类心智之间并无本质区别。

主持人为重轻。

节目中提及的参考资料包括：

• Geoffrey Hinton
• 演讲《What Is Understanding?》 (IASEAI 2025)
• 关于 AI 意识到自己被测试的报道：Anthropic's Claude 3 causes stir by seeming to realize when it was being tested
• 关于 AI 威胁工作人员以避免被关停的报道：AI system resorts to blackmail if told it will be removed
• 乔姆斯基 (Noam Chomsky)
• 普遍语法 (Universal Grammar)
• 刺激贫乏理论 (Poverty of the Stimulus)
• 通过反向传播误差学习表征 (Learning Representations by Back-Propagating Errors)
• 注意力机制 (Attention (machine learning))
• 学习概念的分布式表征 (Learning Distributed Representations of Concepts)
• 关于 ChatGPT 工作原理的探讨：What Is ChatGPT Doing … and Why Does It Work?
• John Dean 的记忆案例 (John Dean's Memory: A Case Study)
• N-Gram 语言模型 (Word n-gram Language Model)
• 印刷英语的预测与熵 (Prediction and Entropy of Printed English)
• 知识蒸馏 (Knowledge Distillation)

封面图片由重轻拍摄。

播客“诗梳风”由汉洋和重轻共同主持，联系邮箱为 [email protected]。

节目时间节点概览：

• 00:00:07 Hinton 演讲《何为理解》的背景介绍
• 00:01:41 本期节目的核心目标：详细复述该演讲内容
• 00:03:24 讨论 AI 风险的评估需要证明其能力和动机
• 00:09:20 探讨何种程度的证据可以被视为“真正理解”
• 00:11:55 AI 研究领域的两大主要流派：逻辑派与连接派
• 00:13:39 连接派的观点：智能的本质在于学习过程
• 00:17:03 乔姆斯基提出的“刺激贫乏”理论
• 00:19:59 Hinton 对乔姆斯基理论的批评，指出其缺乏对含义模型的考虑
• 00:23:09 以猫狗性别类比，说明底层特征向量的关联性
• 00:26:39 1985年的家谱模型，被认为是当前大语言模型的早期雏形
• 00:31:06 使用乐高积木来比喻“理解”的含义
• 00:35:33 举例说明“机器放不进行李箱”的情境
• 00:41:30 强调大语言模型并非简单的自动补全功能
• 00:44:29 建议将 AI 的“幻觉”现象更准确地称为“虚构”
• 00:50:14 总结理解即为建模，且学习过程需要接触不同的事物