评论:大语言模型并不真正具备推理能力
AlphaGo团队成员撰文指出,AlphaGo第37手的创造性源于其搜索机制,而非直觉网络,这体现了真正的推理能力。文章认为当今大语言模型缺乏这种推理机制,若要在科学和医学领域产生可信且新颖的成果,必须赋予AI真正的推理能力。
共 23 篇相关资讯,按重要度与时间排序,每 3 小时更新。
AlphaGo团队成员撰文指出,AlphaGo第37手的创造性源于其搜索机制,而非直觉网络,这体现了真正的推理能力。文章认为当今大语言模型缺乏这种推理机制,若要在科学和医学领域产生可信且新颖的成果,必须赋予AI真正的推理能力。
文章援引控制论之父维纳的观点,批评AI行业将大脑简单类比为计算机的思维。作者认为人脑是进化而来的反馈控制系统,而非信息处理器,AI如同认知层面的垃圾食品,短期诱人却损害人类数千年演化出的认知系统。
论文研究大模型在语言不确定性量化上与人类的差异,以及语言标记能否可靠量化模型不确定性。作者从心理学与决策科学文献整理人类不确定性标记语料,发现大模型赋予这些标记的数值水平与人类显著不同。随后提出一种基于优化的算法,直接从模型输出学习标记-不确定性映射,实现标记层面的人机置信语义对比。
论文探究视频生成模型是否具备客体永久性,并发布 WROP 数据基础设施,包含 150 个认知科学启发的任务与六个认知类别。作者用 Blender 生成器随机化速度、光照、相机角度等参数,产出每任务超 1 万样本,并发布 150 万样本训练语料与 300 题考试。在盲测成对 Elo 研究中,其 16…
论文提出 CogGym,一个基于认知科学的可扩展统一框架,通过半自动人机协同流程将实验标准化为 Experiment Markup Language,实现人机行为的大规模可比对。首版收录 100 篇论文的 258 个认知实验并评估 50 个大模型,发现模型在常识推理上进步远慢于数学与编程,最佳模型…
研究提出将符号知识编码为结合自然语言和源代码的心理程序,用LLM引导的贝叶斯学习推断。模型复现人类归纳学习和主动探究的定量特征,而纯LLM和经典贝叶斯模型失败。
论文提出验证学习理论(VLT),形式化描述 AI 辅助下人们核查证据与保留规则使用之间的关系,把感知到的助手可靠性与核查行为、核查历史与规则留存相连接。模型预测感知到助手可能出错可提升延迟的独立判断,并给出可检验的实验设计;目前结论来自模拟,尚未经实证验证。
论文提出跨语言刺激贫乏(CPOS)实验设计,控制源语言 L1 中层级语法规则的正例数量,考察 L2 语料在层级与线性规则间存在歧义时模型能否迁移结构证据。结果显示模型只能部分迁移层级偏置,且迁移强度依赖语言对;词汇重叠对层级句法泛化的跨语言迁移至关重要。
论文用两个多语言模型的词嵌入比较 81 种语言中 196 个基本概念的关系结构,以检验语言相对性假说。结果显示社会文化类意义的跨语言对应度高于自然与运动类意义,且社会文化域内地理距离越远关系差异越大,表明普遍性与相对性在不同概念域交织。
文章援引艾宾浩斯遗忘曲线指出,若缺乏主动回忆与间隔重复,人们会迅速遗忘所学内容。依赖 AI 工具直接获取答案会进一步削弱思考与记忆能力。作者建议通过主动回忆和间隔重复来强化知识留存,而非被动阅读。
一份名为 First Brain 的宣言批评过去十年「第二大脑」类应用让人脑记忆与理解能力退化,主张 AI 应转向强化生物大脑本身而非替代思考。文中引用斯坦福研究指出行走能提升 81% 参与者的原创想法产出,认为当前 AI 工具都困在书桌前,错过了产生灵感的最佳状态。
论文提出一种混合系统,把认知算法发现建模为程序精化问题:人类构建的认知模型以概率程序表达,交由 LLM 智能体在研究者约束下识别模型与行为的偏差、提出代码级修改并验证结构保真度。修改结果传入概率推断模块完成隐变量与似然计算。在暴露多种认知算法的问题解决任务上,修订后的模型拟合度稳定优于原始模型。
《自然》刊文探讨在AI普及背景下如何维持批判性思维能力,梳理相关认知科学研究。文章强调过度依赖AI可能削弱人的独立思考与判断能力,呼吁在教育与日常使用中主动训练批判性思维。
论文借鉴认知科学中的「认知行动」概念,指出LLM智能体设计忽视了决策前证据是否就绪这一前置问题。作者区分三种模式:获取缺失证据、转换已有证据、探测系统以产生揭示性反馈,并提出「认知脚手架」概念,指使这些行动可行且可审计的接口、工具与环境。文章主张智能体设计必须解决「决策就绪证据」如何产生的问题。
一篇博客文章通过一个简单谜题展示AI能力的"锯齿状"特征,即AI在某些任务上表现优异却在看似简单的任务上失败。文章探讨了这种不均衡智能现象背后的原因。属于科普评论类内容,热度较低。
文章批评人们常把「大脑」「记忆」「思考」等表层 AI 隐喻误当作对智能本质的真实描述。作者主张区分修辞性类比与技术机制,避免因隐喻误导对模型能力的判断。该观点对 AI 讨论中的概念滥用提出警示。
论文通过大规模人类实验研究新型社会规范的传播扩散,借助程序合成刻画不同人群形成的协作程序。发现继承的程序在跨变体互动中趋于结构简化与丢失,但互动修复机会可抵消这一压力,保留复杂算法。结果表明互动推理调节着程序性规范文化演化中的结构复杂度选择压力。
论文提出用机器学习作为衡量语义复杂度的更中立方法,回顾逻辑与机器学习在相对复杂度及语义类型学上趋于一致的证据。作者认为在两者分歧处,学习比逻辑复杂度更具解释力,将机器学习模型视为「认知温度计」可统一符号逻辑与连接主义 AI。
一篇探讨心智与人工智能关系的文章在 Hacker News 上引发讨论,提出八个关于意识、认知与机器智能的核心问题。文章试图厘清 AI 系统在何种意义上可被视为具有心智,并反思相关哲学与工程假设。讨论热度较低,属于小众思辨话题。
一位兼具计算机科学家与小说家身份的学者撰文,探讨AI如何影响我们对数学本质的理解。文章从人类认知与机器推理的差异出发,反思AI在数学发现中的角色。属于观点性讨论,受众较窄。
论文从认知科学与计算机科学双重视角,将目标视为可与世界知识灵活组合的组合式表征,类比语言学与逻辑学中的句法-语义接口。作者综合已有工作,刻画不同目标表征的表达力、设计与效率属性,并提出这是一个更广泛的设计空间。研究强调区分目标的形式与含义,有助于厘清对目标的隐含假设及高层认知与动机的交互。