AI 可解释性是否接近突破?一篇新文章让研究者产生分歧
The Decoder 报道,一篇新文章让研究者对 AI 可解释性是否接近突破产生分歧。文章主角 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,而非叠加的例证;他提出递归泛化模式,并给出 Qwen3-32B 中约 90% 神经元极点只有一个主要职责、仅 2% 到 4% 无法解释的初步数字。
The Decoder 报道,一篇新文章让研究者对 AI 可解释性是否接近突破产生分歧。文章主角 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,而非叠加的例证;他提出递归泛化模式,并给出 Qwen3-32B 中约 90% 神经元极点只有一个主要职责、仅 2% 到 4% 无法解释的初步数字。
Anthropic 的 Andrej Karpathy 将大语言模型用户分为四个层级:约 60 亿人几乎没接触过 LLM,10 至 20 亿人把免费版 ChatGPT 类产品当作更好的搜索引擎或写作助手。
Ornn、Silicon Data 和 Bloomberg 截至 2026 年 8 月的数据显示,AI 市场出现 a16z 所称的典型 Jevons 悖论:token 价格持续下降,H100 GPU 租金却保持稳定甚至上涨。
MIT Technology Review 刊文指出,AI 的拒绝能力已成为安全体系的核心,却并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今企业通过红队测试和 AI 互相训练让模型学会拒绝有害提示,但拒绝机制基于概率,仍会被突破。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用于压制合法言论。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在播客中提出“合成超级智能”(synthesis superintelligence)愿景:以物理实验为环境的强化学习、AI 材料表征与高通量自主实验室,让模型学习做科学的全过程而非只看已发表结果。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
前 Google DeepMind 研究员指出,LLM 靠逐 token 预测生成思维链,本质仍是"系统 1"式的快速联想,并非真正推理。他列举三大缺陷:缺乏可检视的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。他主张借鉴 AlphaGo 的搜索架构,为模型建立显式的认知状态,以支撑医疗、科研等高风险场景。
MIT 研究者 Alex Zhang 在 Latent Space 播客中讲述其从 GPU kernel、KernelBench 到递归语言模型(RLM)的研究路径,RLM 驱动的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
伯克利 AI 研究团队发布综述,系统梳理并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!