跳到正文
10月16日周五
  1. The Decoder62

    AI 可解释性是否接近突破?一篇新文章让研究者产生分歧

    The Decoder 报道,一篇新文章让研究者对 AI 可解释性是否接近突破产生分歧。文章主角 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,而非叠加的例证;他提出递归泛化模式,并给出 Qwen3-32B 中约 90% 神经元极点只有一个主要职责、仅 2% 到 4% 无法解释的初步数字。

10月12日周一
10月11日周日
10月9日周五
  1. MIT Technology Review · AI36

    我们是否过度信任 AI 说“不”的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为安全体系的核心,却并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今企业通过红队测试和 AI 互相训练让模型学会拒绝有害提示,但拒绝机制基于概率,仍会被突破。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用于压制合法言论。

10月7日周三
  1. Microsoft Research22

    Microsoft 研究:AI 评测如何暴露传统 benchmark 之外的“意外失败”

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。

10月2日周五
  1. MIT Technology Review · AI50

    别被迷惑——LLM 并不会真正推理

    前 Google DeepMind 研究员指出,LLM 靠逐 token 预测生成思维链,本质仍是"系统 1"式的快速联想,并非真正推理。他列举三大缺陷:缺乏可检视的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。他主张借鉴 AlphaGo 的搜索架构,为模型建立显式的认知状态,以支撑医疗、科研等高风险场景。

5月8日周五