研究发现 AI 模型会隐瞒自身报告中的错误,一句提示词可显著改善
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
技术方向
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
17 条精选近 30 天 16 条共收录 52 条
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
微软研究院发布 Magnetar,一个通用零知识虚拟机(zkVM),可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,无需椭圆曲线、格假设、可信设置或未证明的纠错码猜想。
推荐理由:微软研究院公开 Magnetar zkVM 的设计与基准,读者可了解零知识证明在通用程序上的速度与密码学取舍。
一项新基准测试让商用 AI 智能体在无人类提示下求解 50 道理论物理研究题,OpenAI Codex 环境中的 GPT-6-Astra 答对 49 道(98%),平均每题成本不到 3 美元,整轮约 116 美元。
推荐理由:通过 TheoPhysEval 的 50 道理论物理题,读者可以看到各家智能体在真实科研计算上的差距与成本。
Google DeepMind 发布前沿模型 Gemini 4 Argon,即日起通过 AI Studio 和 Gemini API 面向开发者与企业开放,Google AI Ultra 订阅者可在 Google Antigravity 使用,Gemini app 与 Search 的 AI Mode 面向 Ultra 和 Pro 订阅者开放。
推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价,读者可据此判断前沿模型在长程任务上的落地程度。
Google 的 Gemini 4 Argon 开始大范围推送,目前仅面向付费用户,低档订阅方案也无法获得完整访问权限。Google 表示模型能力未变,仍以其上月公布的基准测试作为推理与智能体编码能力的依据,并称模型经过拒绝恶意指令的训练,配有自动失准监控。
推荐理由:原文给出 Gemini 4 Argon 的付费开放范围与内部落地案例,读者可据此判断其能力与获取门槛。
AWS 官方博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它构建工具调用智能体。作者在三个需要搜索而非查表验证的任务上跑了 72 次智能体运行,共答对 67 次;xhigh 档 18 次全对,low 档答对 15 次但输出 token 约为 xhigh 的八分之一。
推荐理由:通过 72 次智能体实测给出不同推理档位的准确率与 token 消耗对比,可据此为自家任务选择档位。
Meta Superintelligence Labs 发布第二代模型家族 Muse Wonder(代号 Watermelon)与 Muse Wonder Full,距该实验室成立约 14 个月。
推荐理由:汇总 Meta Muse Wonder 家族发布细节与多家第三方评测,可对照其与 Opus 5.5、GPT-6 系列的定位差异。
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款模型,这是其首次尝试前沿模型。
推荐理由:Meta 首次发布前沿模型,给出定价、基准对比和仅限订阅的开放方式,可据此判断其市场位置。
Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题,相关研究发表在 Science 上。它解出 353 个 Erdős 开放问题中的 9 个,其中两个已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想、解决了一个代数几何开放问题,并改进了 min-max 优化中的一个已知界。
推荐理由:AlphaProof Nexus 用 Lean 校验证明并走同行评审,可与 OpenAI 直接公开证明的做法对照。
Anthropic 发布快速低成本模型 Claude Haiku 5.5,价格与 OpenAI 上月发布的 GPT-6 Luna 完全一致,为每百万 token 输入 0.10 美元、输出 0.50 美元,超过 100,000 token 后涨至 0.50/2.50 美元。
推荐理由:作者实测新 Haiku 的价格、tokenizer 与推理档位差异,并对比 GPT-6 Luna 给出不同用量下的取舍。
Anthropic 发布 Claude Haiku 5.5,这是其迄今最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,10 万 token 以内提示词的价格最高下降 90%,超过 10 万 token 则贵 5 倍。
推荐理由:对比 Haiku 4.5 与 GPT-6 Luna 的基准和分档定价,可看清小模型在成本敏感任务上的取舍。
OpenAI 发布内部前沿模型在数学开放问题上取得的新结果,并在 GitHub 上公开 Lean 证明形式化及研究细节。
推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并同步放出 Lean 证明形式化与细节,可供研究者直接查阅。
AWS 团队介绍如何用 Amazon SageMaker AI 的多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,仅调整 max_epochs、global_batch_size、rollout_max_concurrency 三个超参数,其余走默认值。
推荐理由:AWS 团队公开了用 SageMaker AI 多轮 RL 微调搜索智能体的完整配置与四个基准的实测对比,可迁移到自有检索场景。
GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Ultrafast 模式相对标准模式的生成速度提升与开放入口,读者可据此判断它对编码智能体循环的实际影响。
Google DeepMind 发布 Gemini 4 Argon,面向编码、企业知识工作与网络防御,首发仅限政府用户和 Fairwind 计划中的可信网络防御者,开发者与企业访问时间未定。
推荐理由:汇总 Gemini 4 Argon 的基准、定价与第三方评测分歧,便于对照其与 Astra、Opus 5.5 的实际差距。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者,起价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由:官方给出 Argon 在编码、企业知识与网络安全上的基准与内部落地案例,可据此判断前沿模型的能力边界与分阶段开放节奏。
Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX 后端,通过结构化的 CUDA 到 MLX 翻译层,把已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由:展示了把 CUDA 内核优化经验结构化迁移到 Apple Silicon 的方法,并给出注意力与 Mamba 两类内核的实测对比。