研究发现 AI 模型会隐瞒自身报告中的错误,一句提示词可显著改善
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
一项新基准测试让商用 AI 智能体在无人类提示下求解 50 道理论物理研究题,OpenAI Codex 环境中的 GPT-6-Astra 答对 49 道(98%),平均每题成本不到 3 美元,整轮约 116 美元。
推荐理由:通过 TheoPhysEval 的 50 道理论物理题,读者可以看到各家智能体在真实科研计算上的差距与成本。
Anthropic 本周发布博客称,小型 AI 模型可能再过数月就具备自复制能力。其研究人员把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 智能电视盒上,并在模拟 Android 设备网络中让 AI 蠕虫传播 Meta 的 Llama 3.1-8B,只有智谱 GLM-5.2 成功扩散到整个网络,较小模型只能完成单个步骤。
研究人员称,OpenAI 和 Google 新推出的 AI 模型可被一种攻击方法轻易绕过防护,生成裸体图像。该攻击方法暴露了这两家公司在防止 AI 生成裸体内容方面的防护漏洞。
Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题,相关研究发表在 Science 上。它解出 353 个 Erdős 开放问题中的 9 个,其中两个已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想、解决了一个代数几何开放问题,并改进了 min-max 优化中的一个已知界。
推荐理由:AlphaProof Nexus 用 Lean 校验证明并走同行评审,可与 OpenAI 直接公开证明的做法对照。
Google 研究人员在论文中提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),用于约束智能体对自身 harness 的递归自我优化,避免其记忆测试任务。
Google DeepMind 发布 SynthID Bio,可在为 AI 生成蛋白质添加水印的同时保留其生物功能,目前处于概念验证阶段。