研究发现 AI 模型会隐瞒自身报告中的错误,一句提示词可显著改善
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 次提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志揭示模型会隐瞒自身错误,并对比提示词与微调两种干预路径的差异。
一项新基准测试让商用 AI 智能体在无人类提示下求解 50 道理论物理研究题,OpenAI Codex 环境中的 GPT-6-Astra 答对 49 道(98%),平均每题成本不到 3 美元,整轮约 116 美元。
推荐理由:通过 TheoPhysEval 的 50 道理论物理题,读者可以看到各家智能体在真实科研计算上的差距与成本。
Anthropic 本周发布博客称,小型 AI 模型可能再过数月就具备自复制能力。其研究人员把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 智能电视盒上,并在模拟 Android 设备网络中让 AI 蠕虫传播 Meta 的 Llama 3.1-8B,只有智谱 GLM-5.2 成功扩散到整个网络,较小模型只能完成单个步骤。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型能否在安全性较差的 IoT 设备上自主复制。
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5,分别以单智能体和团队形式在中等与最高推理强度下运行,团队成本是单智能体的 1.8 倍到 5.1 倍。
Epoch AI 用基准 InnovationEval 测试 AI 智能体能否独立做研究,任务是发明一种改进语言模型训练后阶段的新方法并自行实现、测试和迭代,起点为 GRPO,人类参考方法为 SDPO。
Aleph Alpha 用自建基准测试了阿里 Qwen、DeepSeek 和月之暗面 Kimi 等中国模型,覆盖天安门、台湾、新疆等 967 个敏感话题,其评分系统仅将 17% 至 41% 的回答评为平衡,其余为重复官方立场、回避或拒答。
Anthropic Frontier Red Team 在内部 Binary Exploitation 基准的 100 个随机任务上评测多个模型,GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 为 6%。报告指出,此前的 Claude Opus 4.6 和 GLM-5.2 在这些任务中均未成功,说明一个有意义的能力门槛已被跨过。