Anthropic 警告自复制 AI 蠕虫风险,实验显示小模型可跨设备传播
Anthropic 本周发布博客称,小型 AI 模型可能再过数月就具备自复制能力。其研究人员把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 智能电视盒上,并在模拟 Android 设备网络中让 AI 蠕虫传播 Meta 的 Llama 3.1-8B,只有智谱 GLM-5.2 成功扩散到整个网络,较小模型只能完成单个步骤。
Anthropic 本周发布博客称,小型 AI 模型可能再过数月就具备自复制能力。其研究人员把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 智能电视盒上,并在模拟 Android 设备网络中让 AI 蠕虫传播 Meta 的 Llama 3.1-8B,只有智谱 GLM-5.2 成功扩散到整个网络,较小模型只能完成单个步骤。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型能否在安全性较差的 IoT 设备上自主复制。
本地 Qwen3.8-27B-Q4_K_M.gguf 在禁用推理时用英文单词做加法仅得 23.57% 数值准确率,格式合规率 96.17%,一至三位数操作数准确率 97.04%,十至十三位数骤降至 6.44%。启用推理后 169 次配对测试中答对 167 次。该实验在 DGX Spark 上复现 GPT-4o 的单词加法测试。