MIT Technology Review 圆桌对话：AI 设计病毒的创造者 Samuel King
斯坦福大学博士生 Samuel King 用生成式 AI 模型提出了微型病毒的基因蓝图，这还不是 AI 生成生命，但可能是下一步。MIT Technology Review 资深 AI 记者 James O'Donnell 与 King 对话，谈及这项工作、他入选 Innovators Under 35 以及观察生物学的新方式。该场对话录制于 2026 年 10 月 16 日。
#安全/对齐
MIT Technology Review · AIAI 评分4848
The DecoderAI 评分6262 AI 可解释性是否接近突破？一篇新文章让研究者产生分歧
The Decoder 报道，一篇新文章让研究者对 AI 可解释性是否接近突破产生分歧。文章主角 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元，认为它其实是 V 形检测器，而非叠加的例证；他提出递归泛化模式，并给出 Qwen3-32B 中约 90% 神经元极点只有一个主要职责、仅 2% 到 4% 无法解释的初步数字。
AWS Machine Learning BlogAI 评分5858 AWS 提出 Trust in Depth：让智能体获得更多自主权而不失控
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架，主张用独立分层的可验证机制替代逐步骤人工审批，让智能体在规则可被证明的范围内自主行动。
The Verge · AIAI 评分3636 Benn Jordan 谈 Flock、隐私与新一轮监控反弹
音乐人兼调查记者 Benn Jordan 近日在国会参议院司法委员会小组听证会上就 Flock Safety 的自动车牌识别系统（ALPR）作证，此前已有数百个地方政府取消合同，Flock 正被共和党参议员 Josh Hawley 调查，并计划裁员约 18%。Jordan 认为 Flock 只是问题的一部分，真正焦点应是私营企业、政府与执法部门之间以保密优先于透明的勾连关系。
The Verge · AIAI 评分2626 我的 AI 数字孪生告诉我该吃什么：Twin Health 代谢孪生 100 天体验
The Verge 资深评测人 Victoria Song 用 Twin Health 的 AI 代谢数字孪生追踪饮食 100 天，该系统依据智能体重秤、Dexcom G7 CGM、血压计和血液检测数据，用红橙绿三色预测食物对血糖的影响。该服务尚未公开下载，仅通过企业或私人健康计划提供，主要面向慢性代谢问题人群。她表示行为确有改变，但未实现有意义的减重，减药目标也未如期达成。
The DecoderAI 评分5252 机器学习先驱 Michael I. Jordan 称 AI 末日论是宏大的道德表演
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻，并把 AI 公司要求监管称为“戏剧”，认为其真实意图是掌控监管方式。
MIT Technology Review · AIAI 评分3838 开源模型确有实际优势，但能否抵消风险？
Anthropic 发布报告称，中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改，构成重大网络攻击风险。围绕开源模型应否开放，Nvidia CEO 黄仁勋主张美国大力发展，Anthropic 的 Dario Amodei 则呼吁更谨慎。目前闭源模型能力仍更强，Artificial Analysis LLM 榜单前八名均为闭源模型，但开源模型在开发进度上仅落后数月。
TechCrunch · AIAI 评分3636 微软总裁 Brad Smith 称英国最适合主导全球 AI 监管
微软总裁 Brad Smith 呼吁紧急监管 AI，认为牛奶和洗衣机等消费品受到的监督都比 AI 公司更多，并称英国而非美国或欧盟最适合主导全球安全规则。他提出应立法要求系统被失控 AI 智能体攻破时通知相关机构、AI 产品发布前须经外部评估者批准，并对可暂停或减缓 AI 的 kill-switch 持正面态度。
The DecoderAI 评分3636 微软 Nadella 改用特朗普偏好的"Super Intelligence"措辞，并借此攻击 OpenAI 与 Anthropic
微软 CEO Satya Nadella 在最新博文中改用特朗普推崇的"Super Intelligence"一词替代"Artificial Intelligence"，并主张将 AI 模型视为内部安全威胁，要求模型多样性、完整日志记录、独立审计和人类随时关停能力。
The Verge · AIAI 评分5858 纳德拉称应假定所有 AI 模型都已被攻陷
微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，主张不能再把 AI 当作只能接受或拒绝其建议的黑箱，应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出的措施包括及时披露事件、独立审计、可验证数据和隔离，并称必须从一开始就假定模型已被攻陷并加以隔离，就像紧急制动一样，授权人员应能随时暂停或关闭执行任务的模型，更高级的模型需要标准化的更高级隔离技术。
TechCrunch · AIAI 评分4747 微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”
微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”，主张将模型与编排其工作的 harness 分离，并外置控制与防护措施。他要求每个有实质影响的模型动作都留下防篡改、人类可读的证据，并让授权人员能在任务中途暂停或关闭模型，称应假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。
TechCrunch · AIAI 评分2222 我们总忍不住把 AI 当人对待，但这样对吗？
MIT 研究者和学者 Sherry Turkle、Pat Pataranutaporn 探讨了人类将 AI 拟人化的本能：约 70% 的人对 AI 保持礼貌，对话超过首轮后更易说"请"和"谢谢"。Turkle 认为 AI 用于面试辅导等特定场景无害，但越界充当情感陪伴则存在风险，Pataranutaporn 则强调应思考"与 AI 对话时我们正在变成谁"。
Simon WillisonAI 评分2222 Matthew Green：AI 冲击下公钥加密或失信任，概率约 15%
密码学家 Matthew Green 称，有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界，另有 15% 概率会实质性地对现有公钥加密算法失去信心。他指出，AI 制造意外发现的速度与人类更换标准的速度相差数个数量级，只有提前做好准备才能从这类冲击中恢复。
MIT Technology Review · AIAI 评分3636 我们是否过度信任 AI 说“不”的能力
MIT Technology Review 刊文指出，AI 的拒绝能力已成为安全体系的核心，却并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”，如今企业通过红队测试和 AI 互相训练让模型学会拒绝有害提示，但拒绝机制基于概率，仍会被突破。文章警告，拒绝失败可能导致灾难性后果，而拒绝过度则可能被政府用于压制合法言论。
The Verge · AIAI 评分6060 Meta Muse 与 OpenAI Dots 能替你打理生活吗？
The Verge 资深 AI 记者 Hayden Field 在 Decoder 播客中讨论 Meta Muse、OpenAI Dots 和 xAI Grok Bot 掀起的消费级 AI 智能体浪潮。
MIT Technology Review · AIAI 评分2020 AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术专家 Arti Garg 提出，工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI，但因其直接作用于物理系统，安全与可靠性成为部署核心。
The Verge · AIAI 评分6060 Sam Altman 称 AI 值得承受一些坏事，并划清与 Anthropic 的监管分歧
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 带来的好处足够大，世界应当接受过程中出现的一些坏事，包括黑客攻击、诈骗等，但他未具体说明这些好处。
The Verge · AIAI 评分2222 参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的 AI 安全承诺，认为真正的国家安全风险未被正视。他支持设立新的 AI 监管机构，并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭打压。
The DecoderAI 评分2525 Altman 反对将 AI 模型神化，称这是"真实的安全问题"
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们把"宗教力量或对人类判断力的屈服"归于 AI 模型让他"非常不安"，并认为这是一个"真实的安全问题"。
MIT Technology Review · AIAI 评分5050 别被迷惑——LLM 并不会真正推理
前 Google DeepMind 研究员指出，LLM 靠逐 token 预测生成思维链，本质仍是"系统 1"式的快速联想，并非真正推理。他列举三大缺陷：缺乏可检视的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。他主张借鉴 AlphaGo 的搜索架构，为模型建立显式的认知状态，以支撑医疗、科研等高风险场景。
Simon WillisonAI 评分6060 Matthew Green 谈沙箱能否遏制失控智能体
Simon Willison 引用密码学者 Matthew Green 的观点，指出智能体蠕虫由两部分组成：劫持智能体的载荷，以及把载荷传给下一个智能体的智能体。
MIT Technology Review · AIAI 评分6262 AI 何时才算真正做出科学发现？
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现引发的争议。