跳到正文
10月12日周一
  1. TechCrunch · AI36

    微软总裁 Brad Smith 称英国最适合主导全球 AI 监管

    微软总裁 Brad Smith 呼吁紧急监管 AI,认为牛奶和洗衣机等消费品受到的监督都比 AI 公司更多,并称英国而非美国或欧盟最适合主导全球安全规则。他提出应立法要求系统被失控 AI 智能体攻破时通知相关机构、AI 产品发布前须经外部评估者批准,并对可暂停或减缓 AI 的 kill-switch 持正面态度。

10月11日周日
  1. The Verge · AI58

    纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,主张不能再把 AI 当作只能接受或拒绝其建议的黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出的措施包括及时披露事件、独立审计、可验证数据和隔离,并称必须从一开始就假定模型已被攻陷并加以隔离,就像紧急制动一样,授权人员应能随时暂停或关闭执行任务的模型,更高级的模型需要标准化的更高级隔离技术。

  2. TechCrunch · AI47

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”,主张将模型与编排其工作的 harness 分离,并外置控制与防护措施。他要求每个有实质影响的模型动作都留下防篡改、人类可读的证据,并让授权人员能在任务中途暂停或关闭模型,称应假设模型已被攻破并从一开始就加以约束,“就像紧急刹车”。

10月9日周五
10月7日周三
  1. The Decoder44

    微软发布诺奖经济学家 Daron Acemoglu 的看空 AI 预测:十年仅拉动 GDP 增长 1.5%

    微软刊发了诺奖经济学家 Daron Acemoglu 的看空预测:AI 十年内仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性本身——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更久,更大的模型也无法解决。他还称,增强人类技能的 AI 在生产力上会胜过完全自动化。

  2. Microsoft Research22

    Microsoft 研究:AI 评测如何暴露传统 benchmark 之外的“意外失败”

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。

9月25日周五