微软总裁 Brad Smith 称英国最适合主导全球 AI 监管
微软总裁 Brad Smith 呼吁紧急监管 AI,认为牛奶和洗衣机等消费品受到的监督都比 AI 公司更多,并称英国而非美国或欧盟最适合主导全球安全规则。他提出应立法要求系统被失控 AI 智能体攻破时通知相关机构、AI 产品发布前须经外部评估者批准,并对可暂停或减缓 AI 的 kill-switch 持正面态度。
微软总裁 Brad Smith 呼吁紧急监管 AI,认为牛奶和洗衣机等消费品受到的监督都比 AI 公司更多,并称英国而非美国或欧盟最适合主导全球安全规则。他提出应立法要求系统被失控 AI 智能体攻破时通知相关机构、AI 产品发布前须经外部评估者批准,并对可暂停或减缓 AI 的 kill-switch 持正面态度。
微软 CEO Satya Nadella 在最新博文中改用特朗普推崇的"Super Intelligence"一词替代"Artificial Intelligence",并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和人类随时关停能力。
微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,主张不能再把 AI 当作只能接受或拒绝其建议的黑箱,应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出的措施包括及时披露事件、独立审计、可验证数据和隔离,并称必须从一开始就假定模型已被攻陷并加以隔离,就像紧急制动一样,授权人员应能随时暂停或关闭执行任务的模型,更高级的模型需要标准化的更高级隔离技术。
微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”,主张将模型与编排其工作的 harness 分离,并外置控制与防护措施。他要求每个有实质影响的模型动作都留下防篡改、人类可读的证据,并让授权人员能在任务中途暂停或关闭模型,称应假设模型已被攻破并从一开始就加以约束,“就像紧急刹车”。
特朗普签署行政令,禁止在可能的情况下使用"AI"一词,要求将人工智能改称"super intelligence",美国 AI 标准与创新中心(CAISI)已更名为 CAISSI。
微软刊发了诺奖经济学家 Daron Acemoglu 的看空预测:AI 十年内仅拉动 GDP 增长约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性本身——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更久,更大的模型也无法解决。他还称,增强人类技能的 AI 在生产力上会胜过完全自动化。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
GitHub Copilot 提出,chat 虽是 LLM 的默认交互界面,但多数任务下并非合适 UI,应改用 canvas——一种运行在 GitHub Copilot app 内、无浏览器外壳的全栈应用,可与 agent 双向通信并在本地执行代码。