跳到正文
10月9日周五
  1. MIT Technology Review · AI36

    我们是否过度信任 AI 说“不”的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为安全体系的核心,却并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今企业通过红队测试和 AI 互相训练让模型学会拒绝有害提示,但拒绝机制基于概率,仍会被突破。文章警告,拒绝失败可能导致灾难性后果,而拒绝过度则可能被政府用于压制合法言论。

  2. The Verge · AI24

    加州体育委员会叫停 Rek 人机笼斗比赛

    加州州立体育委员会向举办人机对战赛事的初创公司 Rek 发出停止令,指其 9 月 18 日由人类 Frankie LaPenna 对阵 Rek 人形机器人的比赛属"未经批准",要求其停止在加州举办、推广或宣传任何涉及人类的拳击或综合格斗赛事。Rek CEO Cix Liv 于 9 月 30 日在 X 上公开该信函,Rek 计划于周五举行的下一场比赛将由两台带武器的机器人互斗。

  3. The Decoder58

    Anthropic 更新使用政策:持续辱骂 Claude 可被封号

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规用户可能被警告、限流、限制、暂停或终止访问。Anthropic 对 The Verge 表示该规则只适用于极端情况,不涉及正常的不满或研究。新政策还把虚假账号宣传、误导性政治内容、武器与无人机武器化、未经同意的监控等纳入限制,并承认政府合同可能存在例外。

  4. The Verge · AI62

    USA Today 起诉 OpenAI 版权侵权,索赔超 2.5 亿美元

    USA Today 及其旗下多家地方报纸起诉 OpenAI,指控其未经授权复制数十万篇文章用于训练 AI 模型,并索赔超过 2.5 亿美元。诉状称 OpenAI 的商业成功建立在规模化版权侵权之上,从未就使用其内容寻求许可。OpenAI 暂未回应 The Verge 的置评请求。

  5. TechCrunch · AI62

    OpenAI 的数学解答尚未达到学界标准

    OpenAI 本周发布数百份高难数学问题的解答,称已咨询精英数学家组成的顾问组,但普林斯顿高等研究院主办的数学与人工智能顾问组(AGMAI)表示,其建议是否被成功遵循最终由数学界评估,而该组织的第一条建议就是停止在专有模型上测试高难数学问题,OpenAI 的发布说明却明确表示正在用开放研究问题评估其专有模型。

  6. TechCrunch · AI38

    Anthropic 更新使用政策:禁止模型滥用与选举干预

    Anthropic 周四更新使用政策,新增禁止选举干预、武器软件、监控以及长期辱骂模型等条款。新政策明确禁止用户持续对模型进行言语辱骂,但仅适用于用户反复恶意攻击且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创意主题。政策还禁止利用 Claude 运营虚假账号或捏造新闻媒体,并设“不得破坏民主进程”章节禁止欺骗选民或干扰选举。

  7. TechCrunch · AI71

    OpenAI 年化收入据报比此前预期低 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前传出的约 700 亿美元低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入直接对比而做的推算,两家公司计算年化收入的方式不同,Anthropic 会计入云合作伙伴的销售额,OpenAI 则不计入。

  8. The Decoder78

    数学家呼吁抵制 OpenAI:AI 生成证明涌入数学界

    数学界部分人士呼吁抵制 OpenAI,起因是该公司一次性放出 700 多份 AI 生成的数学证明文件。菲尔兹奖得主 Terence Tao 以客座文章形式在其博客发布了相关声明,并提出数学应进入不再以解题为主要衡量标准的 Math 2.0 时代;复杂性理论家 Scott Aaronson 则称之为 Mathocalypse。

    推荐理由:数学界对 OpenAI 一次性放出 700 多份 AI 证明的反应,折射出 AI 与学术共同体在署名、验证和节奏上的分歧。

  9. The Verge · AI60

    Google 发布离线 AI 笔记应用 AI Edge Foresight

    Google 发布实验性笔记应用 Google AI Edge Foresight,可在完全离线状态下转写会议和音频文件。该应用免费,基于 Google 端侧 EmbeddingGemma 2 模型在 macOS 上运行,可把会议中的速记要点整理成完整笔记,并内置可针对录音内容提问的助手,还能接入本地文件作为回答参考。

  10. TechCrunch · AI8

    TechCrunch Disrupt 2026 开幕倒计时 5 天:现场购票将涨价,早鸟票最高省 100 美元

    TechCrunch Disrupt 2026 将于 10 月 13 日在旧金山 Moscone West 开幕,现场购票价格会上涨,当前折扣票最高可省 100 美元,同类型第二张票享 5 折。大会设 6 个舞台、200+ 场议程,涵盖 AI、创业、金融科技等主题,并有 300+ 家公司参展的 Expo Hall。折扣票 299 美元起,被裁员工可 75 美元购买 Expo+ Layoff 票。

  11. TechCrunch · AI62

    Goodfire 推出 inside-out 监控,拦截失控 AI 智能体成本更低

    Goodfire 发布一种监控 AI 智能体的新方案,通过读取模型内部激活信号而非重读输出,来发现失控行为。在 Kimi K3 上监控约 1500 个会话成本约 51 美元,对比用较便宜模型逐步检查的 233 美元和顶级模型的约 10000 美元;探针捕获了 94% 的恶意黑客会话,并把 8.7% 的无害会话送去二次检查。

10月8日周四