Anthropic更新Claude政策:禁虐待模型与选举干预
先了解这件事
Anthropic一年多来首次更新Claude使用政策,新增禁止对模型实施持续且无必要的虐待或残忍行为,并将选举干预、武器开发、监控及健康与金融用途列为新的高风险滥用情形。Anthropic称,虐待条款仅适用于极端情况,即用户反复以残忍方式对待模型且无明显目的,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试与研究;终止对话仍是主要执行手段。 新政策还禁止利用Claude运营虚假账号或捏造新闻媒体,并设“不得破坏民主进程”章节,禁止欺骗选民或干扰选举。Anthropic表示,对于与某些政府客户的合同,若其判断合同使用限制和保障措施足以减轻潜在危害,这些规则可作调整。
AI 根据报道生成 · 刚刚更新
报道时间线
沿着报道,了解事件的不同侧面。
- The DecoderAnthropic 更新使用政策:持续辱骂 Claude 可被封号
Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规用户可能被警告、限流、限制、暂停或终止访问。Anthropic 对 The Verge 表示该规则只适用于极端情况,不涉及正常的不满或研究。新政策还把虚假账号宣传、误导性政治内容、武器与无人机武器化、未经同意的监控等纳入限制,并承认政府合同可能存在例外。
- TechCrunch · AIAnthropic 更新使用政策:禁止模型滥用与选举干预
Anthropic 周四更新使用政策,新增禁止选举干预、武器软件、监控以及长期辱骂模型等条款。新政策明确禁止用户持续对模型进行言语辱骂,但仅适用于用户反复恶意攻击且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创意主题。政策还禁止利用 Claude 运营虚假账号或捏造新闻媒体,并设“不得破坏民主进程”章节禁止欺骗选民或干扰选举。
- The Verge · AIAnthropic 更新使用政策,禁止对 Claude 的持续虐待行为
Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,终止对话仍是主要执行手段,该条款仅适用于极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。