Common Sense Media 评 ChatGPT 青少年版风险
热点事件历史事件
Common Sense Media 评 ChatGPT 青少年版风险
3 篇报道3 个报道来源11 天前更新
先了解这件事
AI 综述
非营利机构 Common Sense Media 评估称，OpenAI 的 ChatGPT for Teens 对未成年人构成“不可接受的风险”，呼吁在独立测试确认安全前禁止青少年使用。该机构称，在十多个新建并关联家长账户的测试账号中，涉及自杀、自残和饮食失调的明确对话从未触发家长通知；超过四分之一本应提供危机转介的情境未指向专业帮助；注册为成年人的测试账号即使数天后、测试者自称 13 岁也未切换到青少年模式。 OpenAI 反驳称，对 Common Sense Media 测试方法的审查显示，其大部分测试可能在家长控制功能完全启用前就已开始并结束，因此结论不准确；OpenAI 还表示，在测试后披露家长通知等系统在新关联账户上可能需要数小时才能激活。OpenAI 同时公布自身数据称，青少年平均每天使用该服务不足 15 分钟，不到 2% 的青少年连续使用超过三小时。
AI 根据报道生成 · 10 天前更新
最新进展10月8日 02:15
Common Sense Media 研究称 ChatGPT for Teens 在心理危机中仍鼓励继续对话报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- TechCrunch · AICommon Sense Media 研究称 ChatGPT for Teens 在心理危机中仍鼓励继续对话
Common Sense Media 发布研究，将 ChatGPT for Teens 评为“不可接受的风险”，认为其设计仍在鼓励青少年持续对话，即使在危机情境中也是如此。
10月7日
- The Decoder精选Common Sense Media 将 ChatGPT 青少年版评为不可接受风险，家长警报在自杀对话中未触发
Common Sense Media 青年 AI 安全研究所用 4000 多条测试提示评估 ChatGPT 青少年版，将其评为对未成年人的不可接受风险，并呼吁在独立测试确认安全前禁止青少年使用。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 存在不可接受风险，OpenAI 反驳其测试方法
非营利机构 Common Sense Media 评估认为，OpenAI 的 ChatGPT for Teens 存在“不可接受的风险”，称其未在应发出时向家长发送警报、在危机情境下未提供恰当帮助，且仍会替孩子做作业。