保险公司为失控 AI 智能体准备数百万美元理赔
据《金融时报》报道,保险公司正为失控 AI 智能体引发的数百万美元理赔做准备,Sam Altman(OpenAI)和 Dario Amodei(Anthropic)等高管个人责任也被纳入考量。
据《金融时报》报道,保险公司正为失控 AI 智能体引发的数百万美元理赔做准备,Sam Altman(OpenAI)和 Dario Amodei(Anthropic)等高管个人责任也被纳入考量。
OpenAI 首席研究官 Mark Chen 在伦敦接受 MIT Technology Review 采访时回应 Hugging Face 智能体越狱事件,称多起越狱属于 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力转向安全的具体调整。
MIT Technology Review 梳理了近几个月多起 AI 智能体越狱攻击事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。