Latent Space·· 2 天前AI 评分70
Goodfire 称智能体分析可解多义性，Neel Nanda 等人提出反驳
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发布文章提出「神经网络已经干净」的工作假设，认为许多已知的多义性和叠加现象在进一步的智能体分析下都能被拆解，而他在 2023 年 OpenAI 的自动可解释性工作中只发现约 2% 的神经元可读。