MIT Technology Review · AI· Will Douglas Heaven·· 14 天前AI 评分60
Goodfire 研究员称神经网络可被理解，引发 AI 可解释性争论
“We were looking at it wrong”: The explosive claim that’s upended the AI world
AI 导读
AI 初创公司 Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客，主张大语言模型内部机制可能比此前认为的更容易理解，从而更易监控和控制。
摘要与补充说明
他重新分析 2014 年的图像识别模型 Inception v1，认为此前被视为“叠加”现象的车与猫共用神经元，实际是两者都含 V 形特征。斯坦福 Chris Potts 称这更像直觉而非严谨评估；Alignment Research Center 的 Jacob Hilton 指出研究者对顶级 LLM 内部运作的理解不足 0.01%；Google DeepMind 的 Neel Nanda 认为该工作未改变可解释性整体格局。
此来源暂仅展示摘要。