人工智能研究员 Nick Cammarata 发表了一篇长文，我英文不好，也不是技术领域专家。粗略读过，感觉意思是说：以前大家以为的神经网络不可理喻，其实是人类的认知错误——神经网络本身逻辑清晰。
拿神经网络里的一个具体神经元 4e:55 举例子，它既被猫脸激活也会被汽车前脸激活。人们误以为神经网络用高维空间搞出了猫和车的叠加态，总想区分开，找到一个专门的被猫激活的「猫神经元」。Nick 则认为完全没必要，也不必训练新模型来展开折叠区分猫和车，而是应该直接研究神经网络本身，按照神经网络的逻辑来理解，根本不存在叠加，分类清晰，猫下巴和车前脸都归属于 V 形这个几何意象类别……
关于这篇文章，显然我远没能清晰解读它。不过，我好像突然知道为什么 AI 总是让人们欣喜又警惕、摇摆不定了。人类制造了不趁手的工具时就会改造它，让它顺手，诚然工具的材质、属性，也要选择合适的来使用，但那些是自然的规律、上帝的造物。而大语言模型，不是因为电子的属性，不是因为硬盘的材质，就只是作为人类的造物、工具本身，却需要人类学习它的逻辑，就像学习如何顺应水流、接受光照一样。欣喜或警惕，都是很自然的反应。