沃尔特·皮茨：神经元模型与陨落的天才
最后更新于
最后更新于
沃尔特·皮茨：神经元模型与陨落的天才
“你在「鳄鱼与蛇」中学到的「感知器模型」，其实是建立在「M-P 神经元模型」的基础之上，这个模型也被视为神经网络的真正起点。它的提出者之一沃尔特·皮茨是罕见的数学天才，试图以逻辑定义世界，却也死于逻辑缺失造成的巨大虚空。”
人脑是如何思考的？
如果你完成了《机器学习：一个人工智能的诞生》中「鳄鱼与蛇」的学习，想必对此已经有了答案。
人类大脑中的 850 亿个神经元尽忠职守地执行着分类任务，接收上游细胞传来的电信号再进行判断，如果这些电信号之和大于某个阈值，就将它们继续向下传递。
这个过程可以被简化成一个用数学表示的神经元模型：
教科书上的表示则是这样：
M-P 神经元模型 | 周志华《机器学习》
这就是「M-P神经元模型」，包含输入、输出与计算功能。它由逻辑学家沃尔特·皮茨连同神经科学家沃伦·麦卡洛克于 1943 年提出，发表在他们合著的论文《神经活动中内在思想的逻辑演算》中，自此，人类的思考模式开始被数学解读，人工智能的基石开始搭建。
然而，与之相对的，人的际遇却不能被逻辑和数字轻易推论，特别是在皮茨身上。
1935年，为了躲避邻居男孩们的霸凌，12 岁的皮茨跑进了图书馆，用三天读完了将近 2000 页的《数学原理》。那是英国哲学家、数学与逻辑学家罗素和他的老师所著的一本数学书籍，意在阐释所有数学问题在原则上都能通过逻辑证明。这种思想深远地影响了皮茨此后的学术活动。
皮茨出生在「咆哮的二十年代」（Roaring Twenties）的底特律，那正是一战结束之后、《了不起的盖茨比》中所描绘的繁荣时代。北美的经济规模开始凌驾于欧洲之上，现代科学与新兴艺术飞速发展，然而，这些浮华并没有延伸到工人阶级，超过 40% 的美国人仍然生活在贫困线以下，随之而来的大萧条更是将很多人的生活推向寒冬。皮茨也并非那个时代里的 「幸运儿」。
沃尔特·皮茨 | New Scientist
他的父亲是个有暴力倾向的锅炉工人，几个兄弟也全都没有受过教育。依靠自学掌握了希腊语、拉丁文和数学、逻辑学的皮茨，显然是个家族异类。而他的天分还远不止于此。
皮茨在《数学原理》的第一卷中发现了一些错误，并写信告诉了罗素。远在英格兰的罗素收到信后大为震惊，回信邀请皮茨到剑桥跟他学习。连高中都无法读完的皮茨自然不能负担这样的远洋行程，但在三年后，当他听说罗素将到芝加哥大学访问时，便毅然决然地离家出走，奔赴芝加哥。自此，他拒绝再和自己的家人见面。
在芝加哥，罗素将皮茨引荐给逻辑实证主义的代表人物、当时已在芝大任教的鲁道夫·卡尔纳普。在卡尔纳普的办公室里，皮茨向他展示了自己关于《语言的逻辑句法》的笔记 —— 那正是卡尔纳普的著作。惜才的卡尔纳普给皮茨在芝大安排了一份清洁工作，这并不是多么受人尊敬的职业，却使皮茨能够留在芝大的校园里，并不时溜进罗素的课堂。他还在那里结识了医学预科生杰罗姆·莱特文，他们与其他两位学者合著的论文《青蛙的眼睛把什么告诉了青蛙的大脑》（What the frog's eye tells the frog's brain）成为了被引用次数最多的科学论文之一。
然而，与沃伦·麦卡洛克的相识才是皮茨学术之路上最重要的里程碑。麦卡洛克与皮茨有着截然不同的人生底色，他出生于东海岸一个富裕的知识分子家庭，从小便接受着精英教育，对数学、哲学、心理学、神经生理学都颇有研究。在和 18 岁的皮茨相遇时，麦卡洛克 42 岁，已经是位颇受尊敬的科学家，他不认可当时盛行的、弗洛伊德的精神分析学说，坚信智能必有逻辑可循。在莱特文的介绍下，两人惊讶地发现，他们都对那本《数学原理》印象深刻，也都将莱布尼茨视为偶像 —— 这位「十七世纪的亚里士多德」秉持符号思维，认为人类思维可以被简化为一系列可被组合和操作的符号，从而使知识和观点能够被清晰计算。
沃伦·麦卡洛克 | Semantic Scholar
彼时的麦卡洛克正在试图运用莱布尼茨和罗素的逻辑观点来研究人类大脑，他已经意识到，神经元对电信号的接受和发射类似一个二元的逻辑判断器，只有「开火」（是）和「不开火」（否）两种状态，并且神经元可以接收多个电信号，而只向下传输一个电信号，因此，通过改变神经元的激发阙值，就可以让它执行「与」、「或」以及「非」的函数功能。同时，来自图灵的论文也启发了他，麦卡洛克由此相信，人脑可以被视为机器 —— 一台通过神经元进行计算的机器，只要把更多的神经元联系起来，就能形成更复杂的智能。
然而当时，他的研究正陷入瓶颈。神经元仿佛衔尾蛇，总是前后相连，在一个神经网络中，最后一个神经元的输出将会成为第一个神经元的输入。假设第一个神经元在 t 时被激活，下一个神经元则在 t+1 时被激活，以此类推，直到最后一个神经元。然而，此时的 t+1 时刻却是在第一个神经元被激活的时间 t 之前。结果变成了起因，未来变成了历史，「时间」的概念开始变得混乱。很长一段时间里，麦卡洛克都对这个悖论束手无策，直到他向皮茨阐述了自己的想法。
皮茨几乎立时理解了这一切，并且想到了模数。在模数中，t+1 在 t 之前并不是悖论，因为模数中的有限个数字是无限循环的，时间上的「在前」或「在后」没有意义，信息永远在这个循环中流动 —— 这或许可以解释「记忆」的形成。
很快，皮茨加入了麦卡洛克的研究团队，并搬到芝加哥市郊，住进麦卡洛克家里。那是一个波西米亚式的自由家庭，芝加哥的知识分子和艺术家常常来访，皮茨在此度过了相当理想的一段时光，白天讨论诗歌、哲学与政治，晚上则和麦卡洛克一起，为搭建人类大脑的数学模型熬至深夜。麦卡洛克强于神经科学，皮茨则是少见的数学天才，他们的研究成果就是前面提到的「M-P 神经元模型」。尽管在当时没有受到太大重视，但这个模型却是实际意义上人工神经网络的奠基之作，将人类思维从生理学的范畴转换到数学范畴，为使用计算机模拟人脑铺平了道路。从简单的单层感知器，到微软赢得 2016 年 ImageNet 竞赛的 152 层深度神经网络，都是以它作为基本模块。
有人称麦卡洛克是皮茨的「养父」，无论这个说法他们本人是否承认，皮茨的确从麦卡洛克那里得到了他过去曾缺失的许多「生命养分」：知识、认可、支持，和关爱。他们之间的感情延续终生。
1943 年，皮茨被莱特文介绍给控制论的奠基人、在麻省理工学院任教的诺伯特·维纳，那时的维纳正缺少一个学术上的得力助手。在维纳的支持下，连高中都没有读完的皮茨开始在麻省理工攻读博士学位，希望将神经元模型从二维拓展为三维，并将固定函数模型替换成概率模型。他猜想基因并不能设定好所有的神经突触连接，但随着对神经元阈值的不断调整，神经网络将会越来越「聪明」。而维纳则意识到，只要模仿这个机制，机器就能够「学习」了。
诺伯特·维纳 | The Newyork Time
也是在这期间，皮茨通过维纳结识了更多的控制论学家，包括冯·诺依曼。正是在「M-P 神经元模型」的启发下，诺依曼撰写了第一份关于现代计算机的文献 ——《EDVAC 报告书的第一份草案》。在那个被称为「控制论专家」的小团体里，皮茨毫无疑问是人群的中心人物，「从没有人敢不经他的修改或认可就发表论文」。然而，在 1952 年，皮茨和维纳的友谊却永远地终止了。
那时，麦卡洛克受邀来到麻省理工学院，主持一个脑科学项目。他和皮茨、莱特文，以及维纳这些智慧的大脑，又重新聚合在一起。神经科学、控制论、人工智能、计算机科学，灵感的火花亟待碰撞，准备着开启一个新的智能时代。然而，维纳的妻子却对此非常不满。
她是个保守又颇有控制欲的人，无法接受麦卡洛克带给维纳的那种自由开放的生活方式，比如裸泳。于是，她告诉维纳，在麦卡洛克带来的那帮年轻人里，有人引诱了他们的女儿。维纳因此大怒，告知麦卡洛克，他和他们之间的合作永远地结束了。皮茨就这样失去了一位如父如兄的学术伙伴，而且终生不知道这场决裂的原因 —— 维纳再也没有和他通过话。
在巨大的情感创伤之后，思想困境也向皮茨悄然逼近。他参与了莱特文主导的「青蛙研究」，将电极附在青蛙的视神经上，以研究视觉的形成。过去，视网膜被视为光的受体，视神经仅仅是光的传输者，真正能对图像作出判断的是大脑，而莱特文的实验却证实了，视神经已经可以对光信号作出初步筛选。
莱特文与皮茨的「青蛙研究」| New Scientist
这一研究成果被写成论文发表，也就是前面提到的那篇《青蛙的眼睛把什么告诉了青蛙的大脑》，启发了之后的神经科学、生理学和认知研究，却颠覆了皮茨「逻辑至上」的世界观。此前他一直坚信，智能依赖的是大脑，并且遵循严密的数理逻辑，然而事实证明，大脑不是信息的唯一处理场所，纯粹的数学也很难解释清楚人脑和智能的关系。自然选择了难以阐释的杂乱，而非可以推理的严谨。
他悲观地表示，「既然我们不能证明『太阳明天会升起』，甚至不能给出一个先验概率，我们就真的不能相信它。」
双重打击之下，皮茨常年承受的抑郁情绪变得更加严重。他开始酗酒，酒精严重干扰了他的研究，也使他的情绪更加不稳定，以至于在即将被授予博士学位时，他却将自己的博士论文和其他未发表的成果付之一炬。那应该是一些对神经科学、控制论和人工智能领域意义非凡的作品，却无法被找回一丝一毫。此后，尽管他仍然受雇于麻省理工，却几乎不与人交谈，常常失踪，像当年那个 12 岁的男孩一样，躲进某个由酒精铸成的堡垒。除了一篇与他人合著的关于嗅觉的论文外，他再未达成任何学术成果。
1969 年春天，皮茨因为酗酒导致的肝脏问题入院治疗，而此时的麦卡洛克也早因心脏问题住进医院。皮茨在病床上写信给麦卡洛克，「我知道你的冠状动脉十分脆弱……护士在你身上连接了很多接着监视屏和警报器的传感器，以至于让你无法在床上翻身。毫无疑问这就是控制论，但这一切都让我感到极度悲哀。」三周后，皮茨因食道出血，在一家寄宿机构独自去世，而四个月后，麦卡洛克也停止了呼吸。
没人知道，如果皮茨没有烧掉自己的那篇博士论文，人工智能的时代会不会更早开启。尽管人类思维不能被单一的数学模型简单解释，但皮茨和麦卡洛克的研究却将思维从弗洛伊德式的心理分析转换到计算领域，证实了人脑可以被视为机器的可能性。皮茨的广博学识还体现在其他方面，比如化学、动物学、解剖学和生理学，但逻辑是他的唯一信仰，也是最终导致他走向崩溃的主因 —— 相似的故事，也发生在科幻小说《三体》之中。
在皮茨之后，弗兰克·罗森布拉特改进了「M-P 神经元模型」，提出了「感知器模型」，通过调整模型中的一些规则，使人工神经元可以从数据中学习。然而，如同你在《一个人工智能的诞生》中看到的那样，感知器模型不能解决异或问题，这个缺陷直接导致了 1980 年代的「人工智能之冬」，也同样对罗森布拉特造成了巨大打击 —— 他的意外去世很可能是出于失望的自杀。
科学之路的探索就是这样，人类必须以热情、天赋、耐性与强健的精神，和大自然的神秘内核对抗，且永无止境 —— 你知道的越多，知道的就越少。但如果回头看看，从皮茨的时代到今天，神经网络已经有了翻天覆地的进步，而它们的起点，正是皮茨和麦卡洛克的研究。皮茨绝非他自以为的「失败者」，而是往未知之地踏出第一步的真正勇士。
(1) 周志华. (2016). 机器学习. 北京: 清华大学出版社.
(2) 尼克. (2017). 人工智能简史. 北京: 人民邮电出版社.
(3) Amanda Gefter. (2015). The Man Who Tried to Redeem the World with Logic. https://nautil.us/issue/21/information/the-man-who-tried-to-redeem-the-world-with-logic
(4) Jean-Christophe B. Loiseau. (2019). Rosenblatt’s perceptron, the first modern neural network. https://towardsdatascience.com/rosenblatts-perceptron-the-very-first-neural-network-37a3ec09038a
(5) 人工智能见闻. (2021). 悲情天才皮茨传. https://baijiahao.baidu.com/s?id=1711928406850101691
(6) Douglas Heaven, mints. (2018). 陨落的天才. https://www.psychspace.com/psych/viewnews-14228
(7) 莘莘. (2018). 寒门子弟逆袭MIT，刚刚走红就被导师遗弃，生无可恋烧毁绝世论文. https://www.sohu.com/a/282137299_465226
(8) 物随心转. (2020). 人工神经网络——神经元模型介绍. https://blog.csdn.net/sinat_31608641/article/details/104728317
