[深度学习之美10】Hello World，感知机
由ypyu创建，最终由ypyu 被浏览 5 用户
背景
感知机（Perceptrons），受启发于生物神经元，它是一切神经网络学习的起点。很多有关神经网络学习（包括深度学习）的教程，在提及感知机时，都知道绕不过，但也仅仅一带而过。学过编程的读者都知道，不论是哪门语言，那个神一般存在的开端程序——“Hello World”，对初学者有多么重要。可以说，它就是很多从事计算机行业的人“光荣与梦想”开始的地方。
而感知机学习，就是神经网络学习的“Hello World”，所以对于初学者来说，它值得我们细细品味。
罗森布拉特其人
虽然前面章节讲到的M-P神经元模型，是感知机中的重要元素，但需要说明的是，“感知机”作为一个专业术语，是皮茨等人发表论文15年之后，即在1958年，由康奈尔大学心理学教授弗兰克•罗森布拉特（Frank Rosenblatt）提出来的。
这位罗森布拉特，说来也是一位奇人，不仅聪慧过人，爱好亦颇为广泛。除了平时酷爱钻研大脑的学习迁移机理之外，他还“折腾”天文学。据说罗森布拉特的一天通常是这样度过的：白天在实验室解剖解剖蝙蝠，研究一番动物大脑的学习机制，夜晚则在自家的后山上，搭建一所简易天文台，仰望星空，试图和外太空的生命对话。
1949年，唐纳德•赫布（Donald Hebb，1904—1985）出版的《行为的组织》中，提出了神经心理学理论。赫布假说深化了或者说细化了M-P神经元模型。他认为，神经网络的学习过程，最终是发生在神经元之间的突触部位。突触的连接强度，会随着突触前后神经元的活动而变化，变化的幅度与两个神经元之间的活性和成正比。
赫布的假说进一步启发了罗森布拉特。1958年，罗森布拉特发明了感知机，在工程上，模拟实现了赫布假说。利用自己设计的感知机，罗森布拉特做了一个在当时看来非常令人“惊艳”的实验（参见图7-1），实验的训练数据是50组图片，每组两幅，由一张标识向左和一张标识向右的图片组成。
图7-1 罗森布拉特（右）和合作伙伴调试感知机
每一次练习都是以左面的输入神经元为开端，先给每个输入神经元都赋上随机的权重，然后计算它们的加权输入之和。如果加权和为负数，则预测结果为0，否则，预测结果为1（这里的0或1，对应于图片的“左”或“右”，在本质上，感知机实现的就是一个二分类）。如果预测是正确的，则无须修正权重；如果预测有误，则用学习率（Learning Rate）乘以差错（期望值与实际值之间的差值），来对应地调整权重，如图7-2所示。
图7-2 罗森布拉特提出的感知机模型
学着，学着，这部感知机就能“感知”出最佳的连接权值。然后，对于一个全新的图片，在没有任何人工干预的情况下，它能“独立”判定出图片标识为左还是为右。这个过程，不就与小孩子的学习差不多吗？儿童成长的第一阶段（从出生到2岁，相当于婴儿期）就是感知阶段。此阶段的儿童主要靠感觉和动作探索周围的世界，逐渐形成物体永存性观念，慢慢就有了自己对事物的独立判断。
来自纽约时报的吹捧
在发明感知机之后，时年30岁的罗森布拉特，意气风发，迫不及待地召开新闻发布会，畅谈自己研究成果的美好未来，吸引了众多媒体的极大关注。其中，就包括大名鼎鼎的《纽约时报》（The New York Times）。
纽约时报记者对科技非常敏感，也被罗森布拉特发明的感知机模型所折服。1958年7月8日，《纽约时报》在头版报道了罗森布拉特的研究成果，报道的题目为“New Navy Device Learns By Doing（海军新设备能够做中学）”。
如果读者不了解当时的研究背景，在看到这个题目时，可能会一头雾水：为什么是海军设备呢？这篇文章的报道背景是：罗森布拉特等人从事的研究，受到了美国海军经费的支持，把研究成果（感知机）报道为“海军设备”，当然不为过[1]。
《纽约时报》记者对感知机的先进性赞不绝口，报道说，
“这是一个能够行走、拥有视觉、能够写作、能自我复制，且有自我意识的电子计算机的雏形”。
要知道，文章刊发时，距离标志着人工智能学科诞生的达特茅斯（Dartmouth）会议（1956年夏季）的召开，仅仅过去两年。纽约时报对人工智能的憧憬，放到六十多年后的今天，仍然毫不过时。文章当时还非常乐观地估计，
“再花上10万美元，一年以后，上述构想就能实现可期。那时，感知机将能够识别出人，并能叫出他们的名字，而且还能把人们演讲的内容即时地翻译成另一种语言或记录下来。”
可能是嫌《纽约时报》的报道不够深入，在那篇头版文章发表几天后，1958年7月13日，罗森布拉特亲自上阵，撰文于《纽约时报》，文章的题目是“Electronic 'Brain' Teaches Itself（能自学的电脑）”。 当下，我们常爱用“电脑”称呼“计算机”，如果追溯起来，或许这个词最早就是罗森布拉特杜撰出来的。
图7-3 能自学的‘电脑’
在那篇亲笔题写的文章里，罗森布拉特正式把自己设计的算法，取名为“感知机”。同时，他不忘“吹捧”自己研究成果的历史地位：
不依赖于人类的训练和控制，感知机有望成为能感知、会识别、可确认周边环境的第一个非生命机理。
六十年过去了，有个叫凯文•凯利（Kevin Kelly）的科技预言家，写了一本很有影响力的书，叫《必然》[2]。在书中，凯文•凯利说，
未来科技将有12大进化趋势，其中第2大趋势就是“知化（Cognifying）”。
那什么是“知化”呢？所谓的“知化”，就是让一个事物具备认知能力。
凯文•凯利认为，人工智能的本质就是“知化”，即硬件问题软件化。现在，细想一下，罗森布拉特提出的感知机的构想，大概就是一种“知化”的体现，在当时的确是属于最先进的人工智能，因为他的畅想放在六十年后的今天，仍不过时。
\