感知机
1958 年,计算机做什么都要人一步步写好。弗兰克·罗森布拉特想造一台能从例子里学的机器。康奈尔航空实验室造出的 Mark I 感知机,用 20 × 20 个光电池看一张字母,经一块随机接线的插线板传给 512 个联想单元,再由电动机转动的电位器加权,交给 8 个响应单元回答。答错了,电位器就转一格。
向下滚动
从例子里学
1957 年,在纽约州布法罗的康奈尔航空实验室,心理学家弗兰克·罗森布拉特提出一种「感知机」:它不靠程序,而是看一张张图,被告诉对错,自己调整,直到能把图分对。
1958 年他在《心理学评论》上写出了它的结构:感觉单元(S)接收图像,联想单元(A)随机地接在感觉单元上,响应单元(R)把联想单元的信号加权求和,给出回答。学习只改最后这一层的权重。
海军研究署出钱,项目叫 PARA。造好的机器叫 Mark I。
感觉单元 S → 联想单元 A(随机、固定)→ 响应单元 R(权重可调)
「计算机的胚胎」
1958 年 7 月,海军研究署公开展示感知机。那时 Mark I 还没造好:演示用的是一台 IBM 704 计算机上的模拟程序。它读入一张张穿孔卡片,试了 50 次之后,学会分出记号打在左边的卡片和打在右边的卡片。
第二天《纽约时报》的标题是「海军新装置边做边学:心理学家展示一台为阅读和变聪明而设计的计算机的胚胎」。报道里说,海军期望它将来能走路、说话、看、写、自我复制,并意识到自己的存在。
真机后来做的事要具体得多,也有限得多。
1958 年 7 月的演示:IBM 704 上的模拟,50 次后分出左右记号
四百个光电池
机器的眼睛是一台相机。黑板上一个白色字母,两盏灯照着;镜头把它投到相机后部一块 20 × 20 的光电池板上,每格一个硫化镉光电池,光越亮电阻越小。像是倒的,左右也反了,这对机器没有分别。
机柜最左边上方是感觉单元监视器,400 盏小灯一格对一格地亮出光电池看到的图;下面一扇门上有 400 个手动开关,不用相机也能直接拨出一张图。
20 × 20 = 400 个硫化镉光电池 · 监视器 400 盏灯 · 手动刺激开关 400 个
随机接线
两扇门后是一块大插线板:一边是光电池的插孔,一边是联想单元的插孔,中间垂着成团的跳线。每个联想单元接着若干个光电池。在罗森布拉特的设计里,有的连接推它发放(兴奋),有的拦着它(抑制);兴奋的信号减去抑制的信号超过阈值,它就发放。
接哪几个是按随机数表插的,为的是不给机器预先埋下任何偏向。这层接线插好就不再动,机器学习时它一根也不改。
光电池 → 联想单元:按随机数表接线 · 学习时不改
会转的电位器
Mark I 有 512 个联想单元、8 个响应单元。每个联想单元到每个响应单元的权重是一只电位器,由一台小电动机带着转。
一个响应单元把所有正在发放的联想单元的权重加起来,和超过阈值就亮灯,回答「是」;不超过就不亮。8 个响应单元可以各管一个字母,也可以合起来组成一个二进制编码。右边的仪表盘显示这些和。
512 个联想单元 × 8 个响应单元 · 权重 = 电动机转动的电位器
答错了才转
训练时,操作员给机器看一张图,并告诉它对的回答。哪个响应单元答错了,就把这一刻正在发放的联想单元接到它的电位器各转一格:该亮没亮,往大转;不该亮却亮了,往小转。答对的不动,不发放的联想单元也不动。
这条规则叫误差校正。1962 年,诺维科夫证明:只要存在一组权重能把所有图分对,按这条规则训练,出错的次数一定有限,机器最后一定会分对。
错了:发放的单元,各转一格 · 对了:不动
拆开来看
从左往右:黑板和灯、相机和它的台座、感觉单元的监视器和开关、插线板、联想单元的柱子、响应面板、仪表面板。两个机柜加起来宽约 3.4 米,高约 2 米,深 64 厘米。
史密森尼博物馆按左右顺序记下了它:顶上标着 MARK I 的是插线板那一柜,标着 PERCEPTRON 的是电位器。
剖开相机
把相机剖开:镜头、皮腔、后部的光电池板。黑板上的白色字母落在板上是倒过来的一块亮斑,亮斑下的光电池电阻变小,信号沿电缆走进机柜。机器后面所有的计算,都只从这 400 个数开始。
镜头成倒像 · 400 个数是机器知道的全部
它学会了什么
实验由约翰·海主持。他教 Mark I 分辨字母 E 和 X:即使操作员故意报错三成,机器最后也分得全对。它学会了认八个字母,字母是大号的印刷体,出现在视野里的任意位置。
固定位置的 26 个字母,用 5 个响应单元组成二进制编码,也学会了;罗森布拉特写道,这差不多是 Mark I 的容量上限。同时认两种字体的 26 个字母,最好只到约 85%。
E 对 X:全对 · 八个字母、任意位置:学会 · 26 个字母、固定位置:学会 · 两种字体:约 85%
学不会的事
一个响应单元做的事,是在所有联想单元的信号上划一条线。线能划开的,它一定学得会;划不开的,怎么转电位器都没用。最简单的例子是「异或」:两个点只亮一个时回答是。直接接在两个点上的单个单元,永远学不会。
1969 年,明斯基和派珀特在《感知机》一书里证明:像「亮点的个数是奇数还是偶数」这样的问题,必须有联想单元同时看到整张视网膜的每一个点;判断图形是不是连成一片,要看的点数也随视网膜变大而增长。每个单元只接有限几个点的 Mark I 学不会它们。机器在这里练很久,见过的图仍有错,没见过的图只对一半,和猜一样。
能用一条线分开:一定学会 · 奇偶、连通:每个单元只看有限几个点时学不会
今天的网络
罗森布拉特知道问题出在中间那一层是随机的、不会学。1986 年,鲁梅尔哈特、辛顿和威廉斯发表了反向传播:把误差一层层往回传,所有层的权重都跟着调。今天的神经网络就是这样训练的,单元仍然是「加权求和、过一道门槛」,只是有几十上百层,权重从几千个变成几千亿个,存在内存里,不再靠电动机转。
Mark I 在 1967 年由海军研究署转给史密森尼,现在是国家美国历史博物馆的藏品,目前没有展出。罗森布拉特 1971 年在切萨皮克湾驾帆船时溺水,那天是他 43 岁生日。
1957 提出 · 1958 IBM 704 演示 · 1960 Mark I 手册 · 1969《感知机》· 1986 反向传播
教它认字
选一个任务,按「训练」,看错误一轮轮减少,电位器一格格转。也可以在格子上自己画一张图,看机器怎么回答;把奇偶任务也试一下。
试一试教机器分「E」和「X」,几轮就不再出错;教它分「亮点是奇数还是偶数」,练很久,见过的图也还会错,没见过的只对一半。为什么一个能学会,一个学不会?
模型省略了什么
机器的布局和尺寸按史密森尼的记录和操作手册的照片做;外壳的细节、柱子里联想单元模块的排法、插线板上插孔和跳线的数量是我们定的(真插线板上的线要多得多)。我们给 8 × 512 个权重各画了一只带电动机的电位器;资料里写明了权重是电动机转动的电位器,但我们能读到的资料里没有写 Mark I 一共装了多少只。模拟里每个联想单元接 40 个随机的光电池,20 个兴奋、20 个抑制,阈值 2(二手资料说 Mark I 每个联想单元最多 40 根输入;兴奋与抑制的比例和阈值是我们取的),使一张字母大约让六分之一的单元发放。电位器在模型里是 ±120 格的整数,响应单元的阈值也按同一规则训练。相机前的图是一块画着白字母的黑板加两盏灯,和照片一致;资料还提到用幻灯机投影,模型没有画。八个字母各用一个响应单元回答,Mark I 也用过二进制编码。
几个常见的误解
1958 年那次轰动的演示不是 Mark I,而是 IBM 704 上的程序。Mark I 学习时只改联想单元到响应单元的权重,随机接线那一层一直不变,所以它不是今天意义上的多层网络。明斯基和派珀特没有说多层网络做不到异或;他们证明的是:像 Mark I 这样只有一层可学、每个联想单元只看有限几个点的机器,学不会奇偶和连通这类问题。机器在奇偶上「练很久还会错」,并不是练得不够:这类问题根本不存在能分对的那组权重。
资料来源
- 史密森尼国家美国历史博物馆:Electronic Neural Network, Mark I Perceptron(1987.0819.01;两部分 199.4 × 194.3 × 64.1 cm、200.6 × 146 × 64.7 cm;左起依次为感觉单元、插线板、电位器、响应面板、仪表面板;1967 年转入)
- F. Rosenblatt:The perceptron: a probabilistic model for information storage and organization in the brain,Psychological Review 65(6):386–408(1958)
- F. Rosenblatt:The Perceptron — a perceiving and recognizing automaton,康奈尔航空实验室报告 85-460-1(1957)
- J. C. Hay 等:Mark I Perceptron Operators’ Manual(Project PARA),康奈尔航空实验室报告 VG-1196-G-5(1960 年 2 月)
- 操作手册图 2:Mark I 各部分(相机、感觉单元监视器、手动刺激开关、插线板、联想单元、响应面板、仪表面板)
- F. Rosenblatt:Principles of Neurodynamics,康奈尔航空实验室报告 VG-1196-G-8(1961):8 个响应单元、512 个联想单元;电动机转动的电位器和插线板;E 与 X、八个字母、26 个字母的实验
- F. Rosenblatt:Perceptron Simulation Experiments,Proceedings of the IRE 48(3)(1960)
- 康奈尔纪事(2019):1958 年 7 月 IBM 704 演示、《纽约时报》标题、罗森布拉特生平
- 《纽约时报》1958 年 7 月 8 日:New Navy Device Learns By Doing
- M. Minsky、S. Papert:Perceptrons(MIT Press,1969;增订版 1988)
- A. B. J. Novikoff:On Convergence Proofs for Perceptrons(斯坦福研究所,1963;会议论文 1962)
- D. E. Rumelhart、G. E. Hinton、R. J. Williams:Learning representations by back-propagating errors,Nature 323(1986)
本页的文字、图片和模型采用 CC BY-NC 4.0 许可:可以免费用于教学和其他非商业用途,可以修改,请注明出自 world.lapla.si。上面列出的第三方素材仍按各自的许可。



