Tag: 熵
《人有人的用途》 读书笔记2
《人有人的用途》(The Human Use of Human Beings — Cybernetics and Society)这本书是控制论鼻祖维纳(Norbert Wiener)的一本“科普书”,虽然只有100多页,我却是一本有深度的好书。第二部分笔记是书的第4~6章。 我曾经看过两本和经济学相关的畅销书,这种经济科普书中,常见类似“让你像经济学家一样思考”的宣传。书呢看了的确挺爽,思考世界的方式也很新鲜,但是看完之后并不能在头脑中留下系统的经济学知识体系,因此,这让我一直认为这类“经济科普”都是速食垃圾,读不得。 但这次再看完《人有人的用途》的几章,却动摇了我对那些科普书的看法。这是因为虽然我的专业与维纳相关,但我却从没有像他那样用信息、控制、反馈、计算、博弈的观点重新审视过这个世界。我虽不完全同意维纳所说,但就像经济学家可以用经济学的视角看世界,维纳也在用他的控制论视角看世界。如此看来,那些经济畅销书,还是有用的,不过我还是感觉先学经济知识,再看它们也许更好。 这三章中,维纳分别从控制论的角度描述了人类语言、有机生命和社会法律和人类的关系,下面是摘录和思考。。 第四章 语言的机制和历史 维纳的父亲是个语言学家,这章的篇幅也算是书中很长的。 (摘录)语言,从某种意义上讲来,就是通信自身的别称。 维纳认为人的语言、符号能力要远强于动物,这在于两方面:第一,信码是精巧和复杂的;第二,信码是有高度任意性的。 (摘录)人对语言的兴趣似乎是一种天生的对编码和译码的兴趣,它看来在人的任何兴趣中最近乎人所独有的。 虽然人类的语言的通信一般用于任何人的交流,但是维纳认为,用到人和机器、机器和人、机器和机器之间也是完全可能的。 (摘录)从线路到机器,中间还有一个转换过程,在这个阶段中,信息可以逸失而永不再得。……如前所述,这乃是热力学第二定律的控制论形式。 语言在进化的过程中也在和自然的通信干扰作博弈,比如一些人造语的词长分布和自然语言明显不同。 (摘录)语言的磨损可能是由几个原因引起的。语言也许只是力图反抗跟它捣乱的自然趋势,也许只是力图反抗人们有目的地搅乱其名义的企图。 把语言看成博弈,可以区分语言的两个变种:其一的主要目的是传送信息,另一的主要目的是把自己的观点强加到顽固不化的反对者头上。 维纳把人看做一种终端机器,那人和人之间就构成了通信网络,人和人的通信就分成了3个阶段: 语音阶段:人耳和脑中可能还存在类似滤波器的东西,高于或低于某个频率的声音即使有再多信息也无法接收。 语义阶段:如上所述,首先输入脑中的语音才能被解析出语义;且语义的翻译依赖长期的历史记忆;当一种语言和另一种语言不完全对等,就存在语义流动上的障碍。 (摘录:外国人讲的英语,是语义学上好的而语音学上差的英语;而普通人的酒后谈话,则是语音学上好的,语义学上不好的。) 行为阶段:指的是人由接收到语义可能导致的行为。 这三个阶段,信息量其实都是在减少的,这也符合热力学第二定律,如果信息在信道中被进行了任何干预,原有信息量必然是减小的,除非中途进行 馈进 。 (摘录)作为一门控制语言逸失的学科,控制论应用于语义学方面的愿望已经在若干问题上得到了实现……对行动有重要意义的,与其说是发出的信息量,不如说是进入通讯装置和存储装置的足以行动扳机的信息量。 第五章 作为消息的有机体 本章把有机体生命类比成消息。(有机体与混乱瓦解,正如消息与噪声间的关系) (摘录)在趋于毁灭的世界中,声明就是此时此地的一个孤岛,生命体抗拒毁灭和衰退这一总流的过程叫做稳态。 (摘录)……(我们会)生活到我们衰老速度大于更新速度为止 维纳认为人类等有机体可以看成一种 模式,这是因为我们的身体在不断代谢,组成人体的物质并非一成不变,只有“模式”是永存的。维纳的这种思想让我想到了当今的软件之于硬件,磨具之于产品,更直接的:3D打印。不过维纳更想说明的是,人类等有机体只是一种信息的形式,信息的传递比物质的传递更重要。(摘录:模式就是消息,它可以作为消息来传递。) 如果通信分为两种:物质运输和信息运输,那么两种之间也没有什么不可过渡的,只是当前的技术无法实现如此大量的基因数据传递(即使现在也不行),但是即使是人被交通运输向其他地方,维纳还是认为那本质上来说还是信息的运输。 以人体生殖细胞的结合与分裂为例,维纳认为“两部原先不相耦合的大型机器有可能耦合起来,从而从该阶段起像一部单一的机器那样工作。”,这我不禁想到当今的分布式系统、云计算的概念。 第六章 法律和通讯 正如第四章所说,语言是通信的形式之一,而法律则是语言的作用之一:用来“道德控制”。我觉得,媒体或者舆论应该在这方面也是类似的,都是用语言作为信息,让发信的一方的思想影响接收信息的思想,法律、新闻、舆论引起的社会后果便是信息传递后的反馈,这种反馈会再次作用到发信方,进行下一次“控制”。这种思想在维纳的这本书中也有体现。 维纳不仅强调了法律和语言通信的关系,还以契约法为例指出了法律必须有解释机构。“如果所用术语的意义未经确定或者它们的意义随法庭的不同而不同,则契约的双发就不能以任何正义来弄清订契约的意义了。”。我觉得,既然执行法律被类比为了通信,那么契约法律就类似我们现在常说的通信协议,收发双发事先的一致,才能有效的让有用的信息传递。 维纳还表达了他对当时刑法的不满,他说这是因为有人将刑法看做惩罚罪犯的手段,有人看做赎罪的仪式,有人看做隔离罪犯的手段,还有人看做道德改造的手段。因此,这导致了刑法制定的混乱。 (摘录)因为立法者或法官要对法律作出唯一正确的解释,因此,法律可以看做通信问题或者控制论问题,也就是说,法律的问题就是对若干危险情况进行只需和可重复的控制。 维纳还将当事人力图用法律条文赢得法官和陪审员的支持、律师有意图地引入混乱设法让对方的陈述无效类比为冯诺依曼博弈行为,或者一种互相的信息阻塞行为。 [1] 豆瓣读书–人有人的用处, https://book.douban.com/subject/1455960/
《人有人的用途》 读书笔记1
《人有人的用途》(The Human Use of Human Beings — Cybernetics and Society)这本书是控制论鼻祖维纳(Norbert Wiener)的一本“科普书”,虽然只有100多页,还是32开纸,但是我觉得却是一本有深度的好书。首先,这本书并没有任何公式和严谨的控制理论,还有很多恰当的小例子,因此特别易读;但是虽易读,并非无营养,相反,每一段、每个观点都可以细读,引发思考。 与“科普书”的定位相比,更应当注意的是这本书的副标题:“控制论和社会”,作者不仅让人信服的解释了熵的概念、(机器)学习的概念、语言信息传递的原理;也对法律、社会政策等方面的思考和讨论;最后时甚至对未来发展进行预测……行文间,作者的例子不仅涉及自己的控制论,还包括信息论、生物学、热力学、社会学等多方面的思考。更令人叹服的是,虽1954年成书时人工智能之一概念才刚刚起步,作者在这本当时的“科普”书中,就已经能够看出各种现在很火的统计机器学习、仿生神经网络等让机器从历史经验进行未来预测的思想! 我读这本书并不快,但第一次也只是匆匆略过,现在想抽时间再读一遍,准备记下好的观点和自己对应的思考。总之,这是一本连相关专业学生都无法当科普书来读的科普书。 第一章 历史上的控制论 其实控制论是属于信息论的。 在控制与通信中,我们要与组织性降低和含义受损的自然趋势( 熵增 理论)做斗争。 一个复杂的动作可以有如下定义:为了影响外部( 输出 )而引入了可以有大量组合的数据( 输入 ),这些数据可能是当下刚放入的数据,也可能来自过去 存储 的数据(记忆)。(我感觉这种观点其实类似计算机系统的输入输出I/O和存储区memory/storage) 机器对自己的动作的后果作为下一步动作的所需信息,即是 反馈 。 作者认为生命个体和机器都是利用反馈来控制熵的,控制中枢用 自己打算做的(目的信息) 和 外界运演过的(反馈信息) 进行动作。 第二章 进步和熵 这一章作者进一步通过热力学第二定律的角度解释 熵增 的概念。 机器不一定可以称作“生命”,但和生命类似的地方是都在 整体的熵增 中,实现了 局部的熵减 。 消息传递的产生,一定伴随着能量的损失。 第三章 定型和学习–通讯行为的两种模式 (关于反馈) (定型应该指的是人的构造决定了人的多样和创造力,学习比较类似反馈思想或者现在的机器学习思想,从发生过的事总结经验,或者发生过的对未发生的动作产生影响) (摘录)学习,和比较简单的反馈形式一样,也是一种从未来看过去和从过去看未来的有所不同的过程。 (摘录)能学习的生物是从已知的过去走向未知的未来,而未来是不能和过去互换的。 作者认为,双向通信在控制中很重要,(其实就是反馈)。作者还进一步讲了“ 社会反馈 ”的概念,比如阶层之间、君臣之间的通信有着特殊的限制,不同于一般人与人间的通信。 (人类社会与昆虫社会的区别源自机械定型) […]