无中生有丨Luo song 读《失控》
2023/2/18 23:34:37 认知演化论

    

     PS：这是斯人读书会《失控》共读的前三次(共四次)读书笔记合辑，作者Luo song

     1/

     第一次读书笔记参考主题——谈一下对蜂群原理的认识三个引导问题：1、简述蜂群理论2、蜂群理论旨在说明什么问题？3、蜂群理论的本质是什么？凯文·凯利在《失控》一书中描述了蜂群理论，认为蜂群行为是一种高度协调的、分布式的群体智能系统，具有极高的效率和适应性。单个蜜蜂没有很高的智能，只能完成简单的工作，但是蜂群整体却可以完成很复杂的工作。

     蜂群之所以完成更复杂的工作并显示出具有个体不具备的更高的智能，是因为每一个个体都具有自己的自主性和自我意识，并且个体之间具有交互作用和信息传递。

     当一个群体中，这样的个体数量和链接数量达到一定程度以后，蜂群效应就能形成，整个群体就具有了更高的复杂度和更高的智能。

     群体智能是一种非常强大的工具，可以用来解决各种个体不能解决的复杂问题。

     (上面这段文字是ChatGPT和我共同写作完成的)

     作为当前人工智能最基础的底层算法之一的深度神经网络算法，也可以被看作是一种类似的群体智能。在神经网络中一个节点可以被看作是一只蜜蜂一只蚂蚁或一只鸟。一个节点只负责完成一些简单的工作，包括从上游节点接收信号并进行叠加，使用门控制来决定是否向下游节点发送信号(比如当信号总和强度高于100则发送信号，否则保持静默)。

     在神经网络中的每一个节点都并不智能，甚至可以说很低级。但是当众多数量的神经元通过某种方式连接在一起，并且能够在某个反馈机制下调整自己的行为参数，整个神经网络就能够完成令人惊奇的复杂任务，比如图像识别、自然语言对话、媒体内容生成等等。

     深度神经网络的工作机制和凯文凯利描述的群体智能是非常一致的：整个网络中并没有一个中心化的控制阶段或机构来决定所有的参数，而是有网络中的各个个体，通过和其他个体通讯，自主的调整自己局部的参数。

     每个个体并不了解，也并不需要了解整体的目标和结构，但是通过反馈机制和自主控制，群体从整体上非常好的完成了任务。

     2/

     第二次读书笔记参考主题——生物和机器的分界线三个引导问题：1、分别谈一下对生物和机器的理解2、基于当前的科技现状，畅想未来的机器发展，并谈一下畅想依据3、生物和机器的界限会不会消失，为什么？

     机器和生物的边界的确在逐渐融合。

     一方面，是机器变得越来越生物化。现在的人工智能，不仅基本算法是模拟人脑神经的运作，连运算载体也希望从硅基过渡到碳基，采用生物组织作为运算材料。

     另一方面，生物也在朝机器的方向靠拢。脑机接口就是一个例子。在人脑中植入芯片，可以纠正大脑的病变，增强大脑的能力。生物技术中的基因编辑和克隆，更是生物超人造机器方向发展的例子。

     从本质上讲，所有的生物化学活动都是物理现象，在微观层面都是原子之间如何构造，如何进行能量交换。当人类的科技能进行分子和原子级别的操纵后，机器和生物将没有区别。

     在人和机器逐渐融合的过程中，有两个主要的人类的关切：在解决生产型问题的能力上，我们是否会被机器完全取代？在精神世界，我们是否会失去自我，成为机器的奴隶，或者成为操纵机器的那群人的奴隶？

     对于第一个问题，我不是很担心，因为超复杂的系统，不是完全靠计算和科学逻辑就能解决的。计算机理论中的停机问题，揭示了不管计算能力多么强大，总有些问题是现行的计算技术无法解决的。

     当代最伟大的数学家RogerPenrose在《Emperor’sNewMind》一书中也论证，一个只由定理组成的复杂理论系统，是不完备的，必定会出现无法通过逻辑推导来证明的定理，而只能由人通过直觉和假设来确定。

     所以，虽然机器和生物的界限在融合，但从现有的技术来看，人类智能和机器智能还是有根本区别的。未来技术和社会生产发展的关键不是机器是否会取代人类，而是人类如何更好地与智能机器进行合作，结合双方的优势实现更大的生产力。

     但是我们尤其需要担心第二个问题，当机器和生物融为一体后，对人的侵入和控制，就不仅局限于通过五官的感知来进行，还可以通过网络来直接侵入人体。用网络安全的术语来讲，就是攻击面扩大了，人面临的风险更大了。在这种情况下，使用科技的伦理，判断和减少技术对身体和认知方面的风险，变得更加关键。

     3/

     第三次读书笔记参考主题——谈控制论两个引导问题：1、结合书中相关部分，谈一下对控制论的理解

     2、思考控制论的本质，用三个关键词概括，并阐述原因

     控制是为了实现人为的目标而存在的，是人类为实现自己的目标而需求采取的手段。

     我理解的控制有三个关键词：

     1.目标：任何控制都是为了达到目标，因此在一个控制系统中，必须要有清晰定义的目标。

     2.测量：任何控制都需要一个手段来测量离目标的偏差。

     3.反馈：当系统出现偏差时，需要一个反馈机制来纠正系统的运行，让系统朝着降低偏差的方向运行。反馈机制有很多种，包括直接控制和纠正各部件的运行，修正整个系统的运行和交互规则，控制系统的环境变量等等。

     并非所有的系统都需要控制。比如太阳系的运行，这里并没有一个人为的目标，因此也就不存在，也不需要控制。

     地球上的生物自然界，原本没有一个目的，也不存在控制。有的只是生命复制自己的本能，以及由此对环境的适应。但是当人类的能力不断壮大以后，也许未来人类会企图给地球和自然赋予自己的目的，置于自己的控制之下。

     加入读书会▼穿透表象，洞见生活

    

     /□

     1、《乌合之众》共读会结营感言

     2、《斯坦福极简经济学》共读会结营感言3、中国文化的深层结构4、给思考者的100条线索5、困住你的不是现状，而是观念

     6、老莫日记

     诚邀赞赏，以鼓励本文作者

     ▼

    源网页  http://weixin.100md.com
返回 认知演化论 返回首页 返回百拇医药