让AI学会思考很难，但让人类放弃思考很容易
2023/2/12 14:08:22 西坡原创
文｜西坡
ChatGPT大火，但真正有价值的分析很少，大部分人都沉浸在技术突破带来的眩晕中。小说家昆德拉关于眩晕的定义，放在这里出奇的贴切：“眩晕是沉醉在自己的软弱之中。意识到自己的软弱，却并不去抗争，反而自暴自弃。人一旦迷醉于自身的软弱，便会一味软弱下去，会在众人的目光下倒在街头，倒在地上，倒在比地面更低的地方。”
关于有多少工作要被替代的讨论再次甚嚣尘上，但与其说这反映了人工智能的潜力，不如说反映了人们急于交出手上工作的渴望。劳动早已失去了神圣的光辉，变成一种赤裸裸的交换机制。
这么说吧，人类渴望被自己的创造物征服，因为这世界已经糟透了，怎么折腾也不会更糟。但这不是事实，世界总是可以变得更糟，向下的路是没有止境的。
现代人的头脑中安装了必须拥抱新事物的预设程序，对变化的信仰是如此根深蒂固，以至于被伤害多少次依旧激情不变。不需要理解，不需要利益关系，只要是新的、震撼性的东西，我们都欢迎。
与人工智能的技术进展相比，我更关心的是，人们为什么会如此顺从地交出思考的权利和判断的权利。ChatGPT的计算机技术或许很高深，商业潜力或许很大，但它的基本原理并不复杂，那就是通过综合互联网上现存的信息，给出最符合期待的结果。这是一种机械运算，与真正的思考、理解有本质的区别。
我并不想否认ChatGPT的威力，因为我知道，大多数人的工作其实也没有创造性可言。好比大学生攒论文，这里抄一段那里抄一段，揉吧揉吧就是一篇文章了。人工智能肯定比你抄得全、揉得圆。
人类有多少工种是真正需要创造性的呢？思考这个问题不能太表面，一份工作可能99%的成分都是可以被替代的，但只要有1%无法替代，它就是安全的。比如说老师，每年都是同样的教材，同样的课程，看起来很容易被替代，但是老师的人类属性对于一个班级来讲是不可或缺的，纪律、士气、学生心理这些都得人类肉身参与。
观察一份工作会不会被替代，不能看它有多大成分是可计算的，而要看它有没有那关键的1%是不可计算的。
但最令人担心的不是人工智达到人类水平之后再取代人类，而是即便人工智能达不到人类水平，却依然要凭借其价格与效率的优势强行取代人类。技术逻辑的专横与恐怖正在于此。让机器学会思考很难，但让人类放弃思考很容易。
这样的过程已经发生了。推荐算法对人类编辑的驱逐，就是一个典型的例子。最开始新闻网站的编辑是人类，而现在我们在网上看到的大部分内容都是算法推荐给我们的。内容质量更好了吗？没有，反而大幅下降了。这倒不完全是因为算法不喜欢好内容，而是算法的介入引爆了内容行业的全面人工智能化。
每个写作者都开始直接面对流量的压力，为了生存，只好去琢磨算法的偏好。写作原来是个手工活，一个有志向的写作者只能缓慢地成长，慢慢读，慢慢想，慢慢写。
但是自媒体兴起之后，逻辑一夜大变，大家发现，文章好不好不重要，爆不爆款才重要。只要爆款，就是好文章。怎么制造爆款呢？追逐热点，猜测受众偏好，然后从网上搜集来路不明的材料，按需定制。这就是写作的人工智能化。
你会发现，现在网络上的大部分文章都是这种人工智能化文章。作者当然不是人工智能，而是思维水平降低到人工智能层面的人类。机器模仿人类很难，人类模仿机器很容易。现在的网络，鬼影幢幢，已经没有几个活人。?
你可能还会发现，很多现实中的人，也已经人工智能化了，他们天南海北无所不知，但那些知识全都是真假参半的，而他们并不知道哪一半是假的。
在知识大爆炸的时代，求知反而成了一件更加困难的事。因为知识与伪知识之间的界限，前所未有的模糊。更重要的是，当求知简化成点击屏幕的动作之后，人们对求知失去了耐心，也失去了分辨真伪优劣的兴趣。
《庄子·天下篇》有一个小故事，讲汉水岸边有个老头，明明有机械可以灌溉，偏偏要抱着罐子汲水。因为他老师说过：“有机械者必有机事，有机事者必有机心。机心存于胸中，则纯白不备；纯白不备，则神生不定；神生不定者，道之所不载也。”
今天许多人读到这个故事，大概只会嘲笑老头的迂腐吧，什么机心，什么纯白，什么道，都是瞎扯。前几天我说人工智能永远写不出有灵魂的文章，有个家伙留言：“文科生总以这些作品有灵魂之类自傲，但在理科生眼里，灵魂也是可以量化的。”我不知道这是哪里来的骄傲的理科生，但我真想把我高考理综的成绩给他看看。
持这种见解的妄人，不在少数。让机器拥有灵魂不可能，但让人类失去灵魂还是挺简单的。
技术是把双刃剑，一条刃面向客观世界，一条刃面向主观世界。以前我们总担心技术摧毁大自然，其实最该担心的是技术对人性的诱惑与腐蚀。
继续阅读人性是一颗核弹
防止失联
源网页 http://weixin.100md.com
返回 西坡原创 返回首页 返回百拇医药