【蠹书偶思】之三：智能机器人

残月关山

　　智能机器人

　　人类的需求依次由较低层次到较高层次排列，分为：生理需求、安全需求、爱和归属感、尊重和自我实现五类。在自我实现需求之后，还有自我超越。这句趸来的话先卖弄一下，以下是写科幻小说得到的感悟。

　　科技的发展开始进入了一个智能机器的时代，AI。或许作为理科生，看待机器人更远些。现在已经有很多太精密的部件人类根本造不出来了，只好用机器来造，极端的例子是1纳米芯片。可以想见，机器人摆脱人类控制去造更智能的机器人，是很有可能的，而制造超能机器人是需要巨量资源的，他们会有资源危机的概念吗？

　　人类的智力是附带着人格、情感和自我意识的，大概其统称情商。若赋予机器人高智力，势必也会附加人格、情感和自我意识。反过来，没有高智商、高情商，也难像人类那样完成需要团队协作的工作、需要临时机变的工作和需要发挥创造性等等的工作。

　　机器人本身没有疲劳、没有疼痛、没有死亡，力量超过人类，一旦它们有了接近人类的智商、情商，他们就可以具有很强的自觉学习的能力，从而在自我提高、自我复制和创造力等等方面超过人类。而人类的低层次需求，对于它们来说几乎不存在或已经实现，这就很难保证他们不向往更高层次的需求，很难保证它们不具备攫取和霸占资源、控制整个社会的野心，这可咋整？举两个例子，一、机器人的情感使得他们会有同类归属感和凝聚力，不甘自己和同类受到奴役。二、一群机器人在人类无法到达的地方工作，需要领头人具有英雄情怀，而英雄情怀也会滋生自以为是和控制野心。

　　这就触及到了伦理。机器的智能越来越高，会不会要求以人格独立的身份自立于社会？这样，会不会对旧有的伦理秩序造成冲击。传统的伦理秩序是建立在血缘关系基础上的，而未来的社会秩序会不会建立在技术的基础上呢？一旦机器人拥有了不低于人类的智力水平和情感，而它们在其他能力上，比如体力、耐力等等方面也强于人类，它们会不会要求平等？具备了高情商，甚至可以用服务和麻痹人类为手段获取主宰地位？

　　最基本的，人与机器关键的区别之一是自主学习能力。目前它们已经被赋予并具备了一定这种能力，甚至能修改自身的指令代码（程序），从而提高自身综合能力。这比它摆脱人类控制去造更智能的机器人更令人担忧，因为那个更智能的机器人可能成为它的敌人。它不如干脆把自己提升为超智能、体能的，有个人“人生”目的或野心的工具，甚至不惜与人类为敌。巴以战场，由于侦测到某居民楼里有一名哈马斯战士，不惜摧毁整座楼和楼内的居民，据说是AI的决策。但愿这是以军方的托词。

　　此外，技术的发展在改变传统伦理秩序的过程中，未必能够改变人类的本性，而人性中存在着恶，这些恶会利用技术的优势导致灾难的发生。技术越智能化，灾难也就越智能化了。所以，与其要求机器人遵守道德，不如道德地制造机器人。更现实的问题是，人类还没有让自己普遍道德起来。一旦技术的道德打败道德的技术，这可咋整？


[读书笔记，有缘者品。但愿知我，不求服众]

徐公孰

AI即使可以超过单个人的智力和情感能力
也无法超过人类整体

残月关山

徐公孰 发表于 2023-12-31 11:54
AI即使可以超过单个人的智力和情感能力
也无法超过人类整体

这需要人类整体对待AI达成一致。

徐公孰

残月关山 发表于 2023-12-31 11:58
这需要人类整体对待AI达成一致。

真面临生存危机，联盟自然形成

就像二战，苏美还不是同盟么？

残月关山

徐公孰 发表于 2023-12-31 11:59
真面临生存危机，联盟自然形成

就像二战，苏美还不是同盟么？

代价是人类文明几乎被毁灭。如果希特勒先造出原 子 弹，那可咋整？

徐公孰

残月关山 发表于 2023-12-31 12:05
代价是人类文明几乎被毁灭。如果希特勒先造出原 子 弹，那可咋整？

那还能咋整？

残月关山

徐公孰 发表于 2023-12-31 12:09
那还能咋整？

可不咋的

有期啊

读者会关注机器人的情感，情感到底是不是必要的。

残月关山

有期啊 发表于 2023-12-31 13:47
读者会关注机器人的情感，情感到底是不是必要的。

进入社区和家庭的情感机器人，会有的。

薄荷味

残月关山 发表于 2023-12-31 13:50
进入社区和家庭的情感机器人，会有的。

机器人所能确实已经到了很精确的水平了。
很多人真的不如。因为设计机器人的人都是精英。

残月关山

薄荷味 发表于 2023-12-31 20:04
机器人所能确实已经到了很精确的水平了。
很多人真的不如。因为设计机器人的人都是精英。

就怕机器人想办法让自己比人还精英。

薄荷味

残月关山 发表于 2023-12-31 20:07
就怕机器人想办法让自己比人还精英。

这个暂时怕是还没有可能。机器人临下还是受人支配的

残月关山

薄荷味 发表于 2023-12-31 20:08
这个暂时怕是还没有可能。机器人临下还是受人支配的

我的担心还是有点道理的。

有期啊

残月关山 发表于 2023-12-31 13:50
进入社区和家庭的情感机器人，会有的。

情感在没有痛感的情况下怕是要缺失

残月关山

有期啊 发表于 2023-12-31 20:11
情感在没有痛感的情况下怕是要缺失

这个问题值得思考。