强人工智能的载体若是电子计算机或量子计算机,那连地球碳基生物都不是,结构和人类不同的程度要大于“在其他天体上自然演化产生的碳基生物”。构成后者身体的许多生物大分子有碳原子组成的骨架,和你的身体之间并没有“天壤之别”那么夸张的差异。
以计算机为载体的人工智能,不会是和人类意识最接近的“物种”,不会是人类意识的继承者。不排除机器能够表现出很像有人类意识的举动,配上一个像人的外表来让你觉得很温情,但那不是人类意识。
你可以考虑一下这个问题:
给你一只小猫咪,它既不咬你,也没携带病原体,你会觉得比较好玩、比较可爱吧。
给你一条蜈蚣,它也不咬你,且没携带病原体,你是不是觉得有点可怕呢。
蜈蚣和小猫咪在这方面的区别是什么呢。
小猫咪是哺乳动物,和你的生物学共同祖先不太遥远。你可以从它的大圆头、小短腿、大眼睛、温暖的身体、毛茸茸里找到熟悉的感觉。
蜈蚣是节肢动物,情况就不那么乐观了,你从它没有表情的头、毒牙、许多条腿、复眼、冰凉的身体、甲壳上感到的是异质。
那么,假设你将蜈蚣改造得很聪明,超越了人的智力。它是个强人工智能蜈蚣了,你觉得你对它更熟悉、更亲近了么。
不太可能吧。你知道它很聪明,但它是个聪明的蜈蚣。
对你的生物学身体来说,计算机比蜈蚣更异质。就连新冠病毒都比计算机更像你,至少你们使用的遗传密码是同一系列的。
由于分子的热稳定性范围摆在那里,允许外星碳基生物大分子存在的环境在地球上大概也能找到。根据可观测宇宙中化学元素的比例,依赖化学反应的非碳基生物在这宇宙中的数量可能会明显少于碳基生物。可以谈“天壤之别”的主要是等离子生物、弦生物之类不依赖化学反应的生物。
当然,人类意识没有许多人以为的那么重要,“强人工智能是异质的,无法期待它的精神结构像人类意识”这件事并不重要。
表面上看,人们在这方面的认知是参差多态的。既有人觉得“人造的机器比另一个生物圈里产生的生物更让我感到熟悉、亲近,我可以接受与机器融合”,也有人觉得机器和生物无法融合。其实人们很擅长说服自己接受现状——一旦强人工智能或外星生物出现在人们面前,只要那些家伙表现得足够强大而不直接加害于人们,或是套着人觉得好看的皮,人们是很容易从对方身上找到熟悉的感觉的。这不会让机器或外星生物更亲近人,但可以让人感觉好一点。
智能手机搭载着弱人工智能。每天玩智能手机的人,其实已经松散地跟机器融合了。你也可以讨论细胞是一种机器,只要你愿意这样想。某些特定的“以地球碳基生物为载体的强人工智能”可以和人有直接的继承关系。