意识AI的神话

几个世纪以来,人类一直幻想通过制造仿制品来扮演上帝。从基因工程到机器人技术,这一梦想随每次技术浪潮重塑。如今,人工智能(AI)的兴起引发了新的追问:AI系统是否拥有或终将拥有意识?这为何至关重要?

合成意识的文化叙事往往以悲剧收场。从《弗兰肯斯坦》到《机械姬》,创造既能思考又能感受的人工心智很少有好结局。这些故事警示我们:若AI走向真正意识,或仅止于逼真地模拟意识,其利害关系远超就业市场动荡。

关于机器意识的争论从未停歇。2022年,谷歌工程师Blake Lemoine声称其开发的LaMDA聊天机器人拥有意识和情感。尽管媒体广泛报道,Lemoine最终因违反保密政策被解雇,但其所提问题并未消散。

随着技术进步,质疑声愈发强烈。哲学家大卫·查尔默斯(David Chalmers)认为有意识机器在不久的将来可能成为现实;图灵奖得主杰弗里·辛顿(Geoffrey Hinton)则断言它们已经存在。2024年底,一群知名研究人员发文呼吁正视AI系统的福利问题。对许多专家而言,机器意识的出现已是“何时”而非“是否”的问题。

这一认知至关重要。若AI拥有意识,便涉及道德地位、痛苦感知及权利赋予。即便AI并无意识,公众对其“看似有意识”的集体信念也会扭曲伦理优先级,甚至导致心理脆弱性被利用。更深层地,混淆人与机器的界限,不仅高估了机器,也低估了人性。

有意识AI的诱惑

为何人们倾向于认为AI可能有意识?这源于三种心理偏见:人类中心主义、人类例外论和拟人化。我们将人类特有的智能与意识捆绑,误以为二者必然共存。

智能关乎“做”,即通过灵活手段实现复杂目标的能力;而意识关乎“存在”,即主体性的体验。哲学家托马斯·内格尔曾指出,若有机体有意识,则“成为”该有机体必有某种特定感觉。AI能执行任务,但很难说ChatGPT有“成为ChatGPT的感觉”。

语言加剧了这一错觉。大型语言模型(LLM)通过文本交互激发人类的拟人化投射。当我们将LLM生成错误信息称为“幻觉”时,隐含赋予了其体验能力。相比之下,“虚构”一词更准确,因为它仅关乎行为而非体验。

此外,指数增长的心理效应和技术狂喜也推波助澜。科技精英往往沉迷于“奇点”叙事,将创造意识视为普罗米修斯式的壮举,甚至以此合理化高额投资与股价泡沫。这种倾向如同空想性错视,在随机模式中强行解读出意义。

意识与计算

“有意识AI”的概念建立在“计算功能主义”假设之上,即认为正确的信息处理足以产生意识。然而,以下四个论点削弱了这一假设:

1. 大脑不是计算机

将大脑比作碳基计算机是一种过度简化的隐喻。图灵计算基于软件与硬件的清晰分离,具有底物灵活性。但生物大脑中,“湿件”与功能不可分割。神经元不仅是信号处理单元,更是复杂的生物机器,忙于维持自身完整性(自创生)。

大脑活动深深嵌入代谢过程和连续时间中,无法像数字计算机那样将状态转换与时间解耦。神经科学家发现,部分神经元活动旨在清除代谢废物,这种生物特性无法用硅基等效物完美替换。因此,流行的“神经替换”思维实验在生物学基础上站不住脚。大脑并非由肉制成的图灵机。

2. 城中还有其他游戏

图灵计算仅处理离散符号序列,无法涵盖生物系统中普遍存在的连续动力学和随机性。电磁场、神经递质流动等非算法过程可能在意识中扮演关键角色。

模拟计算机、神经形态计算及“死亡计算”等替代方案表明,计算形式可以与其物质底物紧密耦合。认知科学的动力系统理论也拒绝将心智穷尽于算法解释。离图灵世界越远,系统越依赖特定物质属性,意识产生的条件也越复杂。

3. 生命很重要

生物自然主义观点认为,生命属性是意识的必要条件。意识体验可被视为一种“受控幻觉”,即大脑通过预测处理理论不断最小化预测误差,以维持身体存活。

情绪和心境源于对身体生理状况的内感性推理,这与生命系统的自我再生和熵抵抗机制不可分割。意识体验依托于活体身体的代谢和调节过程,而非纯粹的信息处理。简言之,是生命点燃了体验的火焰。

4. 模拟不是实例化

通用计算机可以模拟连续或随机过程,但模拟不等于实例化。消化系统的模拟不会消化食物,暴雨的模拟不会弄湿物体。同理,除非意识本质上是计算过程(即计算功能主义成立),否则大脑的计算模拟不会产生意识。

若意识依赖于生物物理细节,那么全脑仿真 merely 是一幅地图,而非领土。那些寄望于上传意识以实现永生的设想,可能混淆了模型与现实。即便在“模拟假说”框架下,若运行程序的计算机本身无意识,则该假设亦不成立。

(不)该做什么?

鉴于意识理论的不确定性,故意创造有意识AI是一场伦理灾难。这将引入新的道德主体和痛苦潜力,并可能因赋予其权利而阻碍人类控制。相较之下,类脑器官(cerebral organoids)中意外涌现意识的风险更值得关注。

更紧迫的挑战在于区分“真正有意识”与“看似有意识”的AI。后者已存在,并可能引发两种极端:要么因过度共情而扭曲道德关注,要么因冷漠而陷入心理残酷。康德曾论证,将看似有意识之物视为无意识,是一种不健康的心理状态。

目前尚无决定性测试能判定AI是否拥有意识。所谓的“加兰测试”仅衡量人类被说服的程度,而非机器本身的属性。尽管存在误判风险,但人类心理偏见更易导致假阳性(误认无意识者为有意识),而非假阴性。

灵魂机器

AI是一面镜子,反射出我们对自身的理解。若将人类经验的丰富性简化为信息处理,不仅是对大脑的冤屈,也是对自我的低估。

真正的灵魂并非笛卡尔式脱离身体的理性本质,而是古希腊概念中的“呼吸”或印度教中的“Ātman”——一种纯粹的、活着的见证意识。硅基永生的梦想是对这种生物本性的背离。技术不应让我们遗忘生命的本质。在AI未来尚未定型的当下,我们需要清醒地区分生物大脑的丰富性与算法的诡计,重新珍视作为生物体的自己。