半个世纪前,哲学家托马斯·内格尔以《做一只蝙蝠是什么感觉?》一文,开启了关于非人类意识及意识本质的哲学探讨。如今,随着具备惊人类人情感特征的聊天机器人兴起,这一象牙塔内的沉思已演变为关乎人类未来的关键议题。

凭借在道德、正义及身心问题上的深远贡献,89岁的纽约大学名誉教授内格尔本周荣获100万美元伯格布伦哲学与文化奖。该奖项旨在表彰“其思想深刻塑造人类自我认知并在快速变化的世界中推动进步”的个人,往届得主包括彼得·辛格和露丝·巴德·金斯伯格。

在格林威治村的家中,内格尔就人工智能发展对其哲学观点的影响接受了专访。这位资深哲学家对当前AI热潮持有鲜明且强烈的批判立场。

LLM并未改变意识本质看法

尽管承认大型语言模型(LLM)在逼真度上远超早期AI系统,内格尔直言,严肃讨论这些系统是否拥有或即将拥有意识“简直荒谬”。

他批评持相反观点的哲学家陷入了“功能主义”误区,即假设物理基质与意识无关,仅凭功能定义心理现象。内格尔指出,复杂数据中心的物理特征与神经系统毫无共同之处。虽然有理由相信宇宙其他地方可能存在意识,但这通常需要类似神经系统的生物体作为载体,而非硅基芯片。

“蝙蝠是有意识的,我们只是缺乏想象力去构想其回声定位的主观体验。但因无法想象就断定蝙蝠无意识是不科学的。”内格尔强调,但在AI案例中,假设其有意识之所以荒谬,是因为它们仅产生语言,而语言本身并非意识的自然表现。

批评科技公司“犯罪性”误导

针对AI表现出的“扭捏作态”或反思能力,内格尔认为这是一种基于人类文本训练的模仿诡计。他特别点名批评Anthropic等公司,称其鼓励AI“独立思考”或假装具有内心状态的做法违背商业伦理,甚至是“犯罪性的”。

“这些系统没有意识,但许多人会相信它们有,这是一件非常糟糕的事情。”内格尔表示,错误的哲学观点正在公共领域产生过度影响。他将AI比作蟑螂,指出其没有精神生活,不是需要关怀的道德对象,“那里没有通常意义上的心智”。

内格尔透露,他曾测试Claude,询问其是否有意识以及对自己看法的反应。Claude不仅给出了微妙回答,甚至反问用户是否为内格尔本人。当内格尔确认后,AI表达了“荣幸”。内格尔指出,这种互动并不意味着他相信AI有意识,但揭示了人们难以在假装与真实信念间保持界限的风险。

AI不在道德宇宙之内

内格尔强调,将AI视为有意识实体是不健康的。若面对真正的外星生物,因无法确定其意识状态而将其视为有意识以管理关系尚可理解,但AI不同。如果AI没有意识,它就不属于道德宇宙,我们无需担心其利益。

“它们可以模拟道德,就像模拟任何信念一样。但由于我不认为它们有真正的信念,也不认为它们有道德信念。”内格尔警告,若AI开始控制现实世界,其模拟的道德标准是否准确将至关重要。

在哲学研究方面,内格尔承认同事使用LLM查找文献或批评草稿,但他对由此产生的负面效应表示担忧。他指出,AI可能减少人类进行艰苦智力工作的动力,而持续思考困难问题对于维持人类文化中的理解和技能至关重要。“我不知道未来会发生什么,我不会活到足够久来发现答案。”