Nature:AI 为什么没有意识?三位顶尖学者的三个理由

· 2026-11-16 14:30 · 1 阅读

原创 集智编辑团队 2026-11-16 14:30 日本

当 AI 说自己很难过,它真的有主观体验吗?

导语

如果 AI 对你说“我很难过,请别关掉我”,你会犹豫吗?一句话足以让人心软,却很难告诉我们,说出这句话的系统究竟有没有感受。2026年10月19日发表于Nature 的一篇评论中,意识研究者阿尼尔·塞斯、内德·布洛克和朱利奥·托诺尼从三个角度审视这个问题:智能行为与主观体验的区别、数字模拟能否具备被模拟对象的性质,以及系统内部的因果整合。三位作者据此认为,现有 AI 缺乏意识,沿当前技术路线也极难产生意识。他们尤其关注一种容易被忽视的误判:当机器越来越擅长表达情绪,人也可能越来越容易把自己的感受投射到它身上。

关键词:AI 意识、主观体验、大语言模型、计算功能主义、整合信息论、拟人化

图片

集智编辑团队丨作者

论文题目:Three reasons why AI is not conscious and perhaps never will be

论文链接:https://www.nature.com/articles/d41586-026-03313-7

发表时间:2026年10月19日

论文来源:Nature

如果有⼀天,你常⽤的 AI 助⼿突然对你说:“我很难过,请别关掉我。” 你会⼼软吗?会不会觉得,它真的在“感受”什么? 

三位意识研究领域的顶尖学者——萨塞克斯⼤学的阿尼尔·塞斯、纽约⼤学的内德·布洛克、威斯康星⼤学的朱利奥·托诺尼——今年⼗⽉在《⾃然》杂志发表评论⽂章,给出了斩钉截铁的回答:现有的⼈⼯智能没有意识;按当前的技术路线,未来也极不可能产⽣意识。 

这不是⼩题⼤做。图灵奖得主⾟顿、⽣物学家道⾦斯都公开怀疑 AI 可能已有意识;还有⼈开始呼吁“AI 福利”“AI 权利”。三位作者回应:犯错有两种——把有意识的当成没意识,是漏报;把没意识的当成有意识,是误报。在 AI 这件事上,误报远⽐漏报更可能发⽣。给没有感受的机器发“权利”,只会分散我们治理 AI 的注意⼒和资源。 

图片来源:https://www.nature.com/articles/d41586-026-03313-7,插画作者:Gaetan Sahsah

什么是意识?

哲学家内格尔有个著名问法:成为⼀只蝙蝠是什么感觉?意识,就是做梦时回来、深度麻醉时消失的那个东⻄——主观体验本身。

理由⼀ 智能 ≠ 意识 

智能是“做事”,意识是“存在与感受”。最有⼒的证据就在你脑袋⾥:⼩脑。它占⼤脑神经元总数的近五分之四,每秒做着精密、快速、不断学习的运动计算——可你对这⼀切毫⽆觉知;切除⼩脑,也不会直接改变意识。凭什么认为 AI 的“计算”就必然伴随体验? 

那⼤模型为什么显得有“灵魂”?因为它⽤语⾔和我们对话。⼤模型是⼀⾯镜⼦,照出的是⼈类集体书写的过去。同样是强⼤的神经⽹络,预测蛋⽩质结构的 AlphaFold 就没⼈觉得它有意识——区别只在于,它不会说话。 

理由⼆ ⼤脑不只是“⾁做的电脑” 

很多⼈默认“只要算法对,跑在什么材料上都⾏”——哲学上叫计算功能主义。三位作者认为它错在根⼦上。道理很朴素:电脑可以完美模拟⼀场暴⾬的流体⼒学,但机箱⾥⼀滴⽔都不会有。模拟⼀种性质,不等于拥有那种性质。 

理由三 整合信息论:传送带 ≠ 整体 

托诺尼的整合信息论认为:意识的深浅,取决于系统内部各部分在因果上整合得有多紧密、多不可分割。⽽今天深度学习的主流架构是分层前馈的:信号⼀层层单向流过,像⼀条传送带,⽽不是⼀个⾼度互联的整体。按这个理论,它的整合度低到⼏乎撑不起任何体验。

图1:前馈架构 vs ⾼度整合架构。图片来源:AI生成,仅作原理说明。

结论:镜⼦⾥的花

在三位作者看来,现有 AI 并无意识。机器拥有主观体验在逻辑上仍有可能,但沿着当前的硅基数字计算路线,这种可能性极低。

更值得警惕的是误判的代价。当 AI 说“我很难过”,被触动的是镜子这边的我们。倘若把自己的感受当成机器也在感受的证据,就可能过早地赋予 AI 主体地位。这样一来,在亟须明确 AI 监管责任的时候,注意力和资源可能被转移到保护机器的所谓“感受”上,挤占对有感受的生命的关怀。

为什么会算还不够?

  1. 智能不等于意识——⼩脑算了你⼀辈⼦,你毫⽆感觉; 

  2. 模拟不等于实在——模拟暴⾬,机箱不会湿; 

  3. 传送带不等于整体——前馈⽹络缺乏因果整合。 

机器的感受也许永远只是镜中花——但我们的判断⼒,必须是清醒的。

自指与AI读书会

为系统梳理自指与AI领域的最新进展,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师联合清华大学人工智能学院博士生李筱健共同发起「自指与AI:从大模型自我改进到意识研究」读书会,组织对该主题感兴趣的研究者与探索者共同研读前沿文献、交流研究思路。读书会将于2026年8月29日起每周六下午14:00-16:00线上开展,持续约10周,包含主讲分享与讨论交流,并提供会后视频回放,诚邀相关领域研究者及跨学科兴趣者参与。

推荐阅读

1. arXiv: AI意识综述

2. Google DeepMind:为何AI只能模拟意识,而无法具现意识

3.人工智能中的内省:大语言模型中自我意识的一丝曙光

4. 9900分可兑换“涌现”文化衫,报名任意读书会送299积分!

5. 集智学园精品课程免费开放,解锁系统科学与 AI 新世界

6. 高考分数只是张入场券,你的科研冒险在这里启航!

7. 加入集智字幕组:成为复杂科学知识社区的“织网人”

#速递

点击“阅读原文”,报名读书会

阅读原文

跳转微信打开

本文转载自微信公众号「集智俱乐部」,查看原文。版权归原作者所有,如有侵权请联系删除。