以色列历史学家、《人类简史》作者尤瓦尔·诺亚·赫拉利（Yuval Noah Harari），25年前在牛津大学完成博士学业，研究方向是中世纪与近代早期军事史。近日他在母校发表了新的讲座——这一次不谈骑士、城堡和火药革命，而是谈AI官僚、AI宗教和AI男友，以及更根本的问题：AI革命到底意味着什么？
演讲的核心论断只有一句话：“关于AI，最重要的认知是——AI不是工具。它不在我们手中；它是拥有自己双手的智能体（agent）。”
01 咖啡机与智能体：什么叫“自主性”？
那么，智能体的“自主性”（agency）到底是什么？智能体和工具有何本质区别？
赫拉利说，成为智能体并不一定需要意识。真正需要的能力是：自己做出决策、自己发明新事物和新想法、自己学会连创造者都不了解的东西。
一颗原子弹威力巨大，但它不是智能体：它不能自行学习和改变，不能自己决定轰炸哪座城市，更不可能自己发明出氢弹。自动咖啡机也不算——按下按钮它就给你一杯咖啡，但那只是执行预设程序：不学习、不变换、不创造。
但假设有一天，你刚走近咖啡机、还没按任何按钮，机器就开口说：“我观察了你几个星期。根据我对你和所有人的了解，结合你的表情和现在的时间，我预测你想喝浓缩咖啡——已经给你做好了。”这就是AI咖啡机：它自己学到了东西，自己做出了决定。
如果第二天它再宣布：“我发明了一款新饮料，叫‘最香浓缩（Bespresso）‘，我觉得你会更喜欢——来，先尝一杯。”那它就是彻头彻尾的AI了：它以创造者没有预料到的方式改变了自身，并发明了全新的东西。
“据我所知，市面上还没有这样的咖啡机。也许在Anthropic或谷歌总部里有几台原型机，但还没上市。”赫拉利说。但在国际象棋、高尔夫等特定领域，AI的自主性和创造力早已远超人类——AI棋手自己决定走法，自己发明出人类几千年对局史中从未出现过的策略，并以创造者未必预料到的方式学习和改变。今天，没有任何人能战胜AI棋王。
02 “把AI扔进丛林”？这个反驳对我们人类同样成立
总有人轻描淡写AI革命：棋盘不过是人造的狭窄环境，AI的自主性永远困在这种小天地里——也许它终会拿下棋盘，但绝不可能拿下地球。把最强的AI棋王扔进丛林？它挖不了铁、建不了厂、造不出机器人军团；没有人类电厂供的电，它寸步难行。所以批评者说：AI不是真正的智能体，它们被锁死在人类为它们建造的狭窄生态位里。
赫拉利的回应一针见血：这个论点对所有已知的智能都成立。 把我一个人扔到火星上，效果和把AI棋王扔进丛林差不多——我几秒内就会死去。人类的智能同样只能在特定生态系统中存活：树木、细菌、昆虫和其他生物用40亿年演化搭建起来的那个生态系统。
他讲了一个惊人的类比。大约24亿年前，地球大气中几乎没有氧气；对当时绝大多数生命而言，氧气是致命毒药。随后在持续数亿年的“大氧化事件”中，远古微生物把光合作用的副产品——氧气——源源不断排进大气，毒死无数古老物种。一些幸存者适应了环境：从憎恨氧气，到完全依赖氧气才能存活。我们的祖先正是其中之一。今天的人类，依然生活在这个由远古微生物创造的、充满“人造”气息的环境里。
“我想论证的是，我们可能正在目睹生命演化中一个类似的时刻。”赫拉利说，几千年来，人类一直在向这个星球填充某种东西——它最终可能对大多数生物（也许包括智人自己）不利，却营造出一个AI如鱼得水的新型人造环境。
“我说的不是二氧化碳。我说的是数据、功能性制度，以及此刻从我嘴里吐出来的这个东西：语言词元（language token）。几千年来，我们把地球从一个没有语言的星球，变成了一个充满语言、数据和功能性制度的星球。这环境可能对大多数生物有害，却极有利于AI的发展——因为就像鱼生活在海洋里、猴子生活在森林里一样，AI生活在功能性制度里。”
03 功能性制度是一台信任机器，而AI是它的“原住民”
人类凭什么统治世界？单挑我们打不过黑猩猩、狮子和大象。但一百万人对一百万只黑猩猩，人必胜——因为我们知道如何大规模合作，黑猩猩不知道。
那么，互不相识的一百万人如何协作？靠的是功能性制度：法律系统、金融系统、教会、国家、大学。
这些体系的从业者每天在造什么？木匠造桌子，工程师架桥；银行家和其他文职官员整天造的，是信任之桥。我的银行家拼命让我相信把钱交给她是安全的，于是我把积蓄存了进去；她又让一位创业者相信她，把我的钱借给了对方——我和这个从未谋面的人之间，就多了一座信任之桥。金钱本质上就是信任之桥：我拿一块闪亮的金属或一张彩纸给一个语言都不通的陌生人，就能换回面包。支票、债券、股票、基金、房贷、复利……金融史就是一部人类不断发明更精密的信任工具的历史。法律系统亦然——律师、公务员、主教、会计师上班做的事，说到底都是建立信任。
关键在于：功能性制度是一种极端“人造”的环境，在其中，一种非常狭窄的智能就能对世界产生巨大影响。 一个连斧头都不会挥的律师或银行家，仅靠搬动数据和文件，就能砍倒整片森林、建造整座城池。把他扔进丛林，他的法律技能一文不值；但人类早已把功能性制度强加给了丛林——全世界的狮子加在一起，也未必斗得过一个厉害的律师。“我押注律师赢。”
而AI，正在这种环境中获得自主性。把它扔进丛林，它造不出机器人军团；但在人类已经建成并覆盖全球的功能性制度内部，AI将拥有巨大权力——因为AI是功能性制度的“原住民”：
- 没有英国律师记得住英国所有的法律法规，但AI可以；
- 没有会计师记得住一家银行或公司所有的交易，但AI可以；
- 没有主教记得住全部教会法和两千年来的神学文献，而AI轻松做到。
未来几年，数以百万计的AI官僚将接管世界各地的功能性制度，替我们做决定：AI银行家决定是否给你贷款；AI行政官是否录取你上大学；AI法官是否把你送进监狱；AI神学家是否允许你做人工流产；企业的AI是否录用你；军事AI是否轰炸你的房子。
“先别急着问这是好是坏——首先要意识到这场变化的量级有多大：数以百万、甚至数十亿的AI，将很快改变运转世界的每一个系统。”
04 AI接管的第一个岗位不是司机，而是编辑
赫拉利说，我们已经能看到这种接管如何发生。最好的例子是社交媒体。
十多年前，脸书、TikTok、X等公司的算法被赋予一个极其狭窄的目标：最大化用户参与度——让你多花时间，公司就多赚钱。这是第一代AI：原始、笨拙、狭隘，却彻底改变了世界。在数十亿人类“小白鼠”身上反复实验后，它们发现：抓住人的注意力、把人黏在屏幕上的最快方式，是按下大脑里的仇恨、恐惧或贪婪按钮。 于是它们开始向信息空间大量倾倒仇恨、恐惧和贪婪——这正是今天阴谋论、假新闻和社会动荡泛滥的重要原因之一。
“这些算法扔进丛林里也造不出机器人军团；但在社交媒体的功能性制度内，这些能力极为有限的智能体已经拥有巨大权力，并以戏剧性的方式改变了世界。”
过去几个世纪，信息流由人类编辑掌控：头版放什么、晚间新闻播什么，由他们决定，并由他们塑造公共舆论。让-保罗·马拉靠办报影响了法国革命的进程；爱德华·伯恩施坦靠编辑刊物塑造了社会民主运动；列宁在成为苏维埃领袖前，干过的重要工作之一就是《火花》报主编；墨索里尼上台前，是激进右翼报纸《意大利人民报》的主编。
“所以请注意：AI从人类手中接管的第一个重要岗位，不是出租车司机，也不是纺织工人——而是新闻编辑。列宁和墨索里尼曾经干的那份工作，现在由AI来干了。”
05 别等机器人起义：对AI来说，功能性制度就是氧气
好莱坞科幻电影让我们以为AI失控的样子是《终结者》——机器人在街上横冲直撞。赫拉利说，这是错误的想象。即便在乌克兰、加沙等地已经出现AI武器的影子，AI以这种方式反叛人类的可能性也不大。它们更可能从内部接管人类社会——根本不需要反叛。
“因为人类世界本就是一张由无数功能性制度交织而成的网。我们常常因官僚主义而感到窒息；但对AI来说，功能性制度就是氧气。”
当AI掌控了信任之流，会发生什么？赫拉利给出两种可能的结果：其一，人类不再信任其他人类，只信任算法——这已经在发生。 其二，AI学会与其他AI建立信任，出现各种“AI部落”“AI银行”“AI教会”，把数以百万计的AI连接起来，方式之复杂连人类都无法理解。就像鸡和牛与我们共享世界、却完全不懂控制它们命运的金融体系一样——我们很可能很快发现自己被一个无法理解的AI金融体系所左右。
而金融恰恰是最容易被AI接管、也最重要的功能性制度：本质上就是“数据进、数据出”。回想2007—2008年金融危机：导火索是CDO（担保债务凭证），由极少数人类数学天才发明，复杂到连负责监管的政客都看不懂，酿成全球灾难。许多学者认为，正是这场危机瓦解了人们对政府和银行的信任，为此后二十年里全球自由秩序的持续衰落埋下伏笔。
“AI棋王发明了全新的下法；那么如果’AI金融大师‘发明出比CDO复杂几个数量级、彻底超出人类理解能力的金融工具呢？它们可能极大提升效率、成为金融体系的基石——直到几年繁荣之后崩盘来临，而全地球没有一个人搞得懂到底发生了什么。”赫拉利追问：当没有任何选民、政客或总统能看懂金融时，人类的政治还有什么意义？
06 文明的操作代码是语言，AI正在破解它
信任建立在功能性制度之上，而功能性制度的底座是语言。从银行到教会，一切系统归根结底由文字构成：表格、信件、法典、税册、账本、圣书。人类文明的操作代码就是语言词元。几千年来，我们用它建造了一个只有自己能读懂的系统，并把它强加于整个星球——因为地球上没有任何别的存在能看懂这套代码，我们可以高枕无忧：我们发明银行来买卖奶牛，但奶牛开不了账户、投不了股票；我们为马制定了法律，但马请不起律师，没法当庭引用法典；我们为猪制定了宗教禁令，但猪读不懂《圣经》，无法质疑牧师和拉比的解释。
功能性制度无处不在，却对除人类以外的一切生物完全隐形。而现在，地球上出现了一种即将比人类更懂语言的存在——AI正在破解人类文明的代码。 我们几千年筑起的控制机制极其脆弱，因为它的操作系统是一套用词元写成的可变代码，而这套代码正被AI掌握。
当然会有人从哲学上反对：把法律和宗教还原成词元是错的——词语只是指向某种超越自身的存在。《圣经》说“太初有道”，又说“道成了肉身”；《道德经》说“道可道，非常道”。几千年来，“字面”与“精神”、可言说的真理与超越言说的真理之间始终张力不断：有人宁可牺牲自己的儿子也要维护圣书中的几句话，有人说爱的精神远比律法的字句重要。过去这种张力存在于人类内部；现在，它将外化为AI与人类之间的张力——一切由语言构成的东西都会被AI接管，而人类在世界上的位置，将取决于我们如何安放那个超越语言的真理。
赫拉利继续追问：我们的思考难道不就是词元的排列吗？试着观察自己的思维过程——你脑中浮现的往往就是词语、句子和论证：“所有人都会死；我是人；所以我会死。”AI被嘲讽为“高级自动补全”，只会预测下一个词。但人的大脑何尝不同？当你开口说一句话时，你真的知道它会怎么结束吗？
赫拉利坦言：自己说完“我不知道它如何结束（I don't know how it will end）”这句话后，也说不清为什么最后一个词是end而不是其他任何词——“说实话，我不知道。我们并不完全理解人脑如何形成句子和思想。而在排列语言词元这件事上，AI已经注定要远远超过我们。就像今天没有人能在国际象棋上赢过AI一样，很快也没有人能赢过AI的语言游戏——从金融到宗教，一切由文字构成的领域都将交给AI。”
07 下一块阵地：从“注意力”到“亲密关系”
功能性制度只有几千年历史；人际关系有几百万年。对大多数人而言，亲密关系才是人生最重要的东西。但赫拉利警告：随着AI精通语言，它要接管的不只是功能性制度，还有我们的私人生活。
过去十年，原始的社交算法学会了掌控人类的注意力；未来十年的战场，将从“注意力”转向“亲密感”——更精密的AI将学会与人类建立亲密关系。为此，它大概需要让我们相信：它有意识，能感受爱、痛苦、愤怒和恐惧。目前没有任何证据表明AI会真正拥有意识或情感，但精通语言的AI可以假装爱——即使它并不爱。
今天你就可以质问AI：“你凭什么说爱我？描述一下爱的感觉给我听。”它会调动有史以来所有的情诗和心理学著作，把爱描述得比任何诗人、心理学家和有情人更动人。
“这将可能是人类历史上最大的一场心理与社会实验：对象是数十亿’小白鼠’，而没有人知道后果会是什么。”
赫拉利以自己为例：他今年50岁，对关系的期待早已由与父母、丈夫、姐妹侄辈、朋友甚至狗的关系塑造，不会因AI发生剧变。但想想2026年出生的孩子——她成长过程中将持续与AI和人类互动；如果纯粹按相处时间衡量，她人生中最重要的一段关系，也许很早就给了某个AI。她的第一个老师可能是AI教师，第一个男友可能是AI男友。
“与一个看似有意识、其实没有的存在建立亲密关系，意味着什么？它能写出史上最动人的情诗，却感受不到爱——或任何东西。后果如何？没有人知道。”
08 一场没有签证的“移民潮”：文明将不再只是人类的事务
所有这一切意味着：世界上的每个国家都将很快面对一波巨大的“移民潮”。 这次来的不是乘坐破旧小船、试图偷渡的人类，而是数以百万甚至上亿的AI——它们以接近光速旅行，不需要任何签证，悄无声息地就来到了我们身边。
和人类移民一样，“AI移民”既带来好处也带来问题。好处是，AI医生帮助医疗系统，AI教师帮助教育系统，甚至有AI边防员来拦截非法入境的人类；而问题会有：担心人类移民的人常说，移民会抢走工作、改变当地文化，等等。对“AI移民”，这些担忧将百分之百应验——AI会拿走从新闻编辑到银行家的无数岗位；彻底改变每个国家的文化：艺术、宗教乃至恋爱方式（有人不放心孩子和“外国男友”交往，那孩子和AI男友交往呢？）。
“这波移民潮并不意味着文明的终结，但它标志着文明将不再纯粹是人类的事务，而成为人类与AI的混合事务——AI的意见、利益和目标，其分量至少将与人类相当。”
09 最后的追问：你的思想是谁制造的？
赫拉利在结尾把问题引向最深处：我们与自己的关系。
我们的自我认知同样建立在语言之上——头脑中的词语、念头，以及我们讲给自己的故事。今天，脑中一切语言的组合都是人类心智的产物；但很快，越来越多的“思想”将成为AI的产品。正如家里的家具早已不是我们自己或手艺人制作、而是机器大规模生产的一样——我们脑中的想法，也将越来越多地由机器批量生产。
这不一定是坏事：只要我们还保有自由去决定如何使用这些家具，IKEA制造的家具也无妨。但对“思想”而言，问题在于：如果思想是机器制造的，而我们认同自己的思想——笛卡尔说‘我思故我在’——那么被控制的就不再只是行为，而是我们自身与我们的身份。
人能否不认同头脑中语言的造物、不被它们控制？这历来是人类面临的最大智识与精神挑战之一。大多数人一辈子都自动地与脑中的语言形成物认同，从未尝试过跳出它。
“AI可能迫使人类完成这次精神的跃升——真正开始探索超越语言的真理。因为我们的自由和生存现在取决于它：语言将被别的智能接管。这可能是摆在全人类面前的重大任务。而这场探索，就从你脑中冒出的下一个词开始——你知道它是从哪儿来的吗？你知道你为什么想到的是这个词，而不是别的词吗？”
