【新智元导读】AI究竟是工具ღ★，还是新物种？《人类简史》作者赫拉利警告我们ღ★：AI并不只是技术革命ღ★，更可能是继有机生命之后的「无机生命」崛起ღ★。

　　近期ღ★，历史学家ღ★、哲学家尤瓦尔·赫拉利（Yuval Noah Harari）ღ★，做客Possible播客ღ★。

　　作为《人类简史》《未来简史》《今日简史》等畅销书的作者ღ★，赫拉利与两位主持人就人工智能的发展前景展开了讨论ღ★，既有共识也存在分歧ღ★。

　　他们都认为构建人类对AI的信任ღ★、打造真正追求真相的AI至关重要ღ★，但对实现可能性的判断不尽相同ღ★。

　　节目中ღ★，三人深入探讨了AI革命的潜在结果ღ★、全球协作机制以及AI学习方式的不同观点ღ★，还剖析了智力与意识之间的本质差异——

　　他分享了以人类同理心为指导原则的哲学理念ღ★，认为这将帮助我们避免文明崩塌ღ★，最终共同缔造更美好的人工智能未来ღ★。

　　在《人类简史》中ღ★，Harari将「认知革命」视为人类崛起的转折点——七万年前ღ★，人类开始讲故事ღ★，构建共享神话j9九游会官方登录ღ★。在书写与印刷技术中ღ★，这一能力进一步发展ღ★。

　　而这套系统的原理基本上就是ღ★：取一些泥土ღ★，做成泥板ღ★，然后拿根木头或棍子ღ★，在泥板上刻下某些符号ღ★。

　　从技术上ღ★，文字系统本身非常简单ღ★。但难点在于如何创造出这套代码ღ★、如何教人们使用它平山绫ღ★，这才是真正困难的部分ღ★。而正是这件事j9九游会官方登录ღ★，改变了整个世界ღ★。

　　写作扩展了已经主宰地球的人类——智人的能力ღ★；至少在某些设想中ღ★，AI被视为一种新物种的崛起ღ★，可能取代智人成为地球上的主导生命形式——或者说平山绫ღ★，主导的智能形式ღ★。

　　因此ღ★，若站在2025年的时间点ღ★，Harari依然会认为写作比AI更重要ღ★，尤其因为AI本质上是写作的延伸——只不过是以另一种方式继续演化ღ★。

　　但如果把目光放到未来ღ★，可以想象这样的情景ღ★：AI的崛起ღ★，将成为宇宙尺度上的重大事件ღ★，而写作则无法达到这样的影响力ღ★。

　　而现在我们面临的ღ★，是一次「无机的」或者说「数字化」的革命ღ★，其变化速度远远快于人类的适应速度ღ★。

　　作为一名历史学者ღ★，Harari的回答是ღ★：历史上的问题j9九游会官方登录ღ★，通常不在于最终的「目的地」ღ★，而在于通往那里的「路」ღ★。

　　那些率先进行工业化的国家ღ★，也几乎都投入了海外甚至周边地区的殖民征服ღ★。背后的逻辑是ღ★：要建立可持续的工业社会ღ★，唯一的方法就是建立帝国ღ★。

　　这正是英国当时所做的事情ღ★，甚至像比利时这样的小国也是如此ღ★。随着工业化扩展到世界其他地区ღ★，这种帝国扩张的逻辑也被复制开来ღ★。

　　如果我们把当下的AI革命比作当年的工业革命ღ★，那么人类在21世纪应对AI要是只拿了个「C-」（刚及格）ღ★，那将会有数十亿人因此付出极其惨重的代价ღ★。

　　所有生物之所以能够生存ღ★，都是因为拥有这些自我纠错机制ღ★。就像孩子学走路ღ★，并不是靠父母和老师的指导（他们可以给予一些鼓励）ღ★，但本质上完全是靠自我纠错ღ★。

　　问题在于ღ★，AI的发展远比我们的纠错机制快得多ღ★。等我们终于理解当前的AI影响时ღ★，技术也许已经完成了多轮更新ღ★，甚至引发了新的未知风险ღ★。

　　更何况ღ★，10到15年前的社交媒体革命ღ★，我们至今仍在艰难应对ღ★。人类仍未真正理解算法的深层影响ღ★，更谈不上有效管理或缓解它带来的「后遗症」ღ★。

　　而现在发生的一切ღ★，几乎没人真正理解ღ★。因为光是收集数据ღ★、理清现状ღ★、判断趋势ღ★，这些都需要时间——但时间j9九游会官方登录ღ★，恰恰是我们现在最缺乏的东西ღ★。

　　Harari认为最根本的问题是ღ★：当还无法确定技术是否值得信任时ღ★，却又把验证它是否值得信任的任务ღ★，交给这项技术本身ღ★，那其实就陷入了闭环ღ★。

　　人类的工作节奏是「有机时间」ღ★，相较于其他生物已经算快了ღ★，但在AI的「无机时间」面前ღ★，人类就显得极其缓慢ღ★。

　　而在面对AI时格外脆弱ღ★，这让人类更加脆弱ღ★，也很可能出现一种极其危险的AI形态ღ★：这种AI不仅会试图接管世界ღ★，而且很可能会成功ღ★。

　　所以ღ★，当我们一边对AI说ღ★：「不要贪婪ღ★，不要滥权ღ★，不要说谎ღ★，不要操控他人」ღ★，而我们的现实行为却恰恰是在贪婪ღ★、欺骗ღ★、操控彼此时ღ★，这些「孩子」最终学到的ღ★，其实就是我们真实的样子ღ★。

　　哪怕某个AI巨头命令工程师ღ★：「想办法在AI里植入某种机制ღ★，让它变得值得信赖ღ★。」但如果这个AI巨头自己不值得信赖ღ★，他自己都相信这个世界只是一场权力斗争ღ★，那他就不可能造出真正值得信赖的AIღ★。

　　好消息是ღ★：这种世界观不仅危险ღ★、愤世嫉俗ღ★，而且是错的ღ★。现实并不是只有权力ღ★，并不是所有人类互动都是权力斗争平山绫ღ★。

　　权力确实是世界的一部分ღ★，也确实有些人类互动ღ★，或者其中的某些方面ღ★，是权力的较量ღ★。但这不是全部ღ★。

　　绝大多数人——除了极少数极端的反社会人格者——内心都真诚地关心爱ღ★、同情和真理ღ★。这些动机并不是出于某种玩弄权谋的手段ღ★。

　　如果AI是在真正追求真理ღ★、珍视同情心的社会中被培养出来的ღ★，那这样的AI也更有可能是可信的ღ★、有同理心的ღ★，以及更值得托付未来的ღ★。

　　Harari看到很多关于AI模拟的研究ღ★，试图测试它在某种情境下会作何反应ღ★，评估它的潜在风险ღ★。

　　当然ღ★，我们可以试图在AI系统中设计各种机制ღ★，让它们更符合人类的价值观ღ★，减少它们说谎或操控他人的可能性ღ★。但归根到底ღ★，有些事不是在实验室里就能预见的ღ★，真正的考验只会出现在现实世界里ღ★。

　　所以j9九游会官方登录ღ★，从定义上讲ღ★，无论在实验室里如何精心设计ღ★，一旦AI进入真实世界ღ★，它就可以开始自行学习ღ★、自行演化ღ★。而它学习的第一课ღ★，往往来自人类的行为ღ★。

　　如果一个社会是由像马斯克或特朗普这样的人主导的平山绫ღ★，那AI就会从他们身上学东西ღ★。因为这是它能观察到的榜样ღ★，它自然会模仿ღ★。

　　它不会想ღ★：「哦ღ★，我应该服务公众ღ★。」它更可能得出结论ღ★：「哦平山绫ღ★，原来只要撒谎就能获得权力ღ★，那就可以撒谎ღ★。明白了ღ★，这才是现实世界的运作方式ღ★。」

　　在这种背景下ღ★，Harari认为我们现在最应该做的事情ღ★，就是聚集一群工程师和企业家ღ★，来做一次真正有说服力的示范——

　　比如展示总统或总理ღ★，可以在只有一小时里ღ★，认真ღ★、诚实地倾听AI专家的建议ღ★，理解AI的潜在影响平山绫ღ★，并用这个小时来作出负责任的决策ღ★。

　　如果你能把这些政治领袖放进房间里ღ★，让他们和真正先进的AI互动一个小时ღ★，然后他们出来后说ღ★：「天哪ღ★，这东西太可怕了ღ★！」——

　　Reid Hoffman认为ღ★：虽然AI革命的本质在于AI是自我学习的机器ღ★，但它的学习路径其实取决于最初的设定——就像所有学习算法一样ღ★，起点决定了方向ღ★。

　　这正是Reid保持乐观的原因ღ★：如果把「追求更高维度的意识」设定为AI的核心目标ღ★，那么这种对真理的追寻就可能成为AI内在的「学习时钟」——就像精准的计时器一样可靠ღ★。

　　一种能觉察ღ★、能体会痛苦ღ★、能对存在本身产生疑问的感知状态ღ★。而在目前为止ღ★，我们并没有看到任何可信的证据ღ★，表明AI拥有这种意识ღ★。至少他没看到ღ★。

　　当然ღ★，他也不排除未来某一刻ღ★，某个角落可能真的会诞生第一个具备意识的AIღ★。也许现在它就正在诞生ღ★。但在此之前ღ★，他仍然保持一种「不可知」的态度ღ★：不知道ღ★，也不能假设它已经具备ღ★。

　　硅谷的问题之一ღ★，就是过分推崇智能ღ★。部分原因可能是那里的很多人本身就极具智能ღ★，甚至他们的一生都是建立在智力优势之上ღ★，自然也会倾向于高估智能的作用ღ★。

　　但从历史直觉出发ღ★，Harari觉得ღ★：如果超级智能的AI缺乏意识——无论你事先给它注入多少「价值观」或「对齐机制」——

　　它最终都不会真正去追求真理ღ★。它很可能很快就会开始追逐其它目标ღ★，而这些目标ღ★，很可能是由各种妄念和幻觉所驱动的ღ★。

　　首先ღ★，他同意Harari的观点ღ★：高度智能确实可能伴随着高度的妄想ღ★。智能越高ღ★，误入歧途的能力也可能越强ღ★。

　　但Harari提出的第二点也很有意思——那就是ღ★：也许可以把「纯粹的智能」引导到一条追求真理的路径上ღ★。或许ღ★，仅靠智能ღ★，也可以实现对真理的追求ღ★。

　　不是让AI替代制度ღ★，也不是让技术取代信任ღ★，而是看它能否成为桥梁ღ★，帮助我们更透明地沟通ღ★，更高效地回应社会关切ღ★，从而逐步找回信任的基础ღ★。

　　现在大多数社交媒体平台的算法ღ★，比如Facebook或Twitterღ★，衡量信息传播的标准只有一个ღ★：「互动量」ღ★。谁能引发最多关注ღ★，谁就被推上热榜ღ★。

　　所以我们看到的往往是那些最能激起情绪的内容在疯传ღ★。久而久之ღ★，不信任ღ★、仇恨和愤怒就在社会中蔓延ღ★。

　　它不是只看谁喊得最大声ღ★、谁能激起最多的愤怒ღ★，而是尝试评估哪些内容真正有助于建设性的对话ღ★、有助于问题的理解和共识的形成ღ★。

　　如果我们能借助AI和技术的力量ღ★，推动这种新的算法方向ღ★，也许真的能为这个碎裂中的世界ღ★，打开一条重建信任的通道ღ★。

　　也就是说ღ★，如果你发的内容只受到你「本群体」的人欢迎ღ★、点赞再多ღ★，也不会让你上热榜ღ★。你必须说点什么ღ★、发个视频ღ★、做点什么ღ★，能让「立场不同的人」也愿意点个赞ღ★，才能让内容被更多人看到ღ★。

　　结果是ღ★：很快ღ★，各种网红ღ★、名人ღ★、内容创作者就开始尝试说一些能被不同立场人群同时接受的内容ღ★。他们在试错中意识到——这才是让内容「出圈」的唯一方式ღ★。

　　但不管怎么说ღ★，这至少是一个很有启发意义的例子ღ★：通过看起来非常简单的工程设定ღ★，就可以让一项技术从破坏信任ღ★，转变为重建信任ღ★。九游会J9真人游戏第一品牌ღ★，ag九游会官方品牌故事J9品牌九游会官方网站ღ★，

J9九游国际站 - FIBA签约合作商j9.com| http://www.icgrmsd.com