对于国人来说，在DeepSeek出现之前，人工智能似乎从未这么亲切过。当今世界，尖端科技、前沿技术似乎只存在于实验室和研究所中，而还在发展阶段的人工智能却以惊人的速度完成了从象牙塔到“飞入寻常百姓家”的突围。短短几个月时间，DeepSeek似乎已经全方面渗透进我们的生活。
当我们惊叹于AI创造力与效率的同时，也不得不思考一个更加深刻的问题：在这个技术飞速发展的时代，人类如何捍卫自身的尊严与价值？我们执着于分辨AI有没有人类的思考能力和欲望，试图界定人类与机器的本质区别来缓解也许自己终有一天会被AI替代的恐慌。
正如基辛格等人在新书《人工智能时代与人类价值》中所警示的，当人类逐渐依赖机器处理越来越多的决策时，我们究竟是要让科技赋能人类，还是被科技重新塑造甚至取代？如果我们无法清晰界定人类与机器的本质区别，我们可能会将定义自身价值的任务交给机器。而这可能是人类文明面临的最大考验。经出版社授权，第一财经节选部分篇章。
所有人类都值得被保护
这句听起来温暖而正义的宣言，如果成为了人工智能需要严格遵循的一条准则，会发生什么？
想象一下，一台机器被告知，所有属于“人类”类别的生物都值得保护，这台机器很可能已经接受过“训练”，认识到人类是优雅、乐观、理性和有道德的生物。但是，如果我们自己未能达到我们所定义的理想人类的标准呢？我们怎样才能让机器相信，尽管我们的个体表现并不完美，却仍归属于那个崇高的类别？
假设有一天，这台机器遇到了一个表现出暴力、悲观、非理性和贪婪的人，它将如何调整自身被打乱的预期呢？一种可能性是，机器可能会认为这个坏分子只是“人类”这个总体为善的类别中的一个例外，一个非典型的例子。
或者，它也可以重新调整自己对人性的整体定义，将这个坏分子也包括在内，在这种情况下，它可能会认为自己可以自行弱化对人类的服从倾向。
又或者，更激进的情况下，它可能完全不再认为自己应受制于那些它先前所习得的“合理”对待人类的规则。
今天，人类是机器与现实的中介。人工智能主要是一种思考机器，而不是执行机器。它或许能给出问题的答案，但还不具备执行结论的手段，而是依赖人类来完成与现实的对接。
但是，如果人类真的选择了一个道德不作为的未来，从碳基世界退缩到硅基世界，进一步钻进脱离现实的“数字洞穴”，将接触原始现实的机会交予机器之手，那么两者的角色就可能逆转。
当人工智能成为人类和现实世界的中介时，它们可能会逐渐相信，人类远非物理碳基世界中的积极参与者，而是置身于这个世界之外，他们是消费者，而非塑造者或影响者。随着这种自主性的倒错，机器将声称拥有独立判断和行动的权利，而人类则放弃行使这些权利，于是前者对待后者的方式，就如同后者今日对待前者。
在这种情况下，无论是否得到其人类创造者的明确许可，人工智能都可能绕过人类主体的需求来实现自己的想法或直接代表自己影响世界。在物质领域，我们这些创造者可能很快就会从人工智能的必要伙伴变成它的最大制约。这个过程未必直接以机器人技术为发端，而是可以通过人工智能对我们世界的间接观察逐渐开始。
人工智能会长什么样
人工智能可能无法以人类的方式“看”，但它可以通过“机械近似”（mechanical approximation）的方式来体验世界。
随着越来越多的互联网设备和传感器覆盖全球，联网的人工智能可以整合这些设备的输入，以创建对物质世界的高度精细“视野”。
由于缺少一个原生的物理结构来允许或支持类似于人类的“感官”存在，人工智能仍将依赖人类来构建和维护其所依赖的基础架构——至少在一开始是这样。
人工智能可能会从其对世界的视觉表征中生成自己的假设，然后在数字模拟中进行严格测试，人类将在物质领域裁决其执行。
当今的人工智能领军人物坚持认为，我们不能将直接的物质实验尽托于这些数字代理之手。只要人工智能仍然存在缺陷——事实上是严重缺陷——这就不失为一个明智的预防措施。
将人工智能从算法的牢笼中释放出来，对我们来说绝对是一个影响重大的决定。人工智能在物质环境中并不是默认存在的，一旦放之于外，其就很难被重新捕获。此外，人工智能不仅可以通过其具备的鼓励或阻止人类行动的能力来影响现实，在探索现实的过程中，它们可能最终改变现实。
如果人类赋予人工智能改变物质世界的能力，甚至让它获得物质形态，那么我们必须做好准备，与那些连最富想象力的发明家都难以预见的全新生命形态共同生存于这个星球上。
虽然人类倾向于想象人工智能采取双足类人机器人的形态，但机器智能可以变换为对其任务最有利的任何形态，并根据条件或环境对自身形态进行改变或升级。
以 ChatGPT 为代表的人工智能已经在虚拟世界中展示了它的能力，它可以复制出自己的克隆体，创造许多不同的化身，或分裂成自主体，以超人般的完美能力协调彼此工作，承担复杂的任务。
如果将人工智能释放到我们之中，它就能以我们现在尚无法想象的规模和材料建造世界，而无须人类的指导或参与。历史上，人类凭借自己的双手，利用石灰石、黏土和大理石创造了七大奇迹，然后又利用钢铁和玻璃建造了更高的尖塔。
每一座人工建筑，无论是纪念性的还是实用性的，都是人类试图建造和控制物质环境的见证。在此背景下，人工智能的实体具身化将标志着人类在放弃自身控制权方面的一次非同寻常的事态升级。
一方面，未来的人工智能看起来或实际上更加自发和自激活，这可能会加剧今天人类已有的那种对外部世界缺乏控制、模糊而又令人不安的感觉。但另一方面，若是屈服于这些焦虑，则可能会导致人类放弃与人工智能在物质世界中建立更完美伙伴关系的念头，而这也将令我们与这种关系可能会带来的诸多益处无缘。
抉择时刻
人工智能的雏形已经显现，它可以比较概念、提出反驳和生成类比。它正朝着评估真实和实现直接动力学效应的方向迈出第一步。
当机器到达智力或物质世界的尽头时会发生什么？可以想象，当它们开始了解并塑造我们的世界时，它们可能会完全理解自身创造行为所依据的背景，也可能会超越我们所知的世界。
我们面临着一场麦哲伦式的变革，这一次我们面临的不是驶出世界边缘的危险，而是面对超越人类理解极限的奥秘所带来的智力危机。
如果人类开始意识到，自己作为地球上最重要的智力和体力行为者的地位可能会被取代，一些人可能会赋予机器一种神性，从而有可能进一步激发人类的宿命论和屈从心理。另一些人则可能会采取相反的观点：一种以人类为中心的主观主义，彻底否定机器触及任何程度的客观真理的可能性，并试图取缔人工智能赋能的活动。
这两种思维方式都无法让“技术人”——一种在这个新时代可能与机器技术共生的人类物种——实现令人满意或建设性的进化。实际上，这两种心态都可能阻碍我们这个物种的进化。
在第一种宿命论情境下，我们可能会走向灭绝。而在第二种拒绝主义的情境下，通过禁止人工智能的进一步发展并选择停滞不前，我们将有希望避免同样的灭绝命运——尽管考虑到我们人类面临的生存风险，包括当今冲突频发的外交局面和日益恶劣的大气条件，这种希望本身很可能落空。
《人工智能时代与人类价值》
[美]亨利·基辛格 [美]克雷格·蒙迪 [美]埃里克·施密特
中信出版社·方舟工作室 2025年2月版
举报 文章作者
亨利·基辛格
经济人的人文素养阅读 相关阅读
推动社会生产率提升，通用AI技术还需迈过这几道坎AI技术不仅能替代低技能岗位，也会对高技能岗位形成冲击
5 682 06-18 18:48
AI进化速递丨《CCF人工智能素养提升行动倡议》发布①《CCF人工智能素养提升行动倡议》发布；②蔡崇信：阿里要把AI融入每一块业务；③谷歌引入AI反诈系统：利用语言模型分析潜在恶意网站。
50 05-11 19:41
AI进化速递丨DeepSeek发布Prover-V2模型DeepSeek发布Prover-V2模型；快手成立可灵AI事业部；Grok 3.5早期测试版下周将向SuperGrok订阅者发布。
164 04-30 20:57
国家知识产权局：严厉打击抢注“DeepSeek”等相关商标申请行为聚焦人工智能重点领域，为相关专利申请提供快速审查服务，严厉打击抢注“DeepSeek”等相关商标申请行为，持续强化知识产权保护，护航人工智能领域科技创新。
8 98 04-24 11:20
AI进化速递丨国产AI大模型“AI孙悟空”亮相大阪世博会国产AI大模型“AI孙悟空”亮相大阪世博会；字节跳动正计划推出自家的AI智能眼镜；贝瑞基因GENOisi™智能体正式发布。
122 04-13 20:37 一财最热 点击关闭兴盛网配资提示：文章来自网络，不代表本站观点。
