如果意识脱离了身体，那还是“我”吗？如果技术进步具有不可逆转的惯性，谁对技术的限制负责？如果我们给予“创造者”的地位，人们是否会经历一种普罗米修斯式的耻辱？这是北京大学新闻与传播学院教授胡勇在虎秀调频创新节上发出的警告。反观另外三位嘉宾对于人工智能的宏大愿景：百川智能创始人王小川将人工智能视为人类文明的重要组成部分，并提出“人类未来的历史是与人工智能共同书写”的判断；脑科技创始人陶虎断言“大脑是人类的主要部分”，试图用科技增强人的主体性，使人在智力的竞争中不至于落败；永源合生联合创始人孟凡康用合成生物学展现未来生命的广阔空间：Wh如果生命可以被改写，人类会成为自然定义的“人”吗？在虎秀FM创新节“我是谁，我还能是谁”圆桌会议上，在主持人季中展的追问下，四位嘉宾将讨论推向了多深？以下是整个圆桌会议的文字记录——我该如何重塑？纪中展：三位演讲者只是向我们展示了人生在三个方向上的成就。医疗AI治疗扩大了生命的边界，脑机接口扩大了大脑和心灵的边界，合成生物学扩大了创造生命的边界。王小川谈为道打造医生，为人生发展典范；陶虎谈论重塑生活，打破人类存在和理解的界限。孟老师讲重写世界、设计大脑。我越听越兴奋，也越困惑。经过改造和重建后他们三个，我会是谁呢？我还是同一个人吗？我怎样才能再次成为我的人？我想先问王小川，你所说的医疗AI是给人们更多的自由，还是更系统地确定更好？人们将从哪里获得您产品的技术？你想为人们创造医生和模特。你的价值观和恐惧是什么？百川智能创始人王小川，图片来源：现场拍摄及虎秀FM创新盛典 王小川：首先相比后两者，我的价值观可能是最保守的，至少我自己没有写过。但即便如此，我还是很困惑，因为2023年我停止用AI做药后，我意识到一个问题，那就是AI会进来，成为人的一部分，我们会被纳入技术之中，所以再往下走，人与机器（我？）的边界问题会更严重。我什至认为人类的历史将是短暂的未来几年，因为人类和人工智能将共同创造历史。我认为“为人类创造医生”只是一个阶段性的目标，让人类更加独立和身体健康。现在我们要求人工智能“修复”人。未来，我们可能会要求人工智能来“修复”机器人。最终目标也可能发生重大变化。 2023年底我在知乎上发了个帖子，很生气。我说程序员都是自己的掘墓人。事实上，我赞同马克思的一句话：“资本家是资本主义的掘墓人”。马克思的话还没有实现，但是“程序员是自己的掘墓人”这句话可能已经早实现了。今天不会编写程序的人也可以要求人工智能为他们编写程序并运行它。所以不要以为人类如此强大，人工智能就永远是我们的仆人和工具。最终我们将超越人工智能，我们将创造一个文明。纪中展：被打压的事情我们已经讲完了。让我们听听不那么压抑的想法。胡涛大师，W当思想被阅读时，我的思想会成为公共领域吗？陶虎：我一直对长生不老很执着，但是看了长生的历史，我觉得他们都想改变肉身，但没有人愿意从“人类自身救赎”的角度去改变。刚才提到的意识或许太“神秘”了。让我谈谈一些非常基本的事情。人类有两种类型的疾病。一是大脑以外的身体其他部位的疾病。无论是骨折还是断臂或断腿，所有这些实际上都可以通过医疗设备修复。这时候你就会发现，如果你在身上安装骨钉或者假手，没有人会质疑你“不是人”。如果你只是用你的大脑做一些小把戏，人们就会开始想，“你仍然不是一个人。”因此，大脑对于“定义一个人”起着决定性的作用。人脑有两个功能特征。首先，人脑是一个超级计算机功耗比大，高于目前所有NPU、GPU、CPU。比如说你今天早上吃了一个馒头，今天你还可以思考，但是如果你是用计算能力去做的话，就该考虑能源问题了。所以现在，无论是“类脑”还是不同的架构，他们都在研究大脑，但我认为他们只触及了表面。大家都担心人工智能会变得更加强大，人工智能会取代人类。这背后有两个假设。首先，人脑永远不会改变。我不同意这一点。人们常说，爱因斯坦的大脑只用了30%，他的大脑就很强大，而普通人却很擅长，他只用了20%。这背后的原因是大脑的使用没有耗尽。当我们通过脑机接口不断地去理解它，进而刺激那些没有的区域虽然整个用途是一样的，但由于大脑网络的连接很大，它的性能是指数级的，所以我不太担心人工智能取代人类智能，而是更多地关心如何整合它，而且我一直坚持人类智能应该发挥主导作用。我决定使用什么样的人工合作。虽然我一直愿意被植入脑机接口，但我始终相信，无论是脑机接口还是其他技术，仍然以人为中心，世界之外的一切都会被人所利用。胡陶，Brainhu科技创始人，来源：虎秀FM创新节现场拍摄 纪中展：你准备好把你的大脑接入互联网了吗？陶虎：我一定会做的。为什么你需要做好准备？比如说，我就是一个非常没有耐心的人。虽然我今天语速很快，但也只能说出这么多信息。但如果同样的信息是我们通过脑机接口编辑，15分钟的内容可以在两分钟内分享。为什么我们坚持打造脑机接口？不仅看特定疾病的修复或特定功能的替代，还看大脑和世界的外部信息。信道的带宽需要更可靠、更好、更有维度。纪中展：如果意识可以备份、升级、转移，你还会被保存吗？胡涛：这也不一定，因为我是工科出身，不懂纯文科或者哲学。但首先，我们谈论一个词，叫做数字生活，它有两个主要词，“数字”和“生活”。最直接的就是AI终于有了自己的想法。这是一个方法。第二个是将生活数字化，备份我现有的意识并将其存储在云端。但无论如何，这两块都需要脑机接口来工作，所以无论最终的技术路线是什么，将大脑与外部数字对象整合起来很重要。季中展：再问我孟老师，当生命可以被设计，当我们从自然的存在走向工程的存在时，什么突破是最令您欣慰的？最警惕的是什么？交叉？孟繁康：我想讲两件事。一是，人类会发展出合成生物学吗？还是不做人？我认为它使我们成为人类，但有一个要求——健康的人类。我们的身体其实有很多疾病。合成生物学将消除我们的癌症，使我们的肠道更健康，让我们的生活更加舒适。对于阿尔茨海默病，我们都可以通过合成生物学设计的药物或细菌疗法来解决。同时，我认为合成生物学也能让我们“不如人”。我来分享一些案例。生物学的一个基本理论是DNA由4种成分（ATCG）组成，蛋白质由4种成分组成。含有20种氨基酸。 DNA是生命的基本代码，蛋白质负责执行任务。那么问题来了，为什么只有4种和20种呢？能有突破吗？举个例子，如果你想设计一个由100种氨基酸组成的东西，比如我们通过合成生物学，包含更多不同类型的氨基酸，那么组织空间就会是100的100次方，这比人类最初的进化更有可能。当人工智能帮助我们设计出更多功能蛋白质时，生命本身就会发生翻天覆地的变化。我们可以想象生活在极其极端的环境中，比如在火山口的超高温地下温泉中生存，甚至帮助我们拓展星际文明的可能性。当然，这些需要在现有的道德和法律框架内实施。一些有毒蛋白质可以致命，但它们显然超出了现有的道德和法律框架。这很明显这是不可接受的，这是每个人都需要小心的事情。永源和声联合创始人孟凡康，图片来源：虎秀FM创新节现场拍摄。 AI洪流下如何判断一个人的存在？纪中展：胡勇老师，听了他们三人的发言，您觉得从哲学、社会学的角度来说，哪里应该有人的意义、人的意义、人的主导？胡勇：我自己不是哲学家，但我觉得现在每个人都应该是哲学家。人工智能真的会让我们进入一个每个人都必须思考作为人类意味着什么的场景吗？首先我要说的是，我并不是在制造对抗，而是在倾听我的意见，或者其中一些人是超人类主义者或后人类主义者。在想象中，似乎如果在人类身上加入更多的科技，人类就可以从普通人变成超人，而我们创造的物种可能就不是人类了。但我想谈两件事。首先，我不认为人们的原因纯粹是基于他们的智力。换句话说，每个人都会低估身体的重要性。我们可以思考一个问题：昨天的你和今天的你还是一样吗？只是你的大脑吗？是因为你们有记忆、有意识、有心理活动，所以你们是同一个人吗？物质存在的意义是什么？比如孟老师今天提到的阿兹海默症的例子。阿尔茨海默氏症患者的记忆被破坏，但他的身体仍然存在。如果这个病人是你的亲戚，你能说这个人不是一个人吗？我认为我们低估了身体和智力之间的关系，以及身体对人类身份的重要性。也就是说，当你真正上传了你的意识之后，这个意识是没有身体的，那么我们可以讨论一个问题——上传的东西是什么？或者不是我？氧另一方面，在进化过程中，人类为自己的智力投入了很多资源，导致我们的智力高于其他物种。为什么在进化过程中大脑需要发生如此大的改变？我们当然可以增加大脑的潜力，例如通过科学，使其像爱因斯坦一样。但你有没有想过这个问题，我们为什么要改变大脑的大脑？我觉得从人类社会发展的角度来看，你之所以这么优秀就是会说话、会合作、会八卦、会心机，甚至会让人社交。但事实上，我们每个人都在变得越来越原子化。我们不再合作了。每个人都生活在自己的小监狱里。在这个监狱里，一切都可以给予。无需外出或与他人发生关系。因此，无论人脑进化得多么好，都不要忘记它的目的。胡勇，北京大学新闻与传播学院，来源：虎秀FM创新节现场拍摄 纪中展：请陶虎老师回应一下。陶虎：我理解老师老师的出发点。我说一下我看到的一些案例和我感受到的进步。从历史的角度来看，单从社会发展和技术发展的角度来看，信息传输、存储和通信的效率已经可以追溯到数百年甚至数千年。从古代的甲骨文种子到信件，从电话到今天的各种多媒体，信息沟通、传输、处理的效率越高，科技、经济乃至文化文明的发展就越快。但现阶段，人类文明的瓶颈在于人与外界沟通的速度。现在普通人的接触速度已经跟不上硅基发展的速度了。这就是为什么我们担心人工智能会被取代由人类取得。第二个现象，我们不说把正常人变成超人，而是说把病人变成正常人。从大脑开始是有道理的。中国有数十万ALS患者（不能说话、不能动），平均生存期约为48年·月，而且很有规律，每年新增3万至5万人，死亡3万至5万人。此外，还有数百万高位截瘫患者、数千万偏瘫患者、数百万失语患者。脑机接口可以让他恢复或部分恢复他的沟通需求、情感需求、工作需求，这对于一大群患者来说非常有意义。纪中展：我也想请王小川回应一下。王小川：其实听完之后我觉得这两个是来拯救人类的（笑），因为现在硅基技术发展很快，硅基技术yn可以像人类一样说话和思考，理解世界甚至改造世界。如果你问我大脑重要还是身体重要，我还是更喜欢大脑。认识世界、改造世界、做出决策，我们还是要依靠人脑。现在的问题是人工智能已经开始承担很多角色。以前你自己开车，现在你告诉导航软件你想去哪里，它就会为你规划出整个路线图。在幕后，实际上是机器在做决定，而人在执行。我们不经意间把决策权交给了AI，未来也会把更多的决策权交给AI。现在，很多人说人工智能不好，因为你没有像人一样对待它，只会给它几个关键词。自然，表现也不好。您不仅必须为其提供上下文，还必须控制它。今天我们遇到了一个很好的机会AI领域，但同时也存在着巨大的挑战。人们开始放弃自己的决策权，成为纯粹的管理者。我心里有一丝悲观，担心机器会开始超过人。如果这个世界50%以上的决定是由机器做出的，那么谁控制这个世界呢？人工智能就像人类抚养的婴儿。如果人类和人工智能能够共同前进，而不是在极端情况下只有人工智能被抛在后面，那将是最好的画面。到底是人类控制人工智能，还是人工智能控制人类？纪中展：胡勇老师从“我，又变成了我”的命题来看，分享了三个主题，一是生活的塑造，一是再造生活，三是设计生活。您认为有什么区别？胡勇：Chatgpt出来后，美国人工智能界很多人都在流传一本老书，翻译成中文叫《原子弹出窗口的故事》”。同时，诺兰在拍摄《奥本海默》时也接受了记者采访。他说从事人工智能工作的人都害怕人工智能和原子弹诞生的平行。我觉得有时候社会进步的统一性会令人惊讶，因为萨姆·奥尔特曼的生日和奥本海默在同一天，甚至奥特曼也觉得他的计划可以与曼哈顿计划相比较。找到这本书并读一下。这本书开头引用了奥本海默的一句话，基本上意味着科学家能够在科学上做出发现，不是因为它有用，而是因为它是可发现的。这句话让我震惊，它说明了一个事实，很多时候你做了某件事后，它并不止于此，就像潘多拉盒子的寓言一样，虽然我的出发点是好的，但我认为它应该有一个限制，但最终奥本海默承认他想制造原子弹的原因是因为原子弹有一个“最佳点”。在技​​术上。因此，辛顿后来进行了一次关于人工智能对人类的危险的巡演。然后有人问他，你以前不是也这样过吗？那时你在做什么？因此他承认技术科学家或对科学有兴趣的人应该发现它。从这个意义上说，“责任生活设计”这句话本身就是一个悖论。当你设计生活时，就不存在责任这样的事情了。这和我刚才讲的“原子弹射编年史”是一样的逻辑。第二，我认为王小川对于人类控制的期待还是乐观的。未来50%的决策将不是由人工智能做出，而是90%以上甚至99%。我经常用一个比喻。有一个寓言，叫阿拉伯人的帐篷。讲述了阿拉伯人出于怜悯，让骆驼的头、脖子和前腿逐渐伸入帐篷，最终被帐篷完全挤压的故事。陶虎：我想表达的是，即使是尽管我们在这个过程中犯了很多错误，但我仍然对人性充满信心。名字嘛，“重组生活”要有足够的耐心。让所有患者变得正常，甚至从正常到超人，是一个漫长的过程。我们不能让道德判断成为科技进步的障碍，但也不能让科技进步成为道德沦丧的借口。孟繁康：我给大家举一个实际案例，介绍一下合成生物学领域我们如何把控安全。我们建立的整个体系首先是一个完整、成熟的生物安全筛查体系。当任何用户提交DNA合成序列时，如果发现任何问题，例如，如果该问题对应于对自然有害的东西，那么我们将拒绝它。简单地说，如果你用人工智能设计来避开我们的障碍，我们发现它与自然没有相似之处，我们会拒绝它，因为它往往带有风险。此外，事实上，整个科学界正在积极采取行动，促进更安全、更合理的生活设计。我认为这是一个负责任的开始，但正如胡老师所说，存在风险。这个过程需要大家参与，从政策制定到技术开发，都要共同参与，共同保障设计。王小川：一个重要的关键词是，人是什么？这个人定义了这个人的身体和大脑吗？我刚才提到了科学家群体。我认为科学家不仅仅指你的身体和大脑。你发表的论文和被引用的次数也是你的一部分。我们很容易把我们的肉身视为“我们自己”，但当它脱离外部环境而单独存在时，它就不可能是一个人。今天的我们和古人的区别不是我们的DNA不同，而是我们的知识和观念不同。因此，我们不应该肢解人们拥有DNA、身体或大脑，但将人工智能视为人类文明的一部分，并且不害怕它。就像当你遇到外星人时，你不仅要研究他们的身体，还要研究他们的技术和他们的通讯方式，这些共同构成了外星文明。那么，在重新定义“什么是人”之后，让我们将自己与AI看齐，将其视为一种人。它可能比猫和狗更接近我们，这是我们需要照顾的婴儿，并成为我们社会的一部分。胡勇：我认为艾未未可能是个婴儿。现在你解释一下，它是一个婴儿，但是当弗兰肯斯坦长大后，他绝对不会是一个婴儿，他会违背你的意愿行事。大家都知道，人类和大猩猩确实有很大的区别，而大猩猩和蚂蚁的区别就更大了。然而，从超级智能的角度来看，你可以看到生物之间的差异并不是差异。爱因斯坦被普遍认为是天才，但从超级智力的角度来看，普通人和爱因斯坦并没有太大的区别，因为智力差距巨大。当超级智能彻底碾压人类智能时，主要问题就出现了：人类如何才能打败所有物种，成为世界的霸主？为什么不能是AI？这真是一部好莱坞式的奇幻片。我想解释一下，人工智能不太可能是一个“婴儿”。主持人季中展，图片来源：虎秀FM创新节现场拍摄 孟凡康：今年《自然》发表了一篇报道，用大的AI模型设计了一个生物分子。按照自然进化论，这个分子从最初的蛋白质变成现在的蛋白质需要5亿年的时间，但AI在一周内就完成了这件事。所以我觉得如果AI能够足够强大并且能够与生物学融合的话，我希望它能够帮助人类改变和适应环境。如果人工智能能够融入到整个生活的设计中，我们更好地前行，映射人类文明的浩瀚。胡涛：今天胡老师讲话的时候，我也在反思自己。我怎样才能使个人成为更好的人？我希望提高自己的同理心能力，提高情商，而不是现在采取的越来越逻辑化、冷酷的做法。人之所以为人，是因为同理心是一个非常重要的特质。我希望我的情商能够赶上我的智商。王小川：我们人类生活在一个悖论之中。每个人都希望自己的生命能够继续，但我们都是凡人，都需要某种延续和传承，所以更多的人选择了孩子，让孩子能够活得更好，捐献自己的器官，甚至选择以死来赡养孩子。对于我来说，我也是这样对待AI的。但首先我需要创造人工智能，同时让人们更健康。然后我就会得到幸福，把我的创造、健康和幸福统一起来。胡勇：我感觉更何况，能“死”的生命真是太伟大了。人为什么想要永生？永生是为了什么？身体也可能脆弱、生病和衰老。我认为一切都很好，没有必要改变。事实上，我们总是把自己放在创造者的层面上，但是一旦我们开始创造东西，很多事情就真的脱离了你的控制。它会有自己的想法，并且会按照自己的势头行动。那么它会去哪里呢？当你面对自己的创作时，你会觉得自己落后他很远。我把它叫做“普罗米修斯之耻”。我觉得这不是我想看到的，我觉得AI朝这个方向走是对的。本文来自虎秀，原文链接：https://www.huxiu.com/article/4810928.html?f=wyxwapp 特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。 不是e：上述内容（包括图片和视频，如有）由网易HAO用户上传并发布，网易HAO为社交媒体平台，仅提供信息存储服务。