研讨人员、企业家和科技巨子正将人工智能（AI）带往新的前沿，并影响着安康、教导和贸易的平常运动。然则，正如扣人心弦的旧书《性命3.0》所描写的，关于机械智能的突起和它若何从新界说人类，还有更年夜的、乃至是哲学上的成绩。
机械、软件和收集对聪明、认识和人类不雅念的构成意味着甚么？明天的规矩和品德原则将若何塑造今天的文明？《性命3.0》这本书由Max Tegmark所著，以对话和振聋发聩的文风商量了人工智能时期的人类处境，为我们这个时期最主要的对话供给了一孔之见。
书的容量有365页，包括8个章节。被援用的书本包含超等智能（Nick Bostrom），奇点邻近（Ray Kurzweil）。这本书伴随一个在AgeOfAi平台停止的在线互动查询拜访。
作者Max Tegmark是麻省理工学院的物理学传授，他已撰写了200多篇关于从宇宙学到人工智能主题的技巧论文。作为将来性命研讨所的主席，他与Elon Musk协作，启动了首小我工智能平安研讨奖助金筹划。被戏称为“猖狂的麦克斯”，他的晚期作品是《我们的数学宇宙》。
退化与聪明
Tegmark界说了性命的三个退化阶段：性命1.0（生物阶段），性命情势的硬件和软件停止天然退化；性命2.0（文明阶段），硬件退化，而性命情势设计年夜部门的软件；性命3.0（技巧阶段），性命情势设计本身硬件和软件。
虽然人类DNA的信息在曩昔5万年里并没有产生明显的变更，但人类（性命2.0）曾经从基因的约束中束缚出来，并在人脑、书本、盘算机和收集的信息贮存量中有明显增加。下一个进级（性命3.0）将可以或许设计我们的硬件：DNA、神经衔接、协同矩阵等。《生涯3.0》将由人工智能驱动，并将在将来一个世纪到来，乃至是在我们的有生之年。
Tegmark经由过程界说一系列术语来肯定这个阶段：智力（完成庞杂目的的才能）、机械进修（经由过程经历改良算法的研讨和应用）、人工智能（至多和人类一样能完成任何认知义务）、超等智能（远远超越人类程度的智力）、无益人工智能（壮大并受人工智能平安研讨原则的指点）、认识（客观经历）、认识（客观经历）和奇点（智能爆炸）。
记忆力、盘算才能、进修才能和智力都已自力，它们不依附于或反应底层的物资基本。“智能不须要肉、血或碳原子，”Tegmark说明说。人类文明是经由过程说话、对象和庞杂的互相关系退化而来的，而下一个可完成的创造很有能够是人工智能。对人类而言，年夜多半“软件”进修是经由过程突触发展的方法——然则智能机械可以采取分歧的途径，由于它们不用赓续地从新发明，机械可以比人类更快地改良机械。人类的DNA存储了1.6千兆字节的信息，相当于一个下载的片子（有些细菌贮存了40千字节）。人类年夜脑的1000亿个神经元贮存着年夜量信息。年夜脑中的信息是经由过程联想而不是地址往返忆的。
鲁棒性、司法、战斗和失业
语音辨认、翻译、机械人和游戏都是人工智能的一些明显运用，但其他影响还包含金融市场、机械人帮助制作、智能电网、内科手术和主动驾驶汽车。
经由过程更好的验证、确认、平安和掌握，人工智能可以赞助削减工资毛病，加强体系的硬朗性。
外行为心思学的启示下，深度强化进修为DeepMind和OpenAI的冲破供给了动力。DeepMind的AlphaGo在没有输失落一场竞赛的情形下，曾经活着界上20个顶级围棋竞赛中成为冠军。在游戏中深度进修有时被以为是发明直觉（决议某事而不说明缘由）和发明力（不平常的且胜利的提高）。
Tegmark表现：“行之有效的人机协作确切在很多范畴看起来很有愿望。”该研讨的下一个前沿范畴包含将深度递归神经收集与语义世界模子联合在一路。他弥补道：“人们愈来愈难以辩称，人工智能完整缺少目的、广度、直觉、发明力或说话。”
尽人皆知，人工智能的阴郁面在于自立兵器横行。一款由人工智能驱动的杀手无人机，其价钱仅相当于一部智妙手机。是以，很多人工智能研讨人员和机械人专家呼吁制止某些类型的自立兵器，并阻拦“全球人工智能军备比赛”。
“假如我们能弄清晰若何让机械人裁判变得通明和公平，人工智能可让我们的司法体系更公正、更高效。”泰格马克说明道。司法系统中典范的工资毛病是由成见、疲惫或最新常识匮乏形成的。须要设计机械人的司法分类、义务和权力。在一场触及无人驾驶汽车的变乱中，谁应当承当义务：栖身者、一切者、制作商照样汽车自己？
Tegmark以为，毫无疑问，人工智能主导的时期将会转变失业，最好的职业将是那些触及人、弗成猜测性和发明力的职业。不幸的是，研讨注解，科技对教导水平更高、科技公司的一切者和多数“超等明星”有益。
当局应当制订增进研讨、教导和企业家精力的政策，确保根本支出程度，同时付与人们一种任务与生涯的任务感。
在人工智能研讨人员、科技巨子和创业者的介入下，“性命研讨学院”的将来将在这方面成为“人工智能平安”的主流。它支撑诸如与政策制订者对话、尊敬隐私、同享好处、配合好处和人类掌握等准绳。如许做的目标是为了在人工智能完整腾飞之前改良人类社会，在技巧使其过时之前完成古代化，并让年青人在将权利交给他们之前，让他们懂得若何发明出壮大的技巧。
目的
人类的目的和念头有着庞杂的互相感化，好比生计、资本获得、猎奇心和同情心。有些人曾经废弃了晚期的生物目的，好比复制。智能行动与目的完成相干联，晚期的人工智能筹划环绕着编程机械来完成人类目的。目的设计触及到子目的、伦理、进修和强化等成绩。
但跟着人工智能变得愈来愈庞杂，我们须要问人工智能能否应当保存我们曾经给出的目的。我们能否应当让AI更普遍、更普遍的目的？这是谁的目的？我们能转变AI的目的吗？“意义”的寄义是甚么？人类在迷信、宗教和哲学方面的目的是甚么？有朝一日，人类的目的会像蚂蚁的目的一样使人懊丧吗？
认识
Tegmark提出了一种对认识实体的界说，即那些可以自在思虑、记忆、盘算、进修、经历、交换和行为的人，有关损害别人。作者强调，跟着人工智能变得愈来愈庞杂，我们也须要熟悉到，我们对认识意义的哲学摸索如今有一个紧急的截止日期。
一些辣手的成绩发生，好比懂得有意识行动是若何影响认识运动的？认识和有意识体系之间的物理属性差别是甚么？和为何事物是无意识的？主动驾驶汽车阅历着甚么？人工智能有自在意志吗？人工智能会遭到影响吗？AI应当有权力吗？
人类认识研讨反应了年夜脑实际、物理学和信息迷信等范畴的融会。“假如人工智能是能够的，那末与人类的经历比拟，人工智能体验的空间能够是伟大的，”Tegmark说明道。人工智能能够会挑衅人类中间主义的理念（以为人类是地球上最聪慧的物种，是以是举世无双和优胜的）。
人工智能腾飞：智力爆炸？
性命退化的准绳包含协作、竞争和掌握，这些都被技巧缩小了。假如我们有一天发明出人类程度的AGI（artificial general intelligence），那末它会以多快的速度制作出一场智力爆炸呢？我们能掌握这个吗？假如不是，那我们要花多长时光能力掌握我们的世界？在如许一个世界里，我们人类是在极权主义的情况中照样在一个被受权的舞台上？
“人工智能冲破”章节以科幻小说的情势讲述了如许的成绩。被不那末聪慧的人类奴役，AI会不会觉得不愉快？人类应当在人工智能体系中发明甚么目的来避免叛乱？人工智能能对体系停止主导，并破解它吗？我们会生涯在南北极世界（人类和人工智能）吗？
我们甚么时刻能力达到这条岔道口——当我们这么做的时刻，我们能对人工智能施加多年夜的掌握，人工智能又能掌握若干呢？依据Tegmark的说法，真实的谜底不是会产生甚么，或许应当会产生甚么？而是我们想要甚么样的将来？
人工智能：将来1万年
这本书的下一章“超等智能”加倍使人难以相信，它讲述了将来1万年的生涯。我们想要被人接收吗？我们想让人工智能坚持苏醒吗？我们想要发明甚么样的生涯情势？我们想要在全部宇宙中流传甚么文明？
在这方面，Tegmark描写了很多场景，好比：掩护神（一无所知和无所不在的人工智能，最年夜化人类的幸福），植物园治理员（人类在人工智能植物园），被奴役的神（被软禁的AI），驯服者（AI解脱人类）和自在意志的乌托邦（人类和人工智能共存）。每种情形都要依据可行性、长处和缺陷停止评价。
机械会感谢人类发明它们吗？人工智能会尊敬人类吗？人类能否应当尊敬那些将生涯和机械世界的精髓融入个中的半机械人？人类能被上传、下载和克隆吗？人工智能会比人类具有更高等的情绪吗？在这些成绩上没有杀青共鸣（很多人乃至没无意识到这些成绩），是以，Tegmark须要深刻评论辩论关于AGI和人类的话题。
宇宙：将来10亿年及今后的世界
在年夜宇宙的这一章里，工作变得加倍难以相信，特别是在地球性命停止后（因为各类缘由，包含太阳的扩大和地球上一切性命情势的沸腾）。这一章自创了宇宙学家Freeman Dyson的研讨结果，树立在诸如暗能量、虫洞、Chandrasekhar极限和斯蒂芬霍金的黑洞动力装配等概念上。
“即便我们以光速行进，一切跨越170亿光年的星系永久都是高不可攀的——这些是我们宇宙中跨越98%的星系，”Tegmark说明说。
由于在如许一个浩大的宇宙中，通讯速度很慢，所以“宇宙人工智能”须要在速度和庞杂性之间找到均衡，并树立一个盘算收集的层级构造。如许的超等智能将须要为分歧条理的协作和掌握退化出一种管理形式，乃至发明出新型的物资。假如“我们的”超等智能赶上另外一种性命情势，会不会有兵器或思惟的抵触？
“假如没有科技，在将来数百亿年的宇宙中人类将会灭尽，这将使我们宇宙中一切性命的演出都只是长久的转眼即逝的美的闪现，使得热忱和意义在近乎永久的有意义中，不再有人体验，”Tegmark说。
“假如我们持续改良我们的技巧，以足够的关爱、远见和筹划来防止圈套，那末性命就有能够在地球上蓬勃成长。乃至在我们先人最猖狂的妄想以外，在数十亿年的时光里蓬勃成长，”Tegmark写到。
