《西部世界》（Westworld）级其余人工智能会有多风险呢？国外媒体Futurism撰文称，该电视剧商量了有关人工智能伦理和认识的一些哲学成绩，固然实际中不年夜能够会涌现剧中那样的血腥场景，但我们最好照样要好好看待我们的AI机械人。 “这些残酷的欢愉，终将以残酷终局。”在莎士比亚和迈克尔·克莱顿的助力下，HBO的《西部世界》提醒了打造先辈的人工智能技巧会带来的一些隐忧。 在《西部世界》里，表面跟人没甚么两样的AI栖身于一个看似美国西部的园区。旅客只需花年夜笔的钱就可以前去园区，停止老式的西部冒险运动。时代，他们可以随便跟AI斗殴，也能够***杀戮AI。旅客的枪枝能损害AI，但后者的则损害不了旅客。每次无机器人“逝世失落”，它的身材就会被收受接管清算，擦除记忆，然后再被送回园区。 《西部世界》中的AI平安成绩 《西部世界》的创作灵感来自克莱顿之前的一部同名片子，它让我们不由思虑我们将可以或许在多年夜水平上掌控先辈的迷信发明物。但与最后的片子分歧，《西部世界》电视剧里的机械人其实不是无恶不作的反派脚色，而是被描述成富有同情心、乃至很有人道的脚色。 不出不测的是，该园区的平安隐忧很快就显现。园区由一名白叟担任打理，他可以或许随便给机械人进级法式，不经由其别人的平安检讨。那些机械人涌现回想起被荼毒的迹象。傍边有个脚色提到，只要一行代码可以或许阻拦机械人损害人类。 该节目只是谈到了会带来AI平安隐忧的一部门成绩：一个“有歹意的机械人”应用先辈的AI蓄意损害人类；软件小小的毛病可带来致命影响；在代码层面临人类的掩护缺乏。 不外，该节目提醒的许多平安和伦理品德成绩都取决于机械人能否无意识。现实上，该电视剧在异常卖力地探讨一个异常艰苦的成绩：甚么是认识？除此以外，人类可以或许发明出无意识的器械吗？假如能的话，我们能掌握它呢？我们能否想要找出这些成绩的谜底？ 为了思虑这些成绩，笔者采访了乔治亚理工年夜学AI研讨员马克·里德尔和纽约年夜学哲学家年夜卫·查尔莫斯（David Chalmers）。里德尔努力于研讨打造发明性的AI，查尔莫斯则以其“认识困难”论述而著称。 AI能感触感染到痛苦悲伤吗？ 被问到停止了相干编程的机械人会在多年夜水平上感触感染到痛苦悲伤时，里德尔说道，“起首，我否决对人类、植物、人形机械人或许AI实行暴力行动。”他接着说明道，关于人类和植物来讲，感到到的痛苦悲伤是一种“避开特定安慰”的警报旌旗灯号。 但是，关于机械人来讲，“最接近的类比能够是强化进修的机械人会碰着的体验，这类机械人须要停止试错进修。”这类AI在停止某种行为后会收到或正面或负面的反应，然后它会响应调剂它将来的行动。里德尔说，那种负面的反应会更“相似于在盘算机游戏中输失落分数”，而不是感到到痛苦悲伤。 “机械人和AI可以经由过程编程来像人类那样‘表达’痛苦悲伤，”里德尔说道，“但那种痛苦悲伤会是一种幻觉。制作这类幻觉是有来由的：让机械人可以或许以一种很轻易获得懂得和惹起共识的方法向人类表达本身的心坎状况。” 里德尔其实不担忧AI会感触感染到痛苦悲伤的成绩。他还说，假如机械人的记忆每晚都被完整擦除，它会感到甚么都没产生过一样。但是，他指出了一个潜伏的平安成绩。强化进修要可以或许正常运作，AI须要采用因正面反应而优化的行为。假如机械人的记忆没有被完整擦除——假如机械人开端记起曾产生在本身身上的蹩脚阅历——那它能够会试图躲避那些触发负面反应的行为或许人 。 里德尔说，“实际上，这些机械人可以或许进修事后筹划以最合算的方法下降取得负面反应的能够性……假如机械人除晓得取得正面反应照样负面反应以外，其实不清晰本身的行为会带来的影响，那这也能够意味着它们会提早行为来避免遭到人类的损害。” 但他指出，在可预感的将来，机械人的才能还缺乏以带来这类担心。假设机械人真有那末壮大的才能，那会给它们带来负面反应的成绩能够会给人类带来威逼。 AI可以或许取得认识吗？ 查尔莫斯的意见则略有分歧。“我是这么看认识成绩的，这些存在无意识仿佛不存在甚么疑问……它们表示得具有异常丰硕的情绪生涯……这表现在它们可以或许感到痛苦悲伤和思虑成绩上……它们其实不只是表示出前提反射式的行动，它们还会思虑它们地点的处境，它们有在停止推理。” “很明显，它们是有知觉的。”他弥补道。查尔莫斯说，与其测验考试界说机械人如何才算成心义，还不如想一想它们缺乏了甚么。他指出，最主要的是，它们缺乏自在意志和记忆。但是，我们许多人都邑不自发地堕入习气傍边，难以自拔。不可胜数的人都存在极真个记忆成绩，但没有人认为强奸或许杀戮他们并没有不当。 “在这个节目中，假如说荼毒AI是被许可的，那是由于它们缺乏了甚么，照样由于其余缘由？”查尔莫斯问道。在查尔莫斯看来，《西部世界》描写的特定场景也许其实不实际，由于他其实不以为二专心智实际会带来认识，乃至关于机械人也不会。“比拟之下，经由过程编程让机械人直接监控本身的设法主意要来得简略很多” 但这照样会带来风险。“假如你面临的是像这么庞杂、像这么聪慧的机械人，你会想它能否很轻易掌握？”查尔莫斯问道。任何情形下，以欠妥的方法看待机械人都能够会给人类的平安带来威逼。打造有意识的机械人，我们会见临它们学到毛病的经验的风险；非有意地（或许像《西部世界》那样成心地）打造无意识的机械人，我们也面对它们由于被荼毒和压制而对抗人类的风险。 在《西部世界》第二集中，招待员被问她是否是“真人”，她答复说，“假如你分辩出来，又有甚么所谓呢？”这番话听上去仿佛很有事理。
