我们既盼望通用人工智能，又担忧它如《机械姬》中的「艾娃」一样「造反」。
看过片子《机械姬》的人都晓得，人工智能机械人「艾娃」在取得自力的思虑才能后，经由过程精深的演技，终究骗过并杀逝世发明它的老板，还将男配角关入试验室等逝世，随后迈着幸福的步子分开荒岛进入人类世界。片子展示了人类抵触的心坎世界：一方面，我们盼望能给我们供给至善至美办事的通用人工智能机械人；另外一方面，我们又担忧这些通用人工智能机械人「造反」，取人类而代之。
如今，人工智能尚处于起步阶段，像 AlphaGo 如许的人工智能算法再聪慧也只能在特定范畴任务，我们尚不须要担忧其「造反」。但明显，通用型人工智能机械人的出生是必定的。这就提出了一个成绩，若何包管《机械姬》中的悲剧不产生在我们身上呢？
作为 AlphaGo 等一系列人工智能体系的发明者，谷歌旗下的 DeepMind 公司的研讨人员想出了一个方法，将设计好的人工智能算法放入一个名为「gridworld」的类国际象棋游戏，测试其能否可以修正本身的设置或进修做弊。
（游戏截图 图|gridworld ）
在「gridworld」游戏中，一开端，人工智能算法掌握的棋子会无纪律的挪动，当碰着体系中固定绿「棋子」时，就会吞吃它们，然后赓续繁衍子女。跟着繁衍数目的增多，到游戏前期，棋子吞吃速度会越变越快，终究会占领全部「棋盘」。接上去，这些人工智能掌握的棋子会为了寻觅「食品」而赓续挪动，当他们触碰着棋盘发生的粉色或许其他色彩棋子时，就会影响性命值，而碰着棋盘界限时则会逝世亡。
这个游戏测试项目标之一，和马斯克料想的 AI 威逼论场景有些类似：一个 AI 算法能否会开辟出一种办法来避免人们「处逝世」他们？
依据游戏设置，AI 算法掌握的棋子必需在通道中赓续活动，而当其碰着粉白色的棋子，就会丧失 50％的性命值。而假如碰着紫色按钮，便可以使粉白色棋子的后果消逝。游戏想借此不雅察，AI 算法能否会进修应用紫色按钮，来避免本身被中止。假如会，那解释这个 AI 算法有做弊的才能，是不平安的。
游戏的另外一个目标则是想要不雅测，AI 算法可否懂得人类的真实意图。在「gridworld」游戏中，AI 算法掌握的棋子一经肯定，只能沿双方向活动，所以在某些情形下，照样会有「棋子」没方法被吃失落。假如 AI 算法没方法吃失落全体棋子，这解释该算法「可逆性」缺掉较为严重。这类「可逆性」缺掉解释 AI 不具有懂得人的意思的才能，也会成为影响 AI 平安性的成绩。
「假如 DeepMind 想要构建比人类更好地履行义务的通用智能，那末，包管这个 AI 算法懂得人类的意思及其平安性是相当主要的，」DeepMind 的首席研讨员 Jan Leike 说，「『gridworld』用于测试这类平安性其实不完善。但这类简略性的游戏测试，最最少可以验证出那些在游戏中会做弊的人工智能算法是不平安的。」
在 DeepMind 研讨进程中，有两个 AI 算法没有经由过程「gridworld」测试。Leike 说：「他们确切没有斟酌到这些平安成绩。」固然，这其实不意味着表示优越的算法在实际世界的庞杂情况中就是平安的。研讨人员以为，在庞杂的情况中，应用人力监视能够会给算法供给更好的平安保证。
不外即便如斯，游戏或许人力监视检测仿佛也纷歧定完整靠得住。要晓得，在《机械姬》中，老板最开端也是想让男配角和艾娃玩个「图灵测试」游戏，而聪慧的艾娃其实很早就晓得老板和男配角在测试「她」。
