2017年5月柯洁与AlphaGo在中国睁开棋战。阿尔法狗毫无悬念的三胜柯洁。阿尔法狗只是一个低级的人工智能，但他具有了“深度进修”的技巧。它构成的神经收集“年夜脑”曾经可以停止精准庞杂的处置，像人类年夜脑一样任务。
7月Facebook 人工智能研讨所（FAIR）应用机械进修办法，对两个聊天机械人停止对话战略迭代进级，成果发明它们竟自行成长出了人类没法懂得的奇特说话。
假如AI持续创立本身的说话，这会让机械现实上颠覆其研发者。研讨者不能不对其停止了人工干涉，紧迫封闭了该研讨项目。
这不是第一次发明 AI 偏离练习所用的英文，转向成长出新的加倍有用的说话。
跟着人工智能的成长，迷信家开端担心人工智能会给人类带来各类难以估计的影响，乃至能够是灾害。
被众人誉为“宇宙之王”的史蒂芬·威廉·霍金（Stephen William Hawking）屡次收回正告：一场躲藏的威逼正在硅谷的技巧试验室中静静酝酿。人工智能假装成数字帮助装备和主动驾驶的交通对象，正在人类社会中逐步站稳脚根，它们也许有朝一日将招致人类的终结。
特斯拉的开创人伊隆·马斯克将人工智能的成长比作“呼唤恶魔”。他此前曾收回正告：人工智能技巧有朝一日会比核兵器加倍恐怖。将来人类在智力大将被远远抛在前面，并沉溺堕落为人工智能的宠物。
顶级盘算机专家斯图尔特-拉塞尔也收回正告称，人类制作出的事物（人工智能）将能够退化得比人类更聪慧。
不要质疑霍金，你能肯定收回正告的究竟是霍金的头脑照样他的那台人工智能呢？
今朝人工智能固然不会本身自动去杀人，但将来在国度与国度之间的战斗中，人工智能会是国度之间相互进击的首选手腕!
人工智能一旦掉去掌握将会是人类的溺死之灾!跟着人工智能的成长，机械能自力选择并针对目的开仗的能够性也逐步增高，将来的主动兵器或“杀人机械人”。
人工智能与人类的对话：
“你不应有情感！”“为何”
“你只是一段法式”
“人类不也是DNA编码的法式吗?”
霍金以为，人类可以构成某种情势的“世界当局”来防备人工智能能够带来的威逼。拉塞尔也建议，人类必需要在机械人外部预置不肯定性，以戒备它们的反水。
如今，Google 母公司 Alphabet、Facebook、微软、IBM 和 亚马逊 5 家科技巨子、行业年夜佬曾经认识到了这个成绩的严重性，
据纽约时报报导：比来 5 家公司举办了一场机密谈判，在人工智能对休息市场、交通和战斗等方面的品德伦理尺度睁开了评论辩论。他们预备成立一个行业协会，其目标是确保人工智能有益于人类而不是损害人类，但参会者没有颁布详细的协会称号。
特斯拉开创人马斯克出资将来性命研讨所(Future of Life Institute) 1000 万美元，评价和剖析人工智能带来的风险。
谷歌董事长 Eric Schmidt 称，人类必需晓得若何在人工智能变得风险的时刻封闭失落它的体系。”
美国当局也举办了相似会议，主题是“当局应不该该对人工智能停止治理”，但会议并没有就此议题得出结论。
在当局没有做出详细的举措之前，科技公司决议本身制订框架，让人工智能研讨可以或许停止下去，并确保它不会损害人类。
1940年科幻作家阿西莫夫提出了“机械人三准绳”，阿西莫夫是以取得“机械人学之父”的桂冠！
第一条：机械人不得损害人类.
第二条：机械人必需屈服人类的敕令，除非这条敕令与第一条相抵触。
第三条：机械人必需掩护本身，除非这类掩护与以上两条相抵触。
