症结是：Facebook创立了两小我工智能聊天法式，可以互相攀谈（并相互进修），终究他们停滞了用英语交换，并开端用一种非英语的说话停止交换，这些说话是它们本身“创造的”。
消息头版纷纭报导了这一事宜，从夺人眼球的噱头到抽丝剥茧的剖析，如逐日电讯报的“聊天机械人创造新说话停止沟通Facebook自愿选择封闭”，让人听起来像是这些聊天机械人正在谋害对抗人类，或是对人类组成威逼。随意看看这些消息底下的评论，你就会发明年夜家的反响有恐怖、高兴乃至愉快，有人说道“这一天终究来了”或援用其他艾萨克·阿西莫夫小说中的语句。
但正如Facebook人工智能部的艾特鲁夫巴特拉周一指出的那样，几十年来，人工智能一向在“创造”新的沟通方法，所以这其实算不上消息。另外，他还说明说，与消息题目相反的是，这个试验并没有被封闭，只是为了调剂说话交换而转变了。
另外，公司也没有试图隐瞒试验细节。一切的一切都是地下的，一切的细节都可以在GitHub上查到，许可其他法式员复制这个场景。
底线是：在人工智能方面，新的人工智能说话不应是我们担忧的成绩。
上面才是我们应当担忧的工作
像埃隆·马斯克和比尔·盖茨如许的有技巧脑筋的人曾经进献了年夜量的时光和金钱，来说明人工智能是一种威逼，并寻觅新的办法进步其品德程度。
这些才是我们应当存眷的重要范畴：
兵器：
兵器军用无人机曾经投入应用，主动化兵器被以为是第三次战斗反动。主动化的智能兵器让更少的兵士遭到损害，并且远比战役机或核资料等先辈技巧廉价。例如，以后的“收割者”无人机价钱约为1300万美元，而一架战役机的价钱为1亿美元。在将来，它们将变得加倍便宜，并且不受监管（也意味着极端壮大）的挪动兵器也将加倍廉价，任何人都可以经由过程编程来杀逝世和摧毁对方（除非我们自动采用平安办法）。
掌握：
掌握或许最主要的不是人工智能自己，而是谁在掌握它。我们正在应对的是那些有才能重塑世界的力气，假如它们被贪心的公司、渴求动力的国度、乃至是好心的小我所垄断，这些人基本不晓得本身在做甚么，那末这项技巧很轻易被滥用或误用。这就是为何硅谷的一些影响者和人工智能研讨人员集合在一路，成立OpenAI，这是一项让全球都能应用人工智能的建议，而不只仅是一群特殊的人。这一举动其实不“廉价”，据报导，该项目一名顶尖的人工智能研讨人员的报价是其市场价值的两到三倍。
成长：
人工智能的另外一个成绩是在不受参数掌握的情形下，人工智能的成长速度。通用人工智能（AGI）具有指数级的生长才能，由于它将会自我晋升，而且在某一时辰会跨越其发明者的智力。农业时期延续了几千年，工业时期延续了数百年，信息时期连续了几十年，现在人工智能时期仅开端数年；技巧的增加连续加快而不是直线成长，而如今，任何进一步的加快都邑让我们毫无预备地应对效果（假如我们采用主动的立场，而不是积极的姿势）。我们还没能发明出超等智能，但我们曾经控制了处置才能——中国的河汉2号每秒能盘算34万万亿次盘算（cps），远超人类年夜脑（10万万亿秒）。
假如我们想要担任任地应用这类盘算才能，我们须要有一个基本来应对它无穷制的成长。这意味着要懂得人工智能成长的伦理品德，若何限制它的应用，和在涌现成绩时采取恰当的防护办法。
关于人工智能若何被应用和将来若何成长，今朝存在一些严重的担心。但是，过度地将被测试的体系小我化，或许被题目误导我们的不雅点是不担任任的。聊天机械人创造一种新说话其实不是威逼，它是天真烂漫的，还有其他更主要的事值得我们的留意。
