本年，人工智能项目 AlphGo 和 Libratus 分离在围棋和德州扑克两个范畴克服了世界上最好的人类选手。固然这些里程碑事宜显示了近年人工智能的成长水平，很多人依然对新兴技巧全体的成熟水平抱有疑惑——特别是斟酌到曩昔 12 个月中涌现的一些人工智能的掉误案例。
机械之能是机械智能的铁杆粉丝，这从我们的名字中便可见一斑。然则异样，我们非常清晰地熟悉到，一些新技巧其实不能有用地履行本身原来的义务，经常会犯一些人类从不会犯的毛病。以下是我们遴选出来的 2017 年人工智能掉误事宜 Top 10。
面具解锁 Face ID
Face ID，一种用来解锁最新款 iPhone 的脸部辨认技巧，一度被称为迄今为止最平安的人工智能激活办法。苹果公司曾夸口称 Face ID 的解锁掉误率仅为百万分之一。然则随后越南公司 BKAV 应用了由 3D 打印的塑料、硅胶、化装品和一些剪纸制成的面具就胜利破解了 Face ID，而面具的造价只要 150 美元。BKAV 只是扫描了测试对象的面部，应用 3D 打印机生成了一个面部模子，贴上了一些剪纸眼睛、嘴巴和硅胶做的鼻子。Face ID 的破解给全部行业带来了冲击，加重了抵消费者装备隐私的风险和更广泛的人工智能技巧平安性的考量。
Amazon Echo 毛病激发邻人报警
比来年夜受迎接的 Amazon Echo 被以为是加倍壮大的智能扬声器之一。然则没有器械是完善的。一位德国须眉的 Echo 在其外出时代被不测叫醒，并在子夜开端年夜声地播放音乐，吵醒了邻人。邻人报了警，警员不能不打破前门才把 Echo 封闭。过后警员改换了门锁，房子的主人回家时发明本身的钥匙曾经打不开本身的房门了。
Facebook 封闭聊天机械人
本年 7 月，媒体漫山遍野地报导，两个 Facebook 的聊天机械人以人类没法辨认的语音互相沟通，发明后被关停。关于新的机密超等智能说话的流言吞没了各年夜网站，直到 Facebook 出来说明，这类奥秘的交换只是语法编译不力形成的成果，这场风浪才逐渐停息。
拉斯维加斯的主动驾驶巴士上路第一天就产生变乱
本年 11 月，一辆主动驾驶巴士在拉斯维加斯华美表态，包含常驻拉斯维加斯的魔术明星 Penn & Teller 在内的浩瀚名人争相列队试乘。然后，仅仅在两个小时后，这辆公交车就和一辆货车相撞。虽然从技巧角度来看，公交车不必为此次事宜担任——据警方所说，货车司机才应当为此次事宜担任——然则这辆智能巴士上的乘客照样埋怨说，公车照样不敷智能，卡车渐渐接近的时刻，它没法解脱风险。
Google Allo 用头巾脸色回应枪枝脸色
美国有线电视消息网的员工应用 Google Allo 时收到了一个带有头巾的人的脸色建议。而这个脸色是由于一个手枪脸色触发的答复建议。谷歌为难地向"包管，成绩曾经获得处理，并向"报歉。
双胞胎骗过了汇丰银行的声纹辨认 ID
汇丰银行的声纹辨认 ID 是一个以人工智能为焦点的平安体系，许可用户经由过程语音敕令拜访本身的账户。虽然汇丰银行宣称这套体系和指纹 ID 一样平安，然则 BBC 的一位记者的双胞胎兄弟却能经由过程模拟声响拜访他的账户。试验测验考试了 7 次才胜利。汇丰立刻给出懂得决计划，登录掉败三次后即锁定账户。
Google 人工智能把步枪错以为直升机
经由过程稍微调剂步枪的照片，麻省理工学院的研讨小构成功诱骗了 Google Cloud Vision API，让它将步枪照片错以为直升机。这个技能，也叫反抗样本，是盘算机经由过程停止人眼没法发觉的修正从而使图象分类涌现毛病。此前，假如黑客晓得目的盘算体系的根本机制，这类反抗样本才会起效。麻省理工学院的团队经由过程触发毛病分类不必取得体系信息，改良了反抗样本。
路牌黑客捉弄了主动驾驶汽车
研讨人员发明，用油漆和胶带对停滞标记作出不起眼的修正，他们便可以使主动驾驶汽车对这些标记毛病分类。用「love」和「hate」如许的单词修正停滞标记，就诱骗了一辆主动驾驶汽车的进修体系。测试集中，主动驾驶汽车的进修体系 100% 将这些泊车标记识别为「限速 45」。
AI 想象了一片「银行臀部」色彩的斜阳
机械进修研讨人员 Janelle Shan 练习了一个神经收集，用来生成新的油漆色彩和给每种色彩起一个婚配的名字。这些色彩能够看起来异常舒畅，可这些名字却使人捧腹。应用色彩称号数据停止大批练习以后，这个模子依然会将「天蓝色」标志为「Gray Pubic」，把深绿色标志为「Stoomy Brown」。
对 Alexa 许愿要当心，说不定一不留心就下单了
亚马逊 Alexa 的虚拟助理可使网上购物更轻易。然则是否是太轻易了？1 月份，圣地亚哥消息频道 CW6 报导，一个六岁的女孩仅仅和 Alexa 说愿望要一个玩具小屋，所以她就经由过程 Alexa 花了 170 美元买了一个玩具屋。据称，当电视播出时，掌管人反复了这个女孩的话，说：「我爱好这个小女孩说的话，'Alexa 给我买了一个玩具小屋'，」一些不雅众家里的 Alexa 装备再次被触发，然后下单购置了一个玩具屋，不外这个说法的真实性依然有待查证。
