以无处不在的终端侧对云端完成弥补是 Qualcomm 对人工智能的愿景。在我们料想中的世界里，将使终端、机械、汽车和万物都变得加倍智能，简化并丰硕人们的平常生涯。
近日，在抢占人工智能生态进口—Qualcomm创投及立异峰会2017上，Qualcomm高等研发总监侯纪磊揭橥了名为《让终端侧人工智能无处不在》的主题演讲并与年夜家分享了分享Qualcomm在人工智能、特别是在终端侧人工智能的愿景和将来尽力的偏向。
Qualcomm高等研发总监侯纪磊
积极结构周全深耕智能范畴
从全部科技成长的过程看，使机械终端具有智能才能是人类多年来的愿景。在曩昔几年，机械智能化的趋向正在渐渐产生。
从这方面来说，Qualcomm作为挪动行业中的主要领军企业，在挪动行业投入较多，包含技巧立异和家当驱动，关于人工智能的成长也起到了异常强的加快感化，特别是加快了人工智能对全部人类社会和花费者小我的推进感化。
据侯纪磊引见，重要表示在以下几方面：第一是挪动行业的宏大范围，今朝全球手机保有量到达几十亿部。第二是挪动技巧异常疾速的迭代周期，在亚洲、欧洲、北美等绝对蓬勃地域，手机的均匀更新周期为两年。第三，挪动技巧具有高集成、低功耗、高机能等各方面的优势。这使挪动技巧具有无与伦比的优势，可推进人工智能从手机拓展到各个行业。
另外，Qualcomm在人工智能方面有多年的投入，特别在终端方面有异常强的优势和抢先位置。为何会怎样说呢？起首，2007年，Qualcomm启动了首小我工智能项目，其时基于类脑迷信也称为脉冲神经收集展开了研讨，也是业界最早在这方面投入研讨的企业之一。接着在2011年、2012年阁下，基于深度进修的人工神经收集有了较好的远景，Qualcomm也是业界投入这方面研讨的晚期企业之一。以后，2014年，收买了欧洲一家著名的挪动端人工智能公司Euvision。在终端侧，他们对情况感知与认知的盘算才能和算法优势异常凸起，这使Qualcomm其时很快确立了在人工智能特别终端侧人工智能的抢先优势。
其次，Qualcomm在推进人工智能成长上比拟主要的一个趋向是对全部生态链的结构。例如，挪动具有没有与伦比的范围，如何经由过程范围优势去推进全部生态链的成长，这也是Qualcomm须要去投入的一个方面。是以，Qualcomm与谷歌在手机层面上睁开了基于TensorFlow的晚期计谋协作，也与Facebook在本年上半年展开基于Caffe2练习框架的计谋协作。与此相干的是，Qualcomm还推出了本身的软件开辟平台——骁龙神经处置引擎SDK。
另外，据泄漏，将来，两边在Caffe2方面还有进一步的协作空间，表示在两个主要方面。第一，从Qualcomm的角度，可以对收集停止进一步优化，进一步进步收集及时性的机能。第二，从Facebook的角度，可以在练习收集Caffe2中完成多种机能加强，以支撑Qualcomm专有的芯片优化。
最初，Qualcomm早先完成了对欧洲另外一家抢先人工智能公司Scyfer的收买。这家公司的开创人Max Welling传授，早在2000年阁下就进入到晚期的人工智能偏向，他在深度进修范畴是一名异常有影响力的人物，他如今也是Qualcomm异常慎密的公司外部的协作同伴。
“Max Welling传授是全球贝叶斯深度进修范畴及第足轻重的一名人物。他将在学术方面临Qualcomm停止引诱，率领公司乃至于全部业界完成从感知到认知的过渡。” 侯纪磊弥补到。
为终端侧智能的成长赋能
“如今智能正向终端迁徙。以往人工神经收集从练习到履行的进程现实上都是在办事器或云端停止的。如今，固然年夜部门的练习仍然在收集侧，但许多履行和推理进程都曾经在终端侧停止。同时，我们也看到一部门新兴的终端侧练习也在悄然产生，许多终端都有一些特性化懂得和关于用户习气的进修，这方面将是终端侧进修异常主要的运用。” 侯纪磊讲到。
谈及为何须要在终端侧成长人工智能时，侯纪磊表现，终端侧的智能成长最主要的特色是在最接近数据源的地位停止数据处置，对云端处置供给强无力的弥补。重要优势表示在两个主要的方面：一是隐私性和平安性。从小我隐私和平安的角度动身，许多时刻人们其实不愿望把照片或许语音数据放到云端，能在终端侧停止当地的处置，这是终端侧智能异常好的优势。二是低时延。在收集侧衔接质量没有获得完整保证的条件下，可以在当地侧停止年夜量的数据处置和人工智能运用，这也是终端侧异常强的一个优势。
终端侧人工智能既然很有需要性，那末假如要停止研发和产物开辟，有哪些主要的方面须要留意？侯纪磊表现最主要的两点是盘算的功耗和热效力，由于人工智能对任务负载的请求异常年夜。一方面，它须要年夜量密集盘算。另外一方面是一直开启。在如许的挑衅下，要如何完成高效散热和电池的耐久续航，要若何对存储和内存停止有用应用，这都是将来完成终端侧人工智能所面对的主要挑衅。
针对这些挑衅， Qualcomm在终端侧智能研发上，将来两三年乃至五到十年须要连续投入的一些主要偏向。第一是高效硬件。手机平台一个明显特色叫异构盘算。Qualcomm骁龙平台集成了DSP、CPU和GPU，遍地理焦点有各自纷歧样的特色，好比处置语音、图象和视频，这些处置焦点都有本身的方法，在功耗和吞吐量之间的均衡上可知足分歧的需求。讲到这里，侯纪磊坦言：“如何完成硬件对分歧的语音、视频或图象的及时处置，这是我们尽力的主要偏向。”
第二是算法改良，在算法改良层面，要如何完成高效改良，从而可以或许完成智能从收集端到终真个迁徙？侯纪磊讲到，不管在设计照样运用的模子中，99%以上模子的体系容量都是over design，也就是说它设计的容量要跨越体系的需求。由于over design这个特色，使我们在嵌入式的神经收集优化上还有很年夜的空间，可以紧缩收集模子、应用稀少性并从架构的角度完成体系性的收集优化。
第三是软件对象。假如要将优化算法高效地放到异构平台，这中央的映照，包含并行盘算的调剂和内存优化等，都须要软件对象自己做许多任务。
Qualcomm对全部终端侧智能的成长起到了异常主要的赋能感化，重要表示在，第一，供给了低功耗和高效集成的盘算平台。第二是在5G技巧方面，挪动盘算和挪动通讯一向是Qualcomm的优势地点。经由过程供给高速、低时延的衔接，使得人工智能的盘算架构完成在云端和终端侧之间的最灵巧配比，这是Qualcomm的壮大优势。第三是在平安性方面，Qualcomm也一向走在业界前列，好比说“刷脸”在付出和其他一些平安运用场景的应用。 Qualcomm的技巧可以或许从产物的角度，完成人工智能对平安性运用方面的壮大支撑。
推进终端侧人工智能范围化
谈及将来人工智能在终端侧将出现如何的趋向时，侯纪磊表现重要有以下两点：起首，将来的人工智能成长趋向必定是在终端侧，而且是散布式的盘算架构。其次，神经处置的硬件架构自己也会赓续演进，将来针对人工智能处置的公用处置器会是一个行业趋向。
另外，针对终端侧的人工智能，侯纪磊以为在智妙手机和汽车范畴都有比拟主要的用例和成长偏向。
智妙手机方面，起首，终端侧的语音交互体系就是一个很好的例子。今朝这些用例能够更多运用在智能音箱和智能家居范畴，将来它在手机平台上会是一个主要的成长偏向。第二是在图象拍摄和前期处置方面，人工智能技巧可以对图片拍摄完成“一条龙”式加强。第三，人工智能可以真正地让手机成为你的小我助理。将来的手机遇在后台连续进修用户的应用习气和特性，经由进修它可以向你推举适合的运用，或赞助你更好地应用这些运用，从而成为人们身旁无处不在的小我助理。
人工智能在终端侧另外一个异常主要的成长偏向在于汽车范畴。人工智能在汽车范畴的运用表现在两个方面。第一是车载体验，也就是在汽车驾驶舱外部，人工智能可认为人们带来特性化的体验和办事。第二是车和情况的交互，包含感知和传感器融会，也包含从途径计划到决议计划的各个方面。Qualcomm在体系平台和算法方面其实有许多技巧贮备和优势，侯纪磊表现，“我们也愿望未来在主动驾驶范畴能无机会跟在坐同仁协作。”
他表现，Qualcomm在人工智能范畴处在一个异常有益的地位，可以强无力地推进终端侧人工智能的范围化。这重要表示在以下三个方面。第一是推进面向人工智能的硬件成长，这是一个很主要的趋向。第二是算法晋升方面。在认知层面上，包含监视进修和更主要的非监视进修和强化进修方面的主要机能，关于终端侧人工智能来讲都是技巧立异和产物成长的主要偏向。第三是优化战略。今朝有许多的练习收集，这能够会使开辟者在收集优化上觉得七手八脚。但我们也很欣喜地看到，业界正在生态链上推进更多的融会和同一。
最初，值得一提的是本年10月10日，Qualcomm宣告参加Facebook和微软提出的ONNX（开放神经收集切换）概念。据悉，Facebook有两种分歧的练习收集，PyTorch和Caffe2。PyTorch实用于开辟者在开辟早期疾速停止练习和原型机设计，Caffe2更合适运用于年夜范围收集，使得收集在统筹贸易性和及时性的同时还能跑得更快更好。针对晚期研发和前面产物的衡量（tradeoff），两种练习收集有各自的长处。而ONNX将起到平台性的感化，经由过程收集描写的同一格局，使得开辟者从晚期研发阶段到前面产物化的进程中能有一个同一的构造。
