（朱启超 国防科技年夜学国度平安与军事计谋研讨所所长）
进入21世纪，信息技巧、新资料技巧、新动力技巧、先辈制作技巧等范畴的成长冲破，驱动着人工智能的第三次海潮囊括全球，塑造着科技反动、家当反动和军事反动的极新面孔，惹起很多国度的高度看重。最近几年来，人们在津津有味人工智能带来无穷成长机会的同时，官场首脑、学界年夜咖、科技年夜佬等也纷纭表达了对人工智能能够带来平安挑衅的担心。好比，俄总统普京以为人工智能是全部人类的将来，它将为人类供给伟大机会，但同时也存在某些没法猜测的威逼。霍金生前曾呼吁人类须要掌握以人工智能为代表的新兴科技，以避免它们在将来能够对人类生计带来扑灭性威逼。马斯克宣称人工智能是关系人类文明生死的最年夜威逼，而马云则在一次地下演讲中以为，跟着人工智能逐步祛除人类任务岗亭，能够引爆第三次世界年夜战。
这些担心究竟是为了吸引眼球而耸人听闻，照样心胸悲悯而庸人自扰？究竟应若何客不雅对待人工智能能够带来的平安挑衅？笔者以为，人们关于人工智能的平安担心是因为人工智能自己的技巧庞杂性、科幻颜色和运用理论的初始性形成的，是必定阶段人们对人工智能深刻认知的折射反应。
人工智能本是个外来词，来自英语artificial intelligence的翻译。广义的人工智能是指机械人及其相干技巧，狭义的人工智能则是指可以或许模仿、延长、替换人的行动的相干技巧。这类界说方法其实为我们懂得人工智能带来了技巧上的难度。从广义来看，机械人相干技巧就包含了机械人设计制作、形式辨认、交换进修等许多方面。从狭义来看，任何只需是可以或许模仿、延长、替换人的行动的相干技巧都可以为是人工智能技巧，好比模仿人的思想推理、人的五感交互、人的行动形式等技巧。是以，不管是广义照样狭义都可以看出，人工智能不是一项单一的技巧，而是多项技巧组成的庞杂系统。这就为我们懂得人工智能及其能够激发的平安成绩带来的艰苦，乃至因为关于技巧的不懂得形成了关于人工智能想象中的平安担心或认知黑洞。
人工智能的技巧特征决议了人工智能具有光鲜的科幻颜色。《太空遨游》《异形》《机械姬》《终结者》等与人工智能相干的科幻年夜片许多，给人们留下了深入印象，也供给了丰硕的想象空间。因为关于技巧细节缺少懂得，关于将来的无穷向往，关于未知世界的天性恐怖，招致人们关于人工智能及其能够发生的平安挑衅有了更多的想象，乃至走向人工智能终将扑灭人类这类极端。
从1956年人工智能概念的提出，半个多世纪曩昔，人们迎来了人工智能成长的第三次海潮。这一次海潮最年夜的特色是人工智能激发科技反动、家当反动、军事反动的交错并进，激起了人工智能成长的微弱动力。但即使如斯，人工智能不管是从科技立异自己，照样家当业态和军事运用的理论，都照样处于一种远未成熟的低级阶段，许多科技根源成绩、实际办法成绩和立异成长形式亟待获得冲破。好比，人工智能相干脑迷信研讨仍有年夜片空白，人机共生的相干实际还未树立，人工智能家当生态还不完美，等等。
客不雅对待人工智能能够带来的平安挑衅，是我们懂得人工智能、成长人工智能、管控人工智能的条件。人工智能自己成长的上述特色，为人们懂得人工智能带来了难度乃至妨碍。客不雅对待人工智能能够带来的平安挑衅，起首须要建立准确的思想理念。
一是要秉承迷信的立场。人工智能带来的平安挑衅既能够来自于技巧不成熟，也有能够因为工资治理管控上的疏掉，必需用迷信的立场，停止量力而行的剖析。普通来讲，人工智能激发的平安成绩可以分为三个条理：一是某行业某范畴或某体系内平安操作规程治理方面的平安风险；二是国度平安层面临于政治、经济、金融、科技、国防等范畴带来的平安挑衅；三是因为人工智能技巧的跨国应用激发的收集平安、太空平安、核平安、反恐行为甚至国际平安管理等方面的挑衅。人工智能在分歧层面带来的平安挑衅具有分歧的特色及应对请求，需赐与差别看待，而不克不及一锅煮乃至张冠李戴。
二是要保持成长的立场。整体上看，人工智能带来的平安挑衅仍处于可控的规模，人们对人工智能将来成长的担心，重要在于人工智能作为一项技巧能够触发更多的平安成绩。另外一方面，人类作为这个星球上智力水面最高的灵长类生物，一旦人类创造的人工智能超出了人类本身，将弗成防止地激发对将来的天性的惊恐。汗青上，每次工业反动或技巧反动的到来早期，因为人们关于技巧的认知与理论体验绝对缺少，都曾激发过必定水平的惊恐。
好比第一次工业反动早期作坊工人关于机械的抵抗与损坏，第二次工业反动早期人们关于电力应用欠妥形成人员伤亡的惊恐。作为赓续成长演进的人类文明的产品，须要我们用成长的眼力对待人工智能的正面感化和能够激发的平安挑衅，既充足施展人工智能的潜力造福人类，又可以或许有备无患管控人工智能能够激发的平安危机。当人们越是可以或许客不雅对待人工智能带来的平安挑衅，就越可以或许开拓人工智能平安科技与平安家当立异的蓝海。
三是要保持协作的立场。人工智能技巧与信息技巧的成长慎密相干，特别是挪动宽带通讯、年夜数据、云盘算、物联网等范畴的技巧冲破，将增进人工智能相干技巧和家当的成熟。从技巧特色看，人工智能与信息技巧相似，都具有低本钱、易分散、难封控的特点，而且技巧一旦成熟，市场的边沿本钱将年夜年夜下降，乃至被以为属于“零边沿本钱”的技巧。这使得人工智能能够激发的平安成绩也将具有易分散、难封控的特色。好比，若监管缺掉，一个黑客就有能够应用新的人工智能算法及入侵技巧损坏一个国度的电网、公共交通批示收集等的正常运转，激发年夜面积的灾害性效果，乃至殃及无辜。
从实际上说，社会信息化智能化程度越高，将会关于技巧系统越发依附，而一旦原本的技巧系统遭到冲击，将发生新的不肯定性和软弱性。在信息技巧、人工智能技巧等年夜成长的时期，我们面对的平安挑衅出现出技巧庞杂性、系统软弱性的两重特点。正因如斯，必需保持开放协作的立场，国度当局部分、社会行业范畴及国民个别等应配合增强对人工智能的技巧认知和理论体验，配合应对人工智能能够带来平安挑衅，那些“大家自扫门前雪”独善其身的设法主意已与这个时期愈来愈脱节。
总之，关于人工智能新的成长海潮，既不克不及只看到其利而自觉追捧，也不克不及由于其潜伏的平安威逼而踟躇不前。必需客不雅熟悉人工智能的成长运用，假如人们可以或许在将来的理论中赓续防止对人工智能相干平安成绩的误会、误判和误用，人类依然可以或许掌控本身的命运。
