机械人可以用来干家务，也能够用于暴力目标。若何规定机械人的用处界线？针对这个成绩，人工智能（AI）范畴发生了很年夜不合。
韩国迷信技巧院（KAIST）是一所著名学府，具有数一数二的迷信试验室。从液态电池到疾病传感器，他们开辟了林林总总的器械。现在，KAIST和韩华团体签订协定，为后者研发人工智能兵器。韩华团体曾疏忽结合国禁令，开辟“集束弹药”这类扑灭性兵器。假如加上人工智能，兵器生怕会加倍致命。
今朝，结合国正在商议若何掌握自立兵器对国际平安形成的威逼，而KAIST却在加快这类兵器的军备比赛，这异常使人掉望。是以，50多位全球顶尖AI专家决议抵抗此举——他们宣告将谢绝和KAIST任何部分停止协作，直到KAIST包管毫不开辟缺少人类掌握的自立兵器。
对此，KAIST表现否定。院长Sung-Chul Shin揭橥声明：
作为学术机构，我们高度看重人权和品德尺度。KAIST将不会展开任何违反人类庄严的科研运动，包含缺少人类掌握的自立兵器。
现在，硬件和软件都成长得很快。很多专家担忧，人类早晚会开辟出本身没法掌握的器械。是以，埃隆·马斯克、史蒂夫·沃兹尼亚克、斯蒂芬·霍金等名人呼吁当局和结合国限制依附人工智能体系运转的兵器。假如导弹、火箭、炸弹可以或许离开人类掌握而自行操作，那末效果会很恐惧——特殊是落入坏人手里时。
假如开辟出自立兵器，那末它将成为战斗史上的第三场反动。自立兵器将使战斗速度和战斗范围达有史以来的最高程度。另外，它也能够成为恐惧份子的兵器，解脱品德束缚，损害无辜国民。潘多拉的魔盒一旦翻开，便难以封闭。
结合国曾屡次召闭会议，商议针对致命自立兵器的禁令，但是见效甚微。缘由在于：出于军事目标，个体国度热中于开辟这类技巧；另外，私营企业也不想在人工智能方面被规章条例所约束。虽然我们都晓得，杀手机械人是件险恶的器械；但是，谁也不晓得该如何限制这类玩意的开辟。人类堕入了一场合有人都不愿望产生的军备比赛。
今朝，很多迷信家愿望出台有关AI开辟和运用的指点方针。不外，即使制订出相干方针，也很难包管一切人都遵照规矩。
