真要成为终结者？盘点人工智能四大担忧

　　《机械姬》的热映，让很多人开始思考人工智能的问题。其实好莱坞一直对这个题材非常热衷，从《人工智能》到《机械公敌》、《终结者》，再到如今的《机械姬》，人们对于人工智能问题的思考并没有停止过。对于这种高科技的生产力，有不少人显露出担忧的情绪，认为人工智能未来的发展，可能会威胁到人类本身的存在。依照目前的技术来看，似乎人工智能还没有这样的能力，但是如果真的到达了那个积点，人工智能获得前所有为的能力，我们是不是需要担心呢？

真要成为终结者？盘点人工智能四大担忧

　　这个问题笔者也回答不了，但是笔者总结了目前人们对人工智能的四种主要的担忧。人工智能目前已经成为一个难以预知的变数，纵然目前的技术积累，似乎无法产生出一个真正的智能体，但是毫无疑问的是，对于人工智能的思考，对于人类整体来说，是有一定的意义的。

图灵对于人工智能的思考领先时代

　　那么什么是人工智能呢？图灵测试给了我们一个较为清晰的答案：如果一台机器能够与人类展开对话(通过电传设备)而不能被辨别出其机器身份，那么称这台机器具有智能。如今已经有这样的设备出现，只要机器搜集的数据足够丰富，就可以让对话的人感到迷惑。那么这样的机器就是人工智能了吗？其实这样的测试还是有些简单。

人工智能的判定依靠图灵测试已难以满足要求

　　人工智能的判定，仅仅依靠这种简单的判断显得单薄。比如机器和人类玩国际象棋，但是本身机器只是按照程序来处理步骤，机器并不明白玩国际象棋的乐趣。这种机器即便国际象棋玩得再好，其实也和烤面包机没有区别，难以称得上智能。因为机器难以处理没有预置的情况。因此如何判定人工智能，其实目前还没有完整的标准。

在阿西莫夫的小说中，他提出了著名的“机器人三定律”：

　　第一法则:机器人不得伤害人类，或坐视人类受到伤害；

　　第二法则:除非违背第一法则，机器人必须服从人类的命令；

　　第三法则在不违背第一及第二法则下，机器人必须保护自己。

机器人是人工智能的主要载体

　　这种定律应对的人工智能，级别已经比较的高了。其已经不再是智能按照预置的模式处理单一任务的产品。相反这种人工智能的产品，或者称为“机器人”，本身已经预置了太多的选择，在如何处理某件特定任务上，它们有一定的自主选择权。但是毫无疑问的是，人类依旧是最核心的控制端，不能违背人类命令是机器人的第一要律。

人工智能未来能被人类制服吗

　　阿西莫夫的定律，是一种将人工智能管束起来的尝试。也是未来人工智能发展的正常道路，随着人工智能的能力越来越强，单一的任务指令，已经难以保证机器的安全运行。因此一个高于所有单一任务的统统领性条例，需要注入到人工智能的核心处理器当中。这样才可以保证人类的控制权。但是这种管束，其实仍旧建立在人工智能依旧没有自主意识的基础上。其实对于人工智能的进化，这才是更多人担心的问题。

　　《机械公敌》这部电影里，集中处理了机器进化的问题。拥有了自主意识的机器人开始自我阐释三大定律的意义。机器人认为人类已经无法保证自己的安全，因而决定牺牲一部分的人的生存，来保证人类火种的延续。那么机器人有自我进化的能力吗？可能有很多人觉得，机器不可能有“灵魂”，机器本质上就是按照程序运行的产品而已。

人工智能有进化的可能性

　　对于这个问题，笔者倒是有自己的看法。如果将目光回溯几亿年，在草履虫刚刚出现的时候，如果作为旁观者来看，草履虫似乎没有灵魂，只是一种按照单一机制生存的生物，但正是在这种生物的基础，逐渐演化出地球上千变万化的生物，人类也是这个演化过程的结果。如果我们认为人类有灵魂，那么为什么机器经过演化后，就失去了这种可能性呢？

未来可能成为人类对手

　　生化的进化速度很慢，人工智能的进化速度是否也遵循这样的规律呢？笔者不能做出什么预测，但是毫无疑问，人工智能进化的可能性是存在的。这也是很多人担心的问题。《黑客帝国》、《终结者》等电影其实正是以这种进化为基础，拍摄出来的电影作品。只不过其动作戏足够精彩，让人们忘记了这背后的思考。

　　那么人工智能是否会真的产生感情呢？这也是一个有趣的问题。并且是很多人在担心的问题，因为人类的感情丰富，是发展的力量，也是潜在的威胁，人工智能是否会利用这些感情机制来对付人类，是一个值得思考的问题。在《机械姬》这个电影里，主角被设定对一个机器进行测试，看看在知道对方为机器的情况下，主角是否仍然承认这个机器已经有了“人性”。

人类感情会被机器人利用吗

　　其实这里的“人性”，包含的意思比较的复杂，既包括和人类相当的智力情况，也包括人类的喜怒哀乐等情绪。但是这些情绪是否可以被模拟呢？《机械姬》这个电影就留给了人们这样思考。被测试的机器利用主角的感情，最终逃出了实验室，但是最后却冰冷无情的抛弃了救亡“她”的主角。人类认为可贵的情感，可能在人工智能那里，只是可以利用的程序指令而已。

机器与人的关系值得思考

全文总结：

　　霍金等科学家提示人们要特别关注人工智能的发展，因为那有可能是一个潘多拉盒子。笔者并非一个悲观主义者，但是对于人工智能的思考，显然是不能停止的。诸如让科学技术，更好的服务于人们的生活，需要一个良好的机制。目前人们对于人工智能的担忧也比较的多，判定与约束，变革与情感，如果处理人工智能的发展，的确是不能掉以轻心的问题。

诸如让科学技术，更好的服务于人们的生活，需要一个良好的机制。目前人们对于人工智能的担忧也比较的多，判定与约束，变革与情感，如果处理人工智能的发展，的确是不能掉以轻心的问题。

芦杉