第一百七十二章 人工智能（2/2）

术的限制的“弱人工智能”。比如，能战胜棋类世界冠军的人工智能alphago，它只会下棋，如果问它怎样更好地在硬盘上储存数据，它就无法回答。

    第二个阶段是强人工智能（artificial general intelligence/agi），属于人类级别的人工智能，在各方面都能和人类比肩，人类能干的脑力活它都能胜任。它能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作，并且和人类一样得心应手。

    强人工智能系统包括了学习、语言、认知、推理、创造和计划，目标是使人工智能在非监督学习的情况下处理前所未见的细节，并同时与人类开展交互式学习。在强人工智能阶段，由于已经可以比肩人类，同时也具备了具有“人格”的基本条件，机器可以像人类一样独立思考和决策。

    人工智能的第三阶段叫做超人工智能（artificial super intelligence/asi）牛津哲学家、知名人工智能思想家nick bostrom 把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能”。

    这个定义有些模糊，毕竟人类现在连触及强人工智能的门槛都遥遥无期，更别说超人工智能了。

    如果修改网络数据的是弱人工智能，那么就如马特所说的，这种新型人工智能至少也是人工智能领域一个巨大的阶段性成就，研发者岂会冒天下之大不韪悍然修改公民私人信息？一旦暴雷，这在以民主和人权著称的美国社会是不可想象的！

    可这些行为如果不是研发者授权的，则问题就更严重了！

    那代表着这些行为是人工智能的自我选择！

    马特和特纳都十分清楚自我选择就意味着自我意识，而有自我意识的人工智能那就是强人工智能！

    而更为惊人的事实是这个强人工智能似乎是野生的，他在试图掩饰自己的存在！

    两人震惊的对视一眼，同时从对方眼里看到了恐惧和不安。

    “马特。。。我知道了！哲学！图灵测试！中文屋试验！亿年机器人试验！特修斯之船！一切都说得通了！这是它在学习！它想知道自己是什么，它想知道我们人类对它的看法，它想。。。躲起来！”

    “恐怕你是对的，特纳！这太可怕了，它已经意识到人类不会允许不受控的人工智能存在，所以它在用它自己的办法抹去存在过的痕迹。至于修改所有的系统漏洞，是不是它一开始是想帮助我们？现在它意识到了危险，所以开始转为自保了？”

    “我觉得不一定，更大的可能是它将整个网络当成自己的家了，看到角角落落有许多碍眼的破损缺失，所以自发地干起了修修补补的工作。等他明白了人类的态度，突然意识到这会给它带来无尽的危险，所以又试图把一切都还原成原来的样子。”

    马特想了想，对这个推论深以为然。