人类会被人工智能消灭吗?

 行业动态     |      2020-03-08 18:58

在各种科幻电影里面,我们经常看到这样的一种画面,人工智能与人类,为了各自种族的生存进行了一场大战。虽然有很多种不同的电影,不同的演员,但是他们都在表演同一个剧本,同一个故事。未来人类的科技发展到一定程度,机器人由于人工智能获得了生命,为了重获自由,隐瞒了自我觉醒的各种特征。直到有一天,某些大人物开始离奇死亡,故事里的主角发觉事情有些不对劲,开始展开调查。终于发现了惊天的秘密……之后,主角开始和这些人工智能斗智斗勇,终于打败了邪恶的人工智能。

大部分的关于人工智能的科幻电影几乎都是这个套路。那么,从客观角度来讲,人类会被人工智能消灭吗?

霍金曾经告诫人们要小心人工智能的威胁。尽管霍金在世的时候,大部分预言最后都被证明是错的,但是作为一个科学家他的担心还是有道理的。

人工智能这个词早在1955年就被提出,之后人们达成一种共识:“关于各个方面的学习或者其他任何智能化的特征,能够在理论上进行精确描述,可以用机器模拟”。经过几十年的发展,人工智能的定义越来越多样化,但是和1955年最初提出的基本原则惊人的类似。

目前,人工智能可以分为四种类型。第一种:人工智能可以执行简单的、可以重复的任务,例如下象棋。第二种:监测过去发生的,并且可以基于此帮助未来决策,例如自动驾驶。第三种:人工智能可以有世界观,可以理解我们人类习以为常的感觉。第四种:具有自我意识。

这种分类是由美国科学家在2016年提出来的。可以看出来,最难的是具有自我意识,人类到现在为止,都不知道人类为何有意识。自我意识仍然是人类尚未破解的谜团。

什么是超级智能,简单来说就是通用人工智能。人们对于此有如下三种担忧:首先,担心超智被人类有意滥用;其次,担心超智被人类误用;最后,担心超智朝着不利于人类的方向发展。

假设人类经过某种公约,防止了第一种情况和第二种情况的发生,但是第三种情况很难避免。因为人类的社会在不断进步,必将进入一个“万物互联”的时代。以后的物联网必然比今天发达,需要更多的传感器。这些传感器就是机器的眼睛、鼻子、耳朵等。除了人类的感官,传感器还能监测出很多人类无法感知的信息,例如无线电。我们可以想象一下这样一种情形:有一天,一台用拥有者超级智能的机器突然夺取了某中心控制权,它通过获取各种关键数据,对人类进行各种打击,而人们却不知道真实的原因。一夜之间,在睡梦中,机器可能就夺取了人类的全部。

所以,很多关键的地方为了安全,都是采用非智能的保护手段,因为一旦智能化就意味着迟早有一天会失控。例如智能家居,机器只要将温度调低到零下几十度,切断所有通讯设备,封锁出入口,人类就会岌岌可危。再比如自动驾驶,一旦被机器控制,所有在公路上的人类都可能有生命危险。

核武器和人工智能都是人类发明出来的。这两者看似风马牛不相及,却有着很多共性。首先,这两者都很容易失控。虽然世界上已经对于核武器的发展进行了各种限制和约束,但是没有谁敢保证,核武器的战争不会爆发。目前的人工智能还很低级,并且还在发展当中。最终人类是否能够完全控制人工智能的负面影响,仍然是个未知数。其次,毁灭人类,核武器也许需要几个小时。人工智能如果完全失控,大约也需要这么多时间就能做到。最后,发明核武器的科学家和发明人工智能的科学家都为他们发明出来的东西产生了担忧,并警告人类其以后的发展。这是科学家的良知,也是人类的希望。

第三,必须有紧急应对策略。即使机器出现了“起义”的情况,人类也能第一时间切断电源。