人工智能——人类最后的挑战和战争
2016-06-24 12:49 人工智能 战争 挑战

人工智能会毁灭人类吗?至少在现在看来,并不会。

文 | 黑君

人工智能一直是一个热议的话题。

但最近,因为“阿尔法狗”发明者的一篇论文,再次将人工智能是否会对人类造成威胁的话题成为热点。

人工智能一直在我们身边 

不要一提到人工智就想到机器人。这只是人工智能的硬件,而人工智能自身则是机器人体内的“大脑”。

人工智能是“大脑”,机器人是身体,但有时身体并不一定必需。比如Siri只有大脑,并没有身体,它背后的软件和数据是人工智能,Siri说话的声音是这个人工智能的人格化体现。

可能有些人一直以来把人工智能当做科幻小说,但最近却一直听到很多人严肃的讨论这个问题,你可能会感到困惑。人工智能跟我有什么关系?

常人总是把人工智能和电影联想到一起。如星球大战、钢铁侠、终结者等,但电影是虚构的,所以人们总是觉得人工智能缺乏真实感。

其实,人工智能说起来是个很宽泛的话题。从手机到无人驾驶汽车,到未来可能改变世界的重大变革,人工智能可以用来描述很多东西。

但你可能未曾发觉,人工智能技术已经来到众人身边,甚至每天都在使用,只是我们没意识到而已。在生活中我们就在使用着这一项技术,例如智能搜索、siri或语音助手软件。

但这些技术从严格意义上来说却并不属于人工智能范畴,绝大部分人工智能系统都相对比较狭隘,预先编程完毕的初级机器人只能处理特定领域的任务,对其他领域则并不擅长。

可能,在将来具备超高智能的机器人将会和人类的专家联手解决所有的难题。

人工智能安全初创企业Spark Cognition公司CEO阿米尔•侯赛因表示,当今,软件正在吞噬整个世界,未来,人工智能也会对软件做同样的事情。

人机围棋世纪大战后,人类是否遭受威胁?

今年3月,一场举世瞩目的“人机围棋大战”开战,谷歌旗下的人工智能硬件AlphaGo挑战世界围棋冠军李世石。最终,人类代表李世石总比分0-3输给了阿尔法狗,“人机世纪大战”以人类完败而告终。

媒体给这次人机大战一个特别燃的口号,“方寸之间,世纪之战”。其实回顾人机之间的“恩怨”可以推到上个世纪。

19年前,俄罗斯棋王、国际象棋世界冠军卡斯帕罗夫在与IBM公司的深蓝计算机在第6次交手时,誓要捍卫人类尊严的卡斯帕罗夫在仅走了19步的情况下就眉头紧锁,向深蓝“拱手”称臣。

来自IBM的“深蓝”计算机在国际象棋场上首次击败人类,这成为AI战胜人类的第一个标志性事件,但赛后,IBM宣布“深蓝”退役。

“人类还会说,幸好还有围棋。他们说,围棋是‘人类智慧最后一块高地’。”不同于国际象棋,围棋每回合的可能性更多,共有250种可能,一盘棋可以长达150回合。同时,围棋局面多变,无法被算法穷举。

在科大讯飞董事长刘庆峰看来,在这场“人机大战”,谷歌赢是理所应当。因为未来五到十年,可以说最能深刻影响和改变我们目前生活方式和生产工作方式的就是人工智能。可以说人工智能将像水和空气一样,进入我们日常生活每一个角落。

而这场“世纪之战”之后,不乏听到越来越多的声音,人工智能是否会威胁人类甚至取代人类?这一讨论再度成为人工智能领域的热门话题。

最近,百度CEO李彦宏在百度联盟大会上就人工智能领域展开探讨。

李彦宏认为,人工智能是无法毁灭人类的,因为人类有最总的控制权力,去制定相应的功能。

同时,他指出互联网的下一幕是人工智能,人工智能是移动互联网后更激动的时代。

而人工智能再往后发展,会取代人类简单的劳动,未来很多简单重复的劳动可以通过人工智能的方式实现,人工智能会重构传统产业。

最近,开发“阿尔法狗”的深度思维公司发表最新论文中,Deep Mind提出了给机器人安装“切断开关”的想法,为的是阻止AI学会如何阻止人类对某项活动的干预,以预防科幻影片中机器人崛起、毁灭人类等类似情况的发生。用专业术语来说,叫做“安全可中断性”。

研究人员表示,“一键终止”按钮的核心在于如何让机器人认为这一次人类控制者终止自己的行动只是一次性的,将人类控制者的终止指令看做是无害中性的,人类的“关机”行为不会在人工智能的强化学习过程中产生任何印记。

牛津大学人类未来研究所专家斯图尔特-阿姆斯特朗曾表示,人类语言如此微妙,很有可能被人工智能误读。

一条“阻止人类继续承受痛苦”的指令,可能会被人工智能解读为“杀掉所有的人类”,而“保证人类安全”的指令也可能让机器人把所有人禁闭起来。人类处在一场致力于打造安全人工智能机器的竞赛中,必须争分夺秒,以免为时过晚。

人类创造的最后一个互联网作品——人工智能

天生具备拯救人类使命感的 Elon Musk 以及地球最聪明的大脑之一霍金都认为,机器对人类的威胁并非杞人忧天。

微软联合创始人比尔·盖茨在接受媒体访时曾表示,人工智能变得太过聪明的风险还“远得很”。他认为,在未来10到20年时间里,人工智能对于管理人们的生活来说将是“非常有用的”。

在这里,人类更应该担心的是,一旦当机器供养着人类,人类达到了一定的基本需求,那么,人类真的还会有动力去追求更宏伟的目标吗?还是醉生梦死、无所事事?

创新工厂创始人李开复觉得,未来十年,大部分的人类工作将被机器人所取代。虽然机器在逻辑分析推算方面,能力会远超人类,但是依然是属于人类操控的工具。

而基于深度学习的人工智能将可能为我们带来更大的好处,它能够解决问题、拯救生命、甚至产生巨大的商业和用户价值。

人工智能时代的到来最大的益处在于,各种人工智能将帮助我们定义人性。我们需要人工智能告诉我们——我们是谁?

《连线》杂志创始主编、《失控》作者凯文·凯利(KevinKelly)不仅丝毫不担心人工智能会对人类产生威胁,反而沉浸于智能技术所蕴含的无穷想象之中、并为此兴奋不已。

他表示,人工智能的应用无处不在,它带来的影响力是巨大的。

因为这意味着一切物体均可拟人化,意味着我们可以加速新事物发展,云端人工智能技术意味着,两双智能鞋的数据可以彼此分享,这就是综合人工智能的表现。这的确大大加快了发明新事物的进程。

这些似乎都是极其看好人工智能领域发展与未来前景的人,但有支持就会有反对。

马克斯则是担忧者之一,他觉得人工智能的出现,虽实现了科技迷们的儿时梦想,但它们可能对未来产生负面影响,并非所有人工智能功能都是良性的。

如果人类创造出超越人类智慧很多的超级人工智能,确保其处于良性状态非常重要。

因此,马斯克特别强调,人工智能可能落入少数人之手,而对于他所说的少数人并没有明确指明。

iRobot和Rethink Robotic两家机器人公司的联合创始人罗德尼•布鲁克反驳了马斯克和霍金曾对人工智能的担忧。

“有一些不从事人工智能行业的科学家和工程师曲解了AI,而且普遍的说,很多人对人工智能都存在误解。有些人太激动了,说我们已经需要担心超级智能机器人,但实际上,我们距离‘弱智能’机器人都还很遥远。”

王小川也认同看好人工智能未来的学者们,人工智能现在还不能完成自我的进化,现在深度学习的方法只是对已知的数据去重复,泛化它,其实解决的还是已经有的问题。只是可能做得更好,但不能创造新的问题,它还没有创造力。

人工智能未来还很遥远

看到了这么多观点,肯能有人会说,遇到威胁时,我们把超人工智能的插头拔了不就行了?其实这就好比蜘蛛说,我们不给人类捉虫的网把人类饿死不就行了?实质上都是可笑的。

把人工智能藏起来,或锁起来,甚至断绝它和外界的一切联系的做法是没用的,因为当人工智能的社交操纵能力变得强大之时,你是无法阻挡的。

在人工智能的代码编程上,写一个友善的弱人工智能很简单,但写一个能在变成超人工智能后依然友善的智能确实非常难的,甚至是不可能的。

其实,人工智能领域的概念很宽泛的,而人工智能领域的种类则分三种:弱人工智能、强人工智能和超人工智能。

我们现在所谓的人工智能研发领域还仅停留在弱人工智能领域之上,这个系统并非那么吓人,一般出现故障无非是代码造成的程序死机等。

目前,人类已基本掌握了弱人工智能领域,弱人工领域作为人工智能革命的最基础一环是必不可缺的。它的链条是从弱人工智能,通过强人工智能,最终到达超人工智能的旅途。

每一个弱人工智能的创新,都在给通往强人工智能和超人工智能的旅途添砖加瓦。

虽然现在的弱人工智能没有威胁我们生存的能力,但还是要怀着警惕的观点看待正在变得更加庞大和复杂的弱人工智能的生态。

现在,世界上的各阶层都在研究着这一项世纪瞩目的浩大工程,总有一天,一个人的创新将导致超人工智能的出现。

当他们思考,甚至去做这些事情的时候,只能够慢慢来,并且格外格外小心。因为,人工智能创新和人工智能安全的赛跑,可能是人类历史上最重要的一次竞争。

结果究竟如何,谁也无法预料。其实,即便不去想结果我们也都知道无非是两种,一个是人类战胜机器,另外一个是机器战胜人类。

人工智能,可能是人类的最后一大挑战和战争。