今天的我们,需要站在后天的立场上去看待明天,应该用一种更具未来感的世界观来审视和帮助我们分析今天人类面临的问题。
不能苛求机器人永不犯错
记者:如果现在坐在您面前的是两个机器人记者,您会作何感想?
马丁·福特:我会感到惊讶,因为当前科技还没达到这样一个水平,机器人还无法完成和人类面对面的采访。但是,机器人确实已经可以通过整合已有数据来撰写新闻,比如根据体育赛事数据撰写体育新闻,根据金融数据撰写金融新闻,总之,它们在一些着重数据分析的报道领域做得更好。
一方面,机器人技术在不断发展;另一方面,基于互联网的日益普及,产生的数据越来越多,让新闻来源变得更丰富,这些都会促进未来机器人在新闻领域的发展。
记者:最近,关于机器人的新闻不少,其中一则“机器人杀人”的报道备受关注。据称,在德国一家汽车制造厂内,一个高度自动化的机器人突然出现操作失误,抓起旁边的一名安装工人,摔向金属板,造成该工人死亡。您认为“杀人”之说成立吗?
马丁·福特:虽然我对这名工人的死亡感到非常遗憾,但我不得不说,这算不上是新闻。这个机器人既没有智慧,也没有意识,其实是一台普通的自动化机器。现在,这台机器出故障了,导致了一起工伤事故,这在工厂里并不罕见。生活中也会发生类似的事故,比如电梯、汽车出现故障。如果一架飞机在飞行中出现了机械故障,它导致的结果应该比这则新闻里所讲的严重得多,只是人们不会想到用“机器人杀人”作标题去报道一则飞行事故。
任何人类制造出来的东西,都不可能百分百确保不出故障;越是功能复杂、制造精密的系统,发生故障的概率越难降低。这些年人类发射各种航天器,用的都是当时最先进的技术,但有几次还是掉链子了。
机器出了故障就有可能对人类造成伤害,人类能做的只能是尽量降低故障率,加强安全防护,但不能因噎废食,放弃机器人的运用。全世界范围内,因为汽车出现故障而致人死亡的案例每天、每小时甚至每分钟都在发生,但汽车依旧是人类最青睐的机器;同样的道理,我们也没有必要对机器人苛求永不犯错。
战斗机器人的诞生可能并不遥远
记者:之所以会用“机器人杀人”这样耸人听闻的新闻标题,正说明了人们对未来机器人的发展,充满了焦虑和恐慌。
马丁·福特:的确,人类对此十分焦虑。其实5年前,同样有人死于自动化机器,但我们几乎没怎么听到媒体报道这类事件,因为那时人们并不认为机器人会对我们人类造成威胁,人们不关心这类事件。
现在的情况不同,人们已经感受到了机器人带来的各种挑战,机器人成为人们议论的焦点,尤其当一些名人纷纷发出警告,比如英国着名科学家斯蒂芬·霍金预言机器人未来将会完全控制人类时,再普通的事件,只要和机器人有关,都会成为新闻。
记者:说到霍金,近日,他和技术专家伊隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克,及其他千余名来自世界一流大学和实验室的人工智能和机器人技术研究员,以联名公开信的方式,警告世人:必须取缔“机器人杀手”的研发和应用,人工智能方面的军备竞赛将助长战争和恐怖主义,加剧世界动荡局势。早在今年3月,联合国秘书长潘基文先生也曾公开呼吁各国停止战斗机器人的研究。您怎么看?
马丁·福特:战斗机器人可以自主决定攻击对象,在战争中比人类反应更快,但它仍然被人类控制,而不是机器人自主控制。也就是说,这类机器人要去做什么事情,还是由它的制造者说了算,它只是一个工具,并不拥有真正的自主意志—和原始人手里的石斧没有本质差别,区别只在于这种工具比较“聪明”,能够根据实际情况,更灵活、更精确地实现主人设定的程序。
但未来是否会出现拥有一定人工智能的战斗机器人,它们能够自主学习和独立思考,在人类给它设定的程序之外,实现人类没有教给它的功能?虽然这样的战斗机器人目前还没有被真正研制出来,但是技术的推进使得它们的诞生并不遥远。一旦这样的战斗机器人可以被大量、廉价地制造出来,将会降低战争的门槛。
事实上,机器人已经参与了战争,一场军备的战争。机器人越来越多地被军队使用,无人机其实就是机器人的一种。
机器人会学习是最惊人的变化
记者:最近,美国纽约伦斯勒理工学院在测试一组机器人时发现,其中一个机器人竟能证明自我意识。这个消息进一步加剧了人们的担忧,将来会不会像电影《超能查派》中所演的那样,机器人背叛人类意志,成为主宰世界的机器霸主?
马丁·福特:这是一个专业环境下发生的非常专业的实验,也许这件事确实说明了一些问题,但这并不能充分说明这个机器人就拥有了和人类一样的智慧。就目前来说,拥有自我意识的完全智能化的机器人离我们还有比较远的距离。但是,我们现在的机器人技术首次可以从认知方面来替代人们,而不仅是从劳动力方面。它们可以思考,能够解决问题,更重要的一点是,它们学会了学习。我们过去将算法变成数据,现在的智能机器人可以根据算法,通过数据来自学,而不是让电脑软件来告诉它下一步怎么做。这是一个最为惊人的变化。
至于未来是否会出现像电影里的查派、终结者那样的机器人,我只能说,这是不可预测的。就像我们看到一个襁褓中的孩子,不可能知道他将来会成为怎样的人,做出怎样的事。
记者:科幻小说家阿西莫夫曾提出“机器人三定律”,即机器人不得伤害人类,或坐视人类受到伤害;除非违背第一法则,机器人必须服从人类的命令;在不违背第一及第二法则下,机器人必须保护自己。70年过去了,“三定律”起作用了吗?
马丁·福特:作为第一个试图解决人工智能行为问题的方案,“三定律”广为人知,但它从未被真正用于指导机器人的研发。
如何避免“机器杀人”的危险出现,是一个很现实的问题,不能靠幻想解决。但是,问题要一个一个解决。机器人毁灭人类这件事也许会在2045年的时候,奇点才会来临,但机器人让人类失业、无所事事,并加剧整个世界的贫富差距,可能是未来十年甚至是五年内就会真实发生的事,而这将导致整个社会的动荡。
当然,我不是不在意研发战斗机器人给世界带来的威胁,而是说,与其空担忧,不如切实采取行动,根据事件的紧迫程度,一件件地去面对与解决。
这一次真的不同
记者:解决问题的第一步是提出问题,让大众意识到问题的存在,相信这是您出书的目的。那么,对于您的观点,大众的反馈如何?
马丁·福特:有支持者,也有反对者。其实机器人影响人类社会这一问题,200多年前就已经被提出过了,那时英国处于工业革命的浪潮之中,人们第一次开始担心自己的工作会被机器所替代。此后还有很多次,每当科技有重大突破和发展时,人们都会担心自己的工作被机器替代,但每次经济的发展都适应了这一变化,这使得很多人越来越乐观,认为眼下即将到来的变化也会像以前任何一次变化一样,旧的工作岗位消失的同时,新的工作机遇也会被创造出来。但我认为这次是完全不同的,技术的发展已经使得机器人可以从事脑力劳动,而不仅仅是体力劳动。
这一次,真的非常值得我们关注。
我不奢望我的观点得到所有人的认可,但我想把我看到的、想到的问题传递给大家,让更多的人参与到讨论中来。今天的我们,需要站在后天的立场上去看待明天,应该用一种更具未来感的世界观来审视和帮助我们分析今天人类面临的问题。
记者:机器人最擅长的便是处理大数据,您在书中引用了大量的数据,或许未来机器人也可以写出这样一本书?
马丁·福特:既然大数据与机器学习能够让机器人撰写各类新闻与行业报告,我完全相信机器人未来也能出书。事实上,我相信未来机器人将能胜任任何工作,而这,正是我想告诉大家的。