乐昆:为什么花了这么长时间才成功?科学研究就是这样。它涉及到人们的心理。在一套技术被采用之前,人们必须相信它能够奏效。众所周知,这些方法过分繁琐,需要某种黑魔法。
理查德·萨顿:计算能力的稳步增长有着深刻的意义。现在我们正处于一场竞赛中:人们在试图开发算法,与此同时人们也在试图开发更快速的计算机。你必须规划好你的人工智能算法,使得它们能够兼容5年和10年以后出现的计算机。
计算机必须要知道什么是好的什么是坏的,所以你要给它一个叫做奖赏的特殊信号。如果奖赏很高,那就意味着很好。如果奖赏很低,那就意味着不好。
神经网络是你存储学习内容的地方,而强化则是你如何决定你想要做出什么改变。
本吉奥:我们离非监督式学习还有很长一段路要走,那是辛顿、乐昆和我都梦寐以求的一项技术。几乎所有基于深度学习的工业产品都主要依赖于监督式学习,在数百万个案例中,计算机必须要被告知要做什么。当然,人类并不是这样学习的;我们自主学习。我们自己来发现周围的世界。一个2岁的孩子对物理、重力、压力等有直觉的概念,她的父母永远也不需要告诉她力和重力的牛顿方程式。我们与世界进行互动,观察它,并以某种方式建立起一种心智模式:如果我们做这个或做那个,事情将会如何发展。
我们正在进入一种新的研究阶段,即非监督式学习,这与强化研究有关。我们不仅仅是在观察世界,我们还在这个世界行动,然后利用这些行动的影响来琢磨它是如何运作的。
乐昆:我对使得机器像动物和人类一样高效学习很感兴趣。当你学习开车的时候,你知道如果你偏离了公路,坏事就会发生。我们可以预测我们行为的后果,这意味着我们不需要通过做坏事来了解不好的后果。
所以,我所追求的是找到训练机器的方法,使得它们能够通过观察来学习,这样他们就能建立起某种针对这个世界的预测模型。每种动物都有针对其环境的预测模型。它们越是聪明,就越会预测。你可能会说,预测能力,连通根据预测采取行动的能力,实际上是智力的本质。
乐昆:我们很有可能将会在未来3年、5年、10年或15年取得一些重大进展——也就是短期内就能实现。在那以后,还需要很长一段时间才能真正建立某种接近于人类智能的系统。那将需要数十年的时间。
本吉奥:我不认为人类必定会失去工作,即使机器变得非常聪明,甚至比我们更聪明。我们总是希望真人去从事与人类互动有关的工作。我不想让机器人照顾我的孩子、祖父母或者生病住院时候的我。我不担心《终结者》(Terminator)里的场景。我相信,如果我们能够制造出像我们一样聪明的机器,他们也会聪明到能够理解我们的价值观和我们的道德体系,从而以一种对我们有益的方式行事。
我真正担心的是人工智能被滥用的可能性,例如应用于军事武器。它已经被用来影响人们的看法,正如你在广告中所看到的。我认为,在人工智能部署存在伦理道德上的错误的地方,我们应当将其认定为违法。我们需要共同变得更有智慧。
萨顿:我认为,我们将这个领域称作“人工智能”是个巨大的错误。这让人觉得它和人很不一样,而且也不是真正的智能。它让人们觉得它比正常情况更加陌生,但它是我们试图去做的一件与人类密切相关的事情:重新创造人类智能。
科学总是揭示出并非所有人都喜欢的真理——你得到了真理,但它并不总是你想要的。也许这就是为什么宗教历来与科学格格不入的原因。我认为这和我们对大脑的了解是一样的。也许不会有关于意识的解释。有些人会喜欢,有些人不会喜欢。科学不能改变真理。
变化出现的时候总会有赢家和输家,也总会有巨大的变化。我想我们将成为智能机器。我们应该把AI看作我们自己或者我们的后代。我们可以创造他们,让他们成为我们认为合适的存在。
人类是什么?人类总是在努力变得更好。我们不应该冻结我们现在的生活方式,并说这就是它应该永远保持的模样。
▲2011年,辛顿(左二)和本吉奥(右)参加盖茨比研究所举办的一个研讨会
乐昆:直到我们确切地知道它将会是什么样子的,担心这些是不成熟的。我不相信奇点的概念:有朝一日,我们将想明白如何构建有超常智慧的机器,第二天这台机器将建造出更加智能的机器,然后它会实现腾飞。我认为,人们忘记了每一个物理现象或社会现象都会面临摩擦,所以一个指数式增长的过程不能无限增长。
在这个好莱坞的桥段中,在阿拉斯加某个地方的某个天才想通了人工智能的秘密,并制造了一个机器人,机器人接管了整个世界。这简直太荒谬了。
特鲁多:这不是我过分担心的事情。我想我们都看过或读过足够多描述人工智能理论上是多么危险的科幻小说。我认为,人们总会感觉科技既能被用来做好事,也能被用来做坏事。我确信,加拿大在参与试着让我们走上正确的道路。我不想放慢我们的研究和我们对宇宙具体细节的研究。
问题是:我们想要一个什么样的世界?我们想要一个成功的人要躲在封闭的社区里,而其他人都心存嫉妒的世界吗?或者你想要一个人人都有可能为创新做出贡献的世界?
辛顿:我认为,所有这些东西对社会的影响很大程度上取决于我们所处的政治体制。从本质上讲,提高商品的生产效率应该提高整体的效益。唯一糟糕的是,你的社会将生产力提高带来的所有好处都提供给1%的人。我居住在加拿大的原因之一是它的税收制度;如果你赚了很多钱,该国会对你征收很多的税。我觉得这样很好。
我的主要观点是,预测未来非常困难。一旦你开始预测20年后会发生什么,你几乎不可避免地会预测错误。但有些事情是我们可以预测的,比如人工智能这项技术将改变一切。