DeepMind CEO惊人预言10年内实现通用人工智能！图灵三巨头竟为此「决裂」

本文由 新智元 撰写/授权提供，转载请注明原出处。

文章来源于：新智元

作者：新智元编辑部

通用人工智能，十年内就会实现？

近日，谷歌 DeepMind CEO Demis Hassabis 在一场演讲中，抛出这个惊人的说法。

与 Hassabis 的自信满满不同，Hinton 用从谷歌辞职的举动，表明了自己对于 AI 发展的深切忧思。

而 LeCun 则一如既往地表示：认为 AI 会终结人类文明的想法，纯属胡说八道。

通用人工智能（AGI）的其中一种定义是，与人类的认知能力相匹配的 AI。

Hassabis 表示，未来几年内非常可能会出现与人脑一样强大的人工智能。

「过去几年里，AI 研究取得的进步令人难以置信。我看不出任何进展会放缓的理由。我认为它甚至可能会加速。所以我认为我们可能只需要几年时间，也许十年之内。」

「我认为我们将在未来几年拥有非常强大、非常通用的系统。」

Hassabis 何许人也？

作为谷歌新成立的部门 Google DeepMind 的 CEO，Hassabis 最近愈发万众瞩目，意气风发。

让 Google Brain 和 DeepMind 两大 AI 科研主力机构合体，已经是谷歌最后的退路。

权力大大提升的Demis Hassabis，表现出强烈的AGI使命感，和对成功的饥渴感

微软背后的 OpenAI 开发出的 ChatGPT，已经威胁到了谷歌的搜索业务。

而临危受命的 Hassabis，在谷歌 AI 大战的布局中，无疑处于核心。谷歌表示，合体将加速公司在 AI 领域的进步。

自 2010 年成立以来，DeepMind 的使命就是通过构建能够像人类一样学习、思考和行动的机器，来解决智能难题。

AGI 的发展，已然是 AI 研究业内最热门的话题。

很多人认为，AGI 不过是科幻小说中的概念，但无论是 Hassabis，还是 OpenAI CEO Sam Altman，都公开表达了开发 AGI、同时保护人类免受其害的雄心。

据 Hassabis 透露，现在他新工作的部分内容，就是把 AI 开发整合到谷歌产品中。而最近 AI 技术的进步，将改进计算机助手等软件。

在 Hassabis 看来，我们的确在经历下一个 iPhone 时刻，而基于 AI 算法的下一代助手，将带来彻底的转变。

Hassabis 说，AI 技术的发展需要研究人员、学术界和政府之间的大规模协调，而谷歌是一个负责任的参与者。

这一点，倒是不必质疑，毕竟谷歌为了「负责任的 AI」，为了所谓「声誉风险」，将类 ChatGPT 聊天机器人的发布一延再延。

而自从 OpenAI 用 ChatGPT 给全世界打了样，各国的 GPT 技术都冒了头，潘多拉的魔盒如果已经打开，是否还能有一个暂停按钮呢？

随着 ChatGTP、Bard 等聊天机器人导致的胡说八道和滥用愈加泛滥，业内对于是否该研究 AGI，态度也愈加分歧。

对此，Hassabis 也并没有否认。

他承认，虽然他「没有看到任何原因」，让 AI 的进展会放缓，但需要「使用科学方法以谨慎的方式开发 AGI 技术」，非常仔细地做可控实验，来了解「底层系统的作用」。

对于 AI 的未来，深度学习之父 Hinton 的态度显然就悲观多了。

就在前几天，Hinton 选择退出效力十年的谷歌，只为自由谈论 AI 可能给人类造成的风险。

这一决定仿佛一枚重磅炸弹，在业内掀起轩然大波。

而 MIT 科技评论的记者 Will Douglas Heaven，就在这一事件的前四天，采访过 Hinton。他的采访稿中，也为我们透露出更多信息。

对于 AI 是否会比人类更聪明，我忽然改变了自己的看法。

对于 GPT-4 的能力，Hinton 已经感到震惊。他希望公众能提高对 AI 技术的风险意识。

能自由谈论 AI 风险，并不是 Hinton 选择离开谷歌的唯一原因。他希望能把时间花在「更哲学的工作」上。这件事可能性很小，但如果真的发生了，AI就将是一场灾难。

而只要还身在谷歌，就无法对 AI 安全问题畅所欲言，而毫不顾忌这对谷歌业务的影响。「只要谷歌还在付我一天薪水，我就不能这样做。」

OpenAI 在三月发布的 GPT-4 让 Hinton 意识到，AI 远比他想象的要聪明得多。而 AI 会往哪里发展，让他感到害怕。「有时我觉得好像外星人已经登陆，但因为它们英语说得很好，所以人们还没意识到。」

1980 年代，Hinton 就和同事们一起提出了反向传播技术，这种算法使机器学习成为可能，也支撑着如今所有的神经网络。

他们还训练了一个神经网络，来预测句子中的下一个字母，这就是当今大语言模型的前身。

40 年来，Hinton 一直认为人工神经网络是模仿生物神经网络的糟糕尝试。而如今，状况显然已经改变。

「我们的大脑有 100 万亿个连接，」Hinton 说。「大型语言模型有高达五万亿，最多一万亿。然而，GPT-4 知道的比任何人都多数百倍。所以或许它有一个比我们更好的学习算法。

只要把预训练模型和人类学习的速度相比较，就会明白，人类的优势正在消失。

在 Hinton 看来，如果我们愿意支付更高的计算成本，那么神经网络在学习上就会击败人类。

而每个神经网络都有自己的经验，可以立刻和其他神经网络分享自己学到的东西，好比 10000 人中只要一个人学到了什么，所有人都知道了。这无疑是一种更新、更好的智能形式。

「你认为超级 AI 是好是坏，很大程度上取决于你是乐观主义者还是悲观主义者。」

而 Hinton 说，「我有轻微的抑郁，这就是我害怕的原因。」

现在，BabyAGI 和 AutoGPT 已经可以将聊天机器人与 Web 浏览器、文字处理器之类的程序连接起来了。

没人能保证，不会把 AI 用于选举或战争。

如果AI有一天开始说，让我们获得更多的力量，把所有的电力都重新集中到我的芯片上，让我们制作更多自己的副本……人类该怎么办？

而图灵三巨头之一，蒙特利尔大学的教授 Yoshua Bengio 对此的看法是，自己是不可知论者。

「目前我没有看到任何可靠的论据，证明 AI 的确有 Hinton 所认为的那么大的风险，」他说。

「过度的恐惧可能会使人瘫痪，所以我们应该努力将辩论保持在理性的水平。」

在他看来，Hinton 的首要任务之一是尝试与技术行业的领导者合作，对如何应对风险达成一致。

但没有人可以否认，AI 的发展速度已经超过了社会的步伐。

每隔几个月，AI 技术就会有一次飞跃，但立法、条约都需要数年。

与 Hinton 的担忧相比，Meta 的首席 AI 科学家 Yann LeCun 的态度倒是显得云淡风轻。

他同意 Hinton 的观点：「毫无疑问，在未来，机器将变得比人类更聪明——在人类聪明的所有领域，这是一个何时以及如何的问题，而不是是否的问题。」

但他对 AI 的发展方向持完全不同的看法。

「我相信 AI 将为人类带来新的复兴，但我完全不同意机器仅仅会因为自己更聪明就能主宰人类，更别说摧毁人类了。」

「即使在人类中，最聪明的人也不是最有权力的人，」LeCun 说。「最有权力的绝对不是最聪明的人，这种例子可太多了。」

在他看来，虽然大家吵得喋喋不休，但超人 AI 并不存在。

LeCun 表示，他对 ChatGPT 的表现并不感到惊讶，也不赞成暂停 AI 的研究。AI 作为人类智能的放大器，可能是新文艺复兴的起源。

LeCun转发的推特

在最新发表的推特中，LeCun 指出，他坚信会有一天出现超级 AI。但不是今天，今天的我们甚至连个超级 AI 的设计都没有。所以现在去聊安全性的问题，就好像 1920 年去探讨飞机横跨大西洋的安全性。

显然，这条转发的推文，显示了 LeCun 对于人类智能的信心。

而 LeCun 也表示，作为 ICLR 的主席，自己鼓励研究者用 LLM 来写论文。

大佬们还在畅想未来，但在现实世界里，AI 是真的开始取代人类了。

有些科技巨头已经开始光速行动，又是裁员，又是暂缓招聘。

就比如说 IBM，这么一家大公司已经宣布要冻结招聘计划了。

原因非常简单，公司 CEO Arvind Krishna 表示，在可预见的未来几年内，IBM 会有大约 7800 个职位被 AI 取代。

而这个数字，差不多是 IBM 所有非面向客户类员工的三分之一。

Krishna 表示，不直接面向客户的员工大概有 26000 人，30% 以上的人在五年之内会被 AI 取代。

但其实 IBM 员工总共差不多有 260000 人，上述员工只占差不多十分之一。不过，作为一家坐落在纽约州的巨头公司，假如一下少个小八千人也算是件蔚为壮观的事情。

不过，IBM 的内部人士并没有很直接的表达出「我们已经完全停止招聘了」这种意思。

他们很委婉，表示「我们在招聘不面向客户或者不涉及技术的岗位时非常有选择性」。

不管怎么说，IBM 在 AI 发展的大潮下首先表态，已经在业内造成了不小的风波。很多行业在未来可能面临着颠覆性的改变，以及大规模的缩招甚至裁员。

不光员工受影响，就连公司的市值也直接被波及。

Chegg 股价直接暴跌 30%，只是因为 Chegg 的 CEO 在一次会议中承认了 ChatGPT 对公司的新客增长产生了影响。

要知道，Chegg 是一家学习类公司，ChatGPT 抢了一堆饭碗。

这次暴跌，是 2017 年以来的最低价。

学生们一股脑的扑到了 ChatGPT 上去，Chegg 的情况急转直下。

面对这种情况，Chegg 的 CEO 表示，要把 AI 的发展纳入公司的规划。

他表示，几个月前他和 OpenAI 的 CEO Sam Altman 聊过 AI+ 教育的问题。Chegg 的 CEO 认为，公司发展方向要尽快调整，把 AI 的能力纳入 Chegg 的服务。

第一步就是推出 CheggMate，这是一个和 OpenAI 合作的项目。

看来，比起忧心 AI 哪天会毁灭人类，我们眼下更应该做的，是先掂量掂量自己的饭碗还稳不稳。

参考资料：

https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5

https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/

扫码关注公众号

获取更多技术资讯