突发:Geoffrey Hinton从谷歌离职,警告AI风险

加入谷歌 10 年后,Geoffrey Hinton 离职了。

突然,而又令人不那么意外:图灵奖得主、深度学习之父 Geoffrey Hinton 从谷歌离职了。

数小时前,纽约时报的一篇采访文章爆出了这一消息。

纽约时报的报道截图。

而 Hinton 在 Twitter 上的内容也证实了他从谷歌离职的消息。

这一消息的爆出迅速引发了整个 AI 社区的讨论与关注。

离职:以便自由探讨 AI 风险

一直以来,Geoffrey Hinton 都是谷歌 AI 的「门面」,并在谷歌做出了许多重要的研究成果。

这次离职,是如此的突然。

首先,从纽约时报的采访中我们得知,Hinton 在四月份提出了辞职,并于周四直接与谷歌 CEO Sundar Pichai 进行了交谈。但采访中,Hinton 并没有透露交谈的细节。

其次,离职的原因 Hinton 表述的非常明确:辞去在谷歌的工作,以便畅所欲言地谈论人工智能的风险 。

so he can freely speak out about the risks of A.I. A part of him, he said, now regrets his life’s work.

在采访中,Hinton 甚至表示对自己毕生的工作感到后悔。

Hinton 认为 AI 的危害在哪里?主要有三点:

1. 自从微软必应接入 ChatGPT,挑战了谷歌核心搜索业务,带动谷歌加入一场无法停止的竞争中;

2. 因为 AI 生成技术的突破,互联网将充斥着虚假的照片、视频和文字,普通人将 「无法再辨别真伪」。

3. 他还担心人工智能技术会颠覆就业市场,未来甚至会对人类构成威胁,因为 AI 会从大量数据中学到意想不到的行为。

在纽约时报采访中,他表示:「大多数人认为这(AI 危害)还很遥远。我过去也认为这还很遥远,可能是 30 到 50 年甚至更长的时间。但显然,我现在不这么想了。」

在 GPT-4 刚出来时,Hinton 曾称赞 GPT-4 是「人类的蝴蝶」。

培养出 OpenAI 首席科学家

在整个 AI 领域,Geoffrey Hinton 可谓是教父级别的人物。

1978 年,Geoffrey Hinton 在爱丁堡获得人工智能博士学位。在卡内基梅隆大学任教五年后,他成为加拿大高等研究院的研究员,并进入多伦多大学计算机科学系任教,现为该系名誉教授。

Geoffrey Hinton 是英国皇家学会会士,也是美国国家工程学院和美国艺术与科学学院的外籍会员。他一生获得过诸多奖项,包括大卫・鲁梅尔哈特奖、 IJCAI 卓越研究奖、 基廉工程奖(有「加拿大诺贝尔奖」之称的国家最高科学奖)、 IEEE Frank Rosenblatt 奖、 NSERC Herzberg 金奖、 IEEE 詹姆斯・克拉克・麦克斯韦金奖、 NEC C&C 奖、本田奖和图灵奖。

很长时间以来,Hinton 都致力于神经网络、深度学习的发展,而很少谈及 AI 危险论调。

我们能明显感受到,ChatGPT 既让 Hinton 惊叹 AI 能力的提升,也让他感受到了 AI 潜在的威胁。

而训练出 ChatGPT 的 OpenAI 首席科学家 Ilya Sutskever 正是其学生。

2012 年,Geoffrey Hinton 在多伦多带领的研究小组实现了深度学习的重大突破,彻底改变了语音识别和目标分类。

他与学生 Alex Krizhevsk、Ilya Sutskever 合作设计的卷积神经网络「Alexnet」以远超第二名的成绩在 ImageNet 2012 挑战赛中夺冠,将 ImageNet 数据集上的视觉识别错误率降到了 15.3%,仅有此前的一半。

这成为了计算机视觉领域的里程碑事件。

后来,他们共同成立了公司 DNNResearch。

2013 年,DNNResearch 被谷歌收购。自此,Hinton 加入了谷歌。而在 2015 年,Ilya Sutskever 加入 OpenAI,成为联合创始人与首席科学家。

如今刚好过去 10 年,75 岁的 Hinton 离开谷歌,后续会为 AI 发展带来哪些新的思考?

我们拭目以待。

吴恩达 Twitter 截图。

参考链接

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

原文:https://mp.weixin.qq.com/s/huUDhsgVXpACaTRl-urJNw

- Posted in: AI

- Tags: ,

0 条评论 ,358 次阅读

发表评论

  1. 既然来了,说些什么?

Top