在加入谷歌十年后，AI 教父、图灵奖得主、深度学习先驱 Geoffrey Hinton 于日前宣布辞去职务离开该公司，以便可以更自由的讨论人工智能 (AI) 所带来的危害。随后在一个 MITEmTech 数字会议上，Geoffrey Hinton 进一步的表达了对 AI 的恐惧；该会议内容被整理发布到了 YouTube 上，并被描述为：
这是我很久以来看到的最不可思议的讲座之一。Geoffrey Hinton 基本上在告诉听众，人类的末日已经临近。AI 已经变得如此重要。AI 教父在陈述这一点，并敲响了警钟。他的结论是“人类只是进化智能的一个过渡阶段”。
Geoffrey Hinton 在采访中详细解释了他从谷歌离职的原因。一是觉得自己的年龄 (75 岁) 差不多到了该退休的时候。
二是，他最近对大脑和正在开发的那些数字智能之间的关系出现了很多看法转变。过去，他认为计算机模型不如大脑，其目的主要是为了改进模型以更多地了解大脑。但现在 GPT-4 等模型的性能让他惊觉，计算机模型以与大脑不同的方式工作 —— 它们使用反向传播，而大脑可能不是。反向传播技术是一种允许机器自主学习的算法；从计算机视觉系统到大型语言模型，它支撑着今天几乎所有的神经网络。
Hinton 在会议上表示，现今的大型语言模型规模完全颠覆了他关于反向传播和机器学习的想法。他指出，尽管 GPT-4 只有一万亿个连接，人脑有 100 万亿个连接；但 GPT-4 掌握的知识量却比人类多得多，这意味着计算机模型比人类更擅长获取知识。这也正是他所认为的可怕之处：反向传播可能比人类更擅长学习。
Hinton 进一步点明，问题在于运行在数千台相互通信的计算机上的数字模型；这意味着模型可以立即访问所有数据，以人类无法实现的方式共享知识。他认为，已经能够进行常识性推理的 ChatGTP 非常可怕；继续发展之后，其或将可能操纵人类做坏事。Hinton 将他的恐惧源表达为：smart things can outsmart us。
此外他还担心，缺乏控制的数字智能（他认为数字智能不同于人类智能）可能会设定与人类原定目标相冲突的目标，从而使非人类占据上风。
更多详情可查看完整视频。
评论删除后，数据将无法恢复
AI 教父敲响警钟：人类只是进化智能的一个过渡阶段
在加入谷歌十年后，AI 教父、图灵奖得主、深度学习先驱 Geoffrey Hinton 于日前宣布辞去职务离开该公司，以便可以更自由的讨论人工智能 (AI) 所带来的危害。随后在一个 MITEmTech 数字会议上，Geoffrey Hinton 进一步的表达了对 AI 的恐惧；该会议内容被整理发布到了 YouTube 上，并被描述为：
Geoffrey Hinton 在采访中详细解释了他从谷歌离职的原因。一是觉得自己的年龄 (75 岁) 差不多到了该退休的时候。
二是，他最近对大脑和正在开发的那些数字智能之间的关系出现了很多看法转变。过去，他认为计算机模型不如大脑，其目的主要是为了改进模型以更多地了解大脑。但现在 GPT-4 等模型的性能让他惊觉，计算机模型以与大脑不同的方式工作 —— 它们使用反向传播，而大脑可能不是。反向传播技术是一种允许机器自主学习的算法；从计算机视觉系统到大型语言模型，它支撑着今天几乎所有的神经网络。
Hinton 在会议上表示，现今的大型语言模型规模完全颠覆了他关于反向传播和机器学习的想法。他指出，尽管 GPT-4 只有一万亿个连接，人脑有 100 万亿个连接；但 GPT-4 掌握的知识量却比人类多得多，这意味着计算机模型比人类更擅长获取知识。这也正是他所认为的可怕之处：反向传播可能比人类更擅长学习。
Hinton 进一步点明，问题在于运行在数千台相互通信的计算机上的数字模型；这意味着模型可以立即访问所有数据，以人类无法实现的方式共享知识。他认为，已经能够进行常识性推理的 ChatGTP 非常可怕；继续发展之后，其或将可能操纵人类做坏事。Hinton 将他的恐惧源表达为：smart things can outsmart us。
此外他还担心，缺乏控制的数字智能（他认为数字智能不同于人类智能）可能会设定与人类原定目标相冲突的目标，从而使非人类占据上风。
更多详情可查看完整视频。