AI之父辞去谷歌职位,警告AI的危险性

活力小达人 2023-05-05 00:37:44

Geoffrey Hinton,被广泛称为AI的“教父”,在接受纽约时报采访时证实,他已经辞去了在谷歌的工作。Hinton 在神经网络方面的开创性工作——为此他与另外两位大学教授一起获得了 2018 年的图灵奖——为当前生成式 AI 的发展奠定了基础。

Hinton 说,他辞职的原因之一是为了能够自由地谈论 AI 的危险性,他对自己的贡献感到后悔。他告诉 BBC,一些 AI 聊天机器人的危险性是“相当可怕”的,它们可能很快就会超过人类的智能,并可能被“不良行为者”利用。

Hinton 的研究为当前的 AI 系统如 ChatGPT 奠定了基础。在人工智能中,神经网络是一种类似于人类大脑的系统,它们能够学习和处理信息。它们使 AI 能够像人类一样从经验中学习。这被称为深度学习。Hinton 告诉 BBC,聊天机器人可能很快就会超过人类大脑所拥有的信息水平。“目前,它们并不比我们更聪明,据我所知。但我认为它们很快就会。”

Hinton 还提到了他年龄的因素,他告诉 BBC:“我 75 岁了,是时候退休了。”Hinton 在接受纽约时报采访时提到了“不良行为者”,他们会试图利用 AI 做“坏事”。当 BBC 问他详细说明时,他回答说:“这只是一种最坏的情况,一种噩梦般的情景。”

“我们是生物系统,而这些是数字系统。而最大的区别是,在数字系统中,你有许多相同权重的副本,相同的世界模型。”“而所有这些副本都可以单独学习,但立即分享它们的知识。所以就好像你有 10,000 个人,每当一个人学到了什么东西,每个人都自动知道了。而这就是这些聊天机器人能够比任何一个人都知道更多的原因。”

Hinton 短期内关心的问题已经成为现实——人们将无法再分辨什么是真实的,什么是虚假的,因为 AI 生成的照片、视频和文本充斥着互联网。

最近,图像生成器如 Midjourney 的升级意味着人们现在可以制作逼真的图像——今年三月,一张教皇弗朗西斯穿着 Balenciaga 羽绒服的图像就在网上疯传。

Hinton 还担心 AI 最终会取代一些工作,比如律师助理、个人助理等“苦差事”,甚至未来可能更多。

谷歌的首席科学家 Jeff Dean 在一份声明中说,谷歌感谢 Hinton 在过去十年对公司的贡献。

“我非常享受我们多年来的交谈。我会想念他,祝他一切顺利!”“作为最早发布 AI 原则的公司之一,我们仍然致力于负责任地开发 AI。我们在不断学习,以了解新出现的风险,同时也在大胆创新。”

Hinton 的辞职正值 IBM 首席执行官 Arvind Krishna 告诉彭博社,未来五年内,公司高达 30% 的后台工作可能被 AI 和自动化取代。

Hinton 是 AI 领域的先驱和领导者,他对 AI 的危险性的警告值得我们认真对待。AI 的发展不可避免地会给人类社会带来巨大的变革和挑战,我们需要及时制定相应的规范和措施,以确保 AI 的合理和安全使用。同时,我们也应该看到 AI 的积极一面,它为我们提供了无限的创造性工具,让我们能够实现以前难以想象的想法。AI 不是我们的敌人,而是我们的伙伴,只要我们能够正确地引导它和利用它。

0 阅读:12

活力小达人

简介:创作各类与科技、科学相关的作品,与大鱼友一起扩宽视野