人工智能(AI)的出现可能会带来一个“更紧急”图灵奖获得者科学家杰弗里·辛顿认为,人类面临的威胁比气候变化更大,他被认为是这项技术的先驱。
“我不想贬低气候变化。我不想说,“你不应该担心气候变化。”这也是一个巨大的风险,”他上周告诉路透社。“但我认为这最终可能会变得更加紧迫。”
被称为人工智能“教父”之一的辛顿最近透露,他将离开自己在谷歌技术开发前沿的角色。他说,做出这个决定是为了给他自己建立一个平台,在没有前雇主监督的情况下,警告艾存在的内在风险。
今年3月,谷歌发布了人工智能聊天机器人“Bard ”,作为OpenAI的ChatGPT软件的竞争对手,该软件于去年11月发布。辛顿在离开谷歌后一直认为,该公司迄今为止是一个“合适的管家”人工智能技术。
他的警告是在几位科技行业领袖——包括SpaceX、特斯拉和Twitter首席执行官埃隆·马斯克(Elon Musk)——在3月份联名签署了一封公开信,警告硅谷不受监管的人工智能军备竞赛的潜在后果。
在信中,马斯克和他的联合签名者认为“人类竞争情报”对包括就业和信息传播在内的几个社会部门提出了深刻的挑战。它还呼吁暂停开发比ChatGPT更强大的人工智能技术6个月,并任命一个独立的监管机构,对发展中的技术前沿进行监督。
ChatGPT在去年推出后不久就成为历史上增长最快的应用程序,因为它在短短两个月内就超过了1亿用户。
“随着气候变化,很容易推荐你应该做什么:你只是停止燃烧碳,”辛顿向路透社解释道。“如果你这样做了,最终一切都会好的。对于这一点,你应该怎么做还不是很清楚。”
然而,比起暂停研究,辛顿声称“完全不现实”他说资源应该投入到“找出我们能为”技术做些什么,他称之为“存在风险”
上周,美国总统乔·拜登会见了谷歌和微软的代表,在白宫所谓的“坦率和建设性的讨论”科技公司必须确保人工智能程序在部署前是安全的。