AI的十个层次(五)

轻舟没有万重山 2025-03-11 17:19:02

AI的十个层次(五)。

接上一个视频,第五层:大力出奇迹,大模型的涌现。2022年11月,open Al发布史上最强语言模型chat GPT,展现出惊人通用性。紧接着2023年3月,GPT4惊艳亮相,同时国内各大模型也蓬勃发展,如阿里云的通义千问、百度的文心一言、昆仑万维的天宫大模型等。

这些大语言模型之所以能做到这些,离不开拥有注意力机制的Transformer架构和海量数据训练。但更重要的是模型规模的巨大提升,GPT3的参数高达1750亿个,远超早期相交识别机的8个参数。

为什么模型大了就更厉害?谷歌科学家发现,当参数超过1000亿个且训练语料足够多时,会涌现出GPT的神奇能力。人类创造了具有思考能力的机器,却不知其思考的具体方式。除了涌现,我们对它真的一无所知吗?

我们下集再续,谢谢观赏。

0 阅读:0
轻舟没有万重山

轻舟没有万重山

感谢大家的关注