外媒:中国科技巨头百度比OpenAI更早发现ScalingLaw

小翠说时尚生活 2025-01-05 19:52:50

近年来,我国在人工智能领域的飞速发展引发了全球范围内的广泛讨论。尤其是中国科技巨头百度在这方面的成就,甚至超过了许多人对于美国的刻板印象,而在这个讨论中,围绕着大模型核心理论“ScalingLaw”的起源,近期更是在外网引发了热议。

01.百度可能比OpenAI更早发现“Scaling Law”,你知道吗?

“Scaling Law”指的是一个模型的训练数据和模型参数越大,其智能能力就越强的原则。OpenAI在2020年发布的论文“Scaling Laws for Neural Language Models”,广泛传播了“Scaling Law”这一概念。

但是,前OpenAI的研究副总裁Dario Amodei在推特上还原了“Scaling Law”的起源,表示自己和吴恩达在2014年就已经观察到了这一规律,并且写下了论文,但是没想到的是,直到2020年,OpenAI才发布了这篇论文。

“Scaling Law”起初被称为Neural Scaling Laws。在这篇论文中,OpenAI就阐释了 模型参数量越多,训练数据集越大,损失函数也会随着增加,但Loss下降速度会随着模型参数量的提升而变得越来越慢。

而在Dario Amodei这则推特下面,还有网友表示自己也曾在2016年就观察到了这个规律,认为OpenAI故意将Scaling Law放到了2020年才发布,是想要将这个理论,去其原始的来源,进而打造一个新的AI生态。

而这些推特下的讨论,最终就演变成了国际舆论,认为“Scaling Law”的理论不是OpenAI创始的,OpenAI存在抄袭的嫌疑。根据Wiki百科的资料,“Scaling Laws”这个术语最早出现在2017年,而OpenAI在2020年发布论文时,也没有在引用文献上和百度进行必要的严谨。

这也让人不禁思考,在2017年就曾发布“Scaling Law”的论文,在2020年OpenAI的论文中,为什么没有提到百度的这篇论文呢?难道是故意的选择性引用吗?在这方面,不少的研究者也认为,百度早在2017年就已经发现了“Scaling Law”的相关现象。

02.百度在AI大模型领域的进展已经引领全球

(1)中国AI大模型的发展势头越来越猛

随着技术的不断进步,中国在AI大模型领域的探索也迈上了一个新的台阶。百度文心大模型作为其中的佼佼者,其日均调用量已经突破了15亿次,这一数字不仅彰显了百度在AI领域的实力,也标志着中国在全球AI领域的影响力和领导地位持续上升。

在国际对比中,百度文心大模型的实力已经不容小觑。在全球范围内,现有已知的大模型中,只有GPT-3的参数量超过了百度的文心大模型,而百度文心大模型在国内的应用场景和实际效果也得到了广泛的认可和验证。

百度文心大模型的调用量如此惊人,其背后不仅是百度在技术上的持续创新和突破,也体现了越来越多的企业和个人对AI技术的认知和需求的增长。无论是在智能制造、金融科技、医疗健康等领域,AI技术都正在发挥着越来越重要的作用。

(2)中国的AI大模型发展已经获得国际认可

中国的AI大模型发展已经取得了显著的进展,越来越多的企业和机构开始重视AI技术的研发和应用,在全球范围内,中国的AI大模型得到了越来越多的关注和认可。

从模型体量上来看:百度在全球发布的文心大模型,参数量达到了万亿级别,而国内大厂华为,也孵化出了盘古大模型,参数量为50亿到2000亿不等。

无论是百度的文心大模型还是华为的盘古大模型,它们都在不断推动着AI技术的发展和应用。随着技术的不断进步,我们可以期待AI大模型在未来发挥更大的作用,为社会带来更多的价值。

根据国际权威机构的分析报告,中国在AI大模型领域的发展已经超过了全球大多数国家和地区,在技术水平、应用场景和市场份额等方面,中国已经处于领先地位。这一结果进一步证明了中国在AI大模型领域的技术实力和市场潜力。

在中国的科技行业,AI大模型已经成为了当前的关键词。随着技术的不断更新和迭代,越来越多的企业和机构开始关注AI大模型的研发和应用,其中百度和华为是两个在这一领域处于领先地位的企业。

百度的文心大模型和华为的盘古大模型都是以超大模型为基础进行研发的,这些模型在技术上具有更高的智能化和自动化水平,并且能够更好地适应不同的应用场景,未来,随着技术的不断进步,AI大模型将在各个领域发挥更大的作用,为社会带来更多的价值。

03.中国的AI大模型崛起将影响全球科技竞争格局

中国在AI大模型领域的快速进步,意味着全球科技竞争格局可能会发生变化,随着中国在这一领域的不断突破和创新,未来可能会出现多中心的AI发展趋势,这对于全球科技的发展和应用都将产生深远的影响。

在这股浪潮中,国有企业以及民营企业,甚至高校、科研院所都在积极探索和研发自己的AI大模型,推动中国在这一领域的快速发展。在未来,我们可以期待中国的AI大模型在全球范围内发挥更大的作用,为社会带来更多的价值。

尾声

这次关于“Scaling Law”的讨论,不仅让我们认识到国内科技企业的进步,也促使我们对模型的理论的发展进行了更深入的思考。同时,也希望国内的研究者们能够更加严谨地审视和研究模型的来源,为学术诚信的发展做出更大的贡献。

若百度在AI技术上继续取得突破,或许会吸引更多的国际企业与中国科技公司进行合作,形成新的技术生态。与此同时,百度也有可能在技术上承担更多的社会责任,关注AI的伦理和安全问题。随着AI技术的普及,未来可能会出现新的产业标准和规范,促进不同企业和研究机构之间的更紧密合作。

0 阅读:3
小翠说时尚生活

小翠说时尚生活

感谢大家的关注