据《财富》杂志官网近日报道称,主要面向人工智能(AI)推理任务应用的晶圆级AI芯片厂商Cerebras Systems宣布,其旗下晶圆级AI芯片(应该是指WSE-3)执行700亿个参数的DeepSeek-R1中型模型的速度,要比当前最快的GPU还要快57倍。
Cerebras Systems CEO Andrew Feldman受访时表示,企业客户对中国AI大模型厂商DeepSeek最新推出的R1推理模型极为热情。他说DeepSeek-R1发布十天后,“我们迎接了暴增的需求。”
根据官方资料显示,WSE-3依然是采用了一整张12英寸晶圆来制作,基于台积电5nm制程,芯片面积为46225平方毫米,拥有的晶体管数量达到了4万亿个,拥有90万个AI核心,44GB片上SRAM,整体的内存带宽为21PB/s,结构带宽高达214PB/s。使得WSE-3具有125 FP16 PetaFLOPS的峰值性能,相比上一代的WSE-2提升了1倍。
△Cerebras WSE-3芯片
DeepSeek-R1推理模型以极低训练成本,就获得了性能媲美OpenAI 等竞争对手的最先进的推理模型的性能,对现有技术路线具有颠覆性,并且DeepSeek还将该模型进行了开源,这也使得全球的科技厂商都能够快速利用该模型来构建自己的AI应用,相关AI芯片厂商也能够快速的针对该模型进行适配和优化,以充分利用AI芯片的性能,即便是英伟达AI GPU以外的AI芯片也能从中获益。
为示范Cerebras的AI服务器执行DeepSeek-R1速度,Andrew Feldman现场指示模型以Python语言撰写国际象棋游戏,只花1.5秒便可完成,相比之下OpenAI最新发布的 o1-mini 推理模型却要花22秒才能用传统GPU完成相同任务。但因OpenAI模型属封闭系统,无法直接在Cerebras硬件测试,故难完全对等的进行比较。
△Cerebras基于WSE-3的CS-3超级计算机,可用于执行参数高达24万亿的人工智能模型
不过,Andrew Feldman仍强调,数学与程序任务,DeepSeek-R1表现较OpenAI-o1优异。对些类型任务,“你能更快获得精确答案。”
但由于R1是中国的大模型技术厂商DeepSeek所开发,因此也引发了欧美各国基于政治因素而以隐私安全等问题为由进行发难。美国国会已着手立法,拟全面禁止来自中国的先进AI模型。美国国防部、国会、海军、NASA以及德克萨斯州已相继禁止在政府官方设备上使用DeepSeek模型。
Andrew Feldman也表示,DeepSeek推出的基于其AI大模型的AI聊天应用是全世界最受欢迎的APP,若直接使用,数据势必会被传回中国。因此,他要大家“别这么做”,建议选择美国企业托管的大型语言模型(LLM),例如Cerebras、Perplexity等业者。
虽然Feldman坦言DeepSeek确实有些潜在风险,但使用者只需保持基本判断力即可。他比喻“当你用电锯时,应穿戴钢头靴和护目镜。但不代表不应用电锯,而是要谨慎使用。”
编辑:芯智讯-浪客剑
安知浮生一场戏
Gpu的训练和推理是两回事。推理所需的算力特别小,训练方面国内的算力中心,集中力量办事儿就足矣。所以中端显卡销量可能会激增。
iFFFFF
这要把英伟达打回游戏显卡的原形啊
囚鸟
急死人,到底买哪只股票?
烂俗人一个
最后还是靠电,没电没啥用
poppy
不用外国芯片!只用华为
吴小玉米
相信华为AI芯片,研发设计及制程,定能紧跟需求。
其华菡萏
这次英伟达不一定能一家独大了。
低音Latte
芯片需求暴增?关键是什么芯片暴增!NPU芯片而非英伟达的GPU
Lainey
Gpu的训练和推理是两回事。推理所需的算力特别小,训练方面国内的算力中心,集中力量办事儿就足矣。所以中端显卡销量可能会激增。
菊芯物语
cerebras是哪里的芯片公司?
蓉Roing
Deep sick是真香啊,嘎嘎香。[呲牙笑]
不会红眼的兔子
我们在全国各地建设的超算中心会不会也成了摆设?
默默mom
这个会要了英伟达的命啊!
迟暮孤鸿
以前GPU是巨头们买,现在GPU可能更多是小企业也会买了,需求碎片化了,但基数很大
哦 no
之前那个说几分钟就算出比宇宙寿命还长的计算机呢,出来叫两声。似乎击鼓传花和画饼的事件又来了。
世界如此美丽
这是真的吗?这要是真的话,还有那个黄仁勋什么事呀?英伟达的股票恐怕还没跌到位吧,至少再跌50%吧?竞争就会带来效率,带来成本的下降,就会使普罗大众受贿吧。
earth60s爱情树
说来说去,deepseek的出现,好像中国公司没有得到一点好处!
暮尘
赶紧搞个AI聊天应用出来,好把微信删了
啪嗒啪嗒
首先搞死的就是英伟达
商丘梨花
效能优先能推动AI技术向高端发展。~随着时间的推进!
小陈同学
所以,使用美国Gpd ,数据不会传回美国?
切草哥
这本就是惠及全球的事,只不过西方又把它当作是不守规则的坏事!而他们的规则是必须美国领导科技