加强版的AIPC?英伟达发布紧凑型生成式AI超级计算机开发套件

中关村在线 2024-12-18 18:20:16

英伟达推出一款名为“JetsonOrinNanoSuper”的生成式人工智能(AI)超级电脑。英伟达执行长黄仁勋表示,这款开发者套件透过软体升级实现更高性能和更低价格,仅售249美元,尺寸小巧、可放在手掌中,可将生成式AI性能提高达1.7倍。

该公司表示,这款产品适合商业AI开发者、爱好者和学生,与其前代产品相比,其生成式AI推理性能提升了1.7倍,性能提高了70%,每秒可执行高达67兆次的INT8运算(67INT8TOPS),记忆体频宽也提升了50%,达到了102GB/s。

黄仁勋在替这款产品录制的影片中表示,无论是创建基于检索增强生成(Retrieval-AugmentedGeneration,RAG)的大型语言模型((LLM)聊天机器人,构建视觉AI代理,还是部署基于AI的机器人,JetsonOrinNanoSuper都是理想的选择,这款套件都能以更低的成本提供强大的运算效能。

因为该产品支援低功耗设计,能以7瓦到25瓦的功耗运行,适合各种边缘设备云算场景,无论是智慧城市、智慧农业还是机器人开发。

黄仁勋还说,JetsonOrinNanoSuper非常适合希望在生成式AI、机器人技术或电脑视觉领域发展技能的人士。在AI领域从任务专用模型转变为基础模型的趋势下,也为开发者提供了一个将创意变成现实的易用平台。

英伟达强调,随着AI技术逐渐从云端走向终端,实体AI将是下一波发展重点,JetsonOrinNanoSuper不仅可以用于开发聊天机器人,也适合视觉AI代理或部署AI机器人等应用。

该公司也宣布将替JetsonOrinNX和Nano系列的系统模组提供软体更新,让它们也能享受Super模式的效能提升,最高可达70%。这些更新将透过JetpackSDK管理器发不在英伟达网站和GitHub上。

JetsonOrinNanoSuperDeveloperKit预估很快就会透过全球经销商开始供货。对于想要入门AI开发的学生、工程师或创客来说,这款开发套件提供一个经济实惠且功能强大的平台选择。

英伟达将JetsonOrinNanoSuperDeveloperKit定位为推动生成式AI技术普及化的关键产品,希望在智慧交通、零售管理以及物联网(IoT)应用中大放异彩。

1 阅读:17