苹果公司在其技术论文中透露,其人工智能系统Apple Intelligence所依赖的模型并非基于NVIDIA芯片,而是在谷歌设计的云端芯片上进行预训练的。
NVIDIA的GPU一直以高价位和高需求著称,是许多大型科技公司AI训练的首选。
然而,苹果选择了谷歌的张量处理单元(TPU),这可能预示着大型科技公司在AI基础设施上的多样化选择。
苹果在其论文中详细介绍了使用TPU v4和TPU v5p芯片进行模型预训练的过程。
据悉,苹果的设备端AI模型是在2048个TPU v5p芯片上训练的,而服务器端模型则使用了8192个TPU v4芯片。
尽管苹果初期使用了谷歌的硬件,但它已经部署基于自研Apple Silicon芯片的硬件来处理Apple Intelligence的查询,并启动了“Project ACDC”项目,以优化数据中心内的AI应用。
此外,苹果还计划在未来两年内投入超过50亿美元用于AI服务器的升级,并购买数万台AI服务器,同时收购了专注于压缩AI查询数据的公司,以加速其在AI领域的竞争力。