英伟达凭CUDA在AI硬件竞争中有何优势？

英伟达

它只管把GPU卖给开发者。2023年英伟达营收达600亿美元，在AI行业普遍亏损之际，它似乎获利最多。可是卖铲子为啥如此必不可少？市场上有不少卖铲子的人。英伟达虽是最大的，但不是唯一的，Intel和AMD都想参与进来，华为的昇腾910B也能对标A100。

为什么AI需要GPU？这是由AI算法训练模式决定的。可以把CPU看作大学教授，啥都会做。若有1000次加减法的工作，在算加减法上大学教授并不比小学生厉害。而GPU就像外包团队，雇了100个小学生，其速度能达到大学教授的99倍。

答案很明显，训练AI模型时，几乎要对所有数据样本执行相同操作。而GPU架构具备快速并行处理多任务的能力，能满足这一需求，所以进行AI训练，GPU是最为合适的。英伟达作为AI硬件领域的先行者，硬件规格领先是事实。但它也有竞争对手，CUDA是不得不提的，毕竟CUDA是英伟达最坚固的护城河。CUDA是什么？它是英伟达提供给开发者的编程工具。工程师使用CUDA时，可省去大量编写低阶语法的时间，直接用C++或Java等高阶语法编写通用GPU上的算法，从而解决并行运算中的复杂问题。对研究人员而言，这是消费类硬件中高性能计算的新方法。18年前黄仁勋投资CUDA，当时不少投资人不看好，然而到了2024年，这一投资造就两万亿美元市值。福布斯称，多数AI新创公司都建立在英伟达CUDA平台之上，英伟达的策略是让平台发展出巨大软件生态，令他人难以突破。换个说法，你现在使用英伟达生态，以后要是切换到昇腾生态，就得迁移模型，可这一迁移会面临诸多问题。因此，昇腾在售卖显卡时就要配合客户，助力他们把模型从CUDA+Pytorch转换到CANN+Pytorch/MindSpore。这种先发优势很显著，就好比习惯了使用Windows系统，再去切换到新的替代系统就会非常麻烦。看下面的图就能明白，要做AI大模型，并非仅有硬件就行，还需要完整的生态。