
AI
以及一系列
AI芯片和软件应用方面的创新成果。这不但彰显了
公司在算力芯片、
服务器和
AI软件等方面取得的卓越进步,也为投资者勾勒出充满机遇的未来图景。在GPU的范畴内,
英伟达推出的Blackwell架构是一项极具意义的技术创新。就拿其中的B200芯片来说,这一有着2080亿个晶体管的强劲芯片,是采用
台积电定制的4NP工艺制造而成的。它把两个GPU die通过每秒高达10TB的芯片到芯片链路连接为一个统一的GPU,这在业内无疑是一次重大的突破。其内置的第二代Transformer引擎,凭借扩展支持与先进算法,可实现更高效的4位浮点
AI推理功能,让计算和模型规模得以翻倍提升。Blackwell架构还促使第五代NVLink技术出现革新。每个GPU的双向吞吐量达到了突破性的1.8TB/s,这一性能的提升为处理复杂的大语言模型提供了无缝的高速通信能力。而且,Blackwell架构引入了专门的RAS引擎,提升了可靠性、可用性和可服务性,使得大规模
AI部署能够持续运行数周乃至数月,极大地降低了运营成本。此外,借助先进的机密计算功能,Blackwell架构在保护
AI模型和客户数据方面表现出卓越的安全性能。从硬件层面来看,
英伟达除了推出B200芯片之外,还进一步研发出GB200 Grace Blackwell超级芯片。该超级芯片由两个B200芯片和一个Grace CPU组合而成,其大语言模型性能提升了30倍之多,而能耗却仅为原来的二十五分之一。这一成果必然会推动
AI计算迈向一个新的里程碑。
英伟达还发布了一系列与之相配套的新硬件产品,像第五代新NVLink芯片、GB200 NVL72
服务器、X800系列网络交换机以及下一代人工智能超级
计算机NVIDIA DGX SuperPOD等。这些产品的问世,进一步稳固了
英伟达在高性能计算领域的
领导地位,也为企业提供了更多的选择和可能性。在软件层面,
英伟达也彰显出强大的创新能力。
英伟达AI Enterprise 5.0推出了一系列微服务,其中NIM微服务致力于简化企业将
AI模型部署到生产环境的流程。它通过将算法、系统和运行优化打包,并添加行业标准的API,极大地降低了
AI模型部署的复杂性,让开发人员能够更加轻松地把
AI技术集成到现有的应用程序和基础设施当中。
英伟达于GTC 2024会议上的展示,全面彰显了其在
AI芯片、
服务器以及软件应用领域的雄厚实力与创新意识。Blackwell架构GPU的问世,还有众多新硬件和软件的推出,都给企业与开发者提供了更为强劲的工具和平台,有助于他们实现数字化转型与智能化升级。在未来,我们完全有理由相信,
英伟达会持续引领
AI技术发展的走向,为
人类社会创造更多的创新与进步成果。
英伟达在
AI计算领域的地位因Blackwell架构的六大技术突破而得到重要加持。其一,采用2080亿个晶体管,且由
台积电定制的4NP工艺制造,让芯片性能达到新高度。另外,借助高速的芯片到芯片链路,两个GPU die实现无缝连接,组合成一个更强大的计算单元。Blackwell因引入第二代Transformer引擎,
AI推理能力显著增强。其新的微张量驱动与先进动态范围管理算法,让芯片可支持更大规模模型和更高效计算。而且,实现4位浮点
AI推理功能后,计算效率与模型规模得到进一步提升。第五代NVLink技术问世,让GPU间的通信有了前所未有的速度与稳定性。其双向吞吐量达1.8TB/s,这使Blackwell在处理大规模
AI任务时,可维持高效的数据传输与通信。Blackwell因加入专用RAS引擎,可靠性与可用性显著提高。该引擎可预防性维护,及时察觉与解决潜在问题,进而提升系统的稳定性与可靠性。安全
AI功能的达成,有力保障了
AI模型与客户数据。Blackwell借助先进机密计算功能,在不影响性能时保护敏感数据,这给隐私敏感行业提供了关键支持。Blackwell引入解压缩引擎后,处理大规模数据仍能高效运行。它支持最新格式且可加速数据库查询,为企业提供了更强的数据处理能力。