关于搭建AI计算集群的可行性和成本问题

硬盘

小朋友，我来帮你澄清几个问题：首先，A100的价格并不是7万。它的低配替代品A800，在去年市场最火爆的时候，单价曾被炒到15万左右。现在虽然价格有所回落，但估计每张卡仍需12万到13万。其次，一台高性能计算设备的成本远不止显卡这么简单。它还包含CPU、内存、硬盘RAID等硬件配置。以浪潮的服务器为例，即便在A100价格最低的时候，整机成本也至少需要100万。而当显卡价格上涨时，单台机器的成本可能飙升至150万，甚至有钱都买不到货。再次，假设你有足够的预算，比如用1.5亿购买100台设备（我不知道国内哪个实验室能有这么高的设备经费，请让我开开眼界），这意味着你需要安装部署800张显卡。但问题是，这么多设备该如何安置？它们需要一个非常大的场地，同时还要解决供电、散热和网络连接等一系列复杂的技术难题。而且，这些设备运行起来噪音极大，一旦集中放置在一栋楼里，整栋楼基本无法正常办公。所以，为什么不选择直接在阿里云上购买云服务器？这当然是可行的，只要你愿意支付与购置这些物理设备相当的费用，就能获得一年的使用权。云计算是一项复杂的系统工程，并不是随便想一想就能实现的。建议你多学习一些实际知识，少做一些不切实际的幻想。