高校设备采购复杂，中学生能懂吗？

服务器

高校直接购买GPU相当不划算。如今进行大模型训练，参数稍多些，单台8卡A100的机器就无法胜任，得用多机多卡，还要用到RDMA网络。开始训练时，一台8卡A100服务器功率超4000瓦，用电和散热都需专业保障。这些都存在学习与维护成本，高校投入大且设备使用率低，极不划算。所以，当下最常见的方式是云厂商或大型IDC建机房，以裸金属或算力平台的形式租给高校。