模型需要 80GB 显存

GPU0 24GB
GPU1 24GB
GPU2 24GB
GPU3 24GB

TP=4
↓
每张 GPU 大约承担 20GB