AI不得不学,要不没有饭吃

数学

向量

矩阵

神经网络到底在算什么?

TP(Tensor Parallelism,张量并行)和 DP(Data Parallelism,数据并行)

KV Cache

PD(预处理/解码)分离架构

vllm