本文共 189 字，大约阅读时间需要 1 分钟。

NCCL是Nvidia Collective multi-GPU Communication Library的简称，它是一个实现多GPU的collective communication通信（all-gather, reduce, broadcast）库，或者说是一个多卡通信框架

Nvidia做了很多优化，以在PCIe、Nvlink、InfiniBand上实现较高的通信速度。

 

 

 

 

 

 

转载地址：http://wrygf.baihongyu.com/