DeepSeek开源周第二日:开源EP通信库
发表于:2025-02-25 13:00:14
浏览:18次
每经AI快讯,2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源 EP 通信库。特点有:高效的全员沟通;节点内和节点间均支持 NVLink 和 RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的 GPU 资源控制,实现计算-通信重叠。