您的当前位置:首页>科技咨询>资讯详情

DeepSeek“开源周”第二天开源EP通信库

发表于:2025-02-25 20:00:04 浏览:21次 发布者: 网易互联网

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。


DeepSeek发布公告截图

编辑 陈莉 校对 柳宝庆

猜你喜欢

REDnote!小红书已注册国际版英文名商标
REDnote!小红书已注册国际版英文名商标
发表于:2025-01-16 浏览:28 发布者: 网易互联网
品牌引力榜Top30正式发布 苹果华为前二 小米第四
品牌引力榜Top30正式发布 苹果华为前二 小米第四
发表于:2024-11-07 浏览:49 发布者: CNMO
市场监管总局:电商“智能客服”备受消费者诟病
市场监管总局:电商“智能客服”备受消费者诟病
发表于:2025-03-15 浏览:20 发布者: 网易互联网
华为宣布启动HarmonyOS 6开发者 Beta
华为宣布启动HarmonyOS 6开发者 Beta
发表于:2025-06-20 浏览:6 发布者: 网易互联网
辽宁12345正式接入DeepSeek
辽宁12345正式接入DeepSeek
发表于:2025-02-19 浏览:24 发布者: 网易互联网
飞猪双11热门景点活动商品售出超越去年双11全程
飞猪双11热门景点活动商品售出超越去年双11全程
发表于:2024-10-31 浏览:36 发布者: 网易互联网
IC-Light的视频版本,RelightVid:强光环境下的
IC-Light的视频版本,RelightVid:强光环境下的
发表于:2025-04-11 浏览:16 发布者: 网易互联网
微软计划近期裁员,还会严抓绩效
微软计划近期裁员,还会严抓绩效
发表于:2025-01-08 浏览:33 发布者: 网易互联网
CMU等曝光GitHub「地下产业链」!450万个Star都
CMU等曝光GitHub「地下产业链」!450万个Star都
发表于:2025-01-04 浏览:61 发布者: 网易互联网
薅运费险羊毛 危害电商生态
薅运费险羊毛 危害电商生态
发表于:2024-11-08 浏览:48 发布者: 网易互联网