您的当前位置:首页>科技咨询>资讯详情

DeepSeek开源第二弹:EP通信库 DeepEP

发表于:2025-02-25 13:00:11 浏览:18次 发布者: 网易互联网

三言科技消息 DeepSeek正式启动“开源周”,首个开源的代码库为FlashMLA。据悉,DeepSeek本次“开源周”将陆续开源5个代码库。

今天,DeepSeek官方推出开源第二弹:首个用于MoE模型训练和推理的EP通信库 DeepEP。


DeepEP可以做到:

1. 高效优化的 All-to-All 通信

2. 支持 NVLink 和 RDMA 的节点内 / 跨节点通信

3. 训练及推理预填充阶段的高吞吐量计算核心

4. 推理解码阶段的低延迟计算核心

5. 原生支持 FP8 数据分发

6. 灵活控制 GPU 资源,实现计算与通信的高效重叠

猜你喜欢

极兔宣布接入DeepSeek 大模型将成改变快递竞争
极兔宣布接入DeepSeek 大模型将成改变快递竞争
发表于:2025-03-15 浏览:13 发布者: 网易互联网
珀莱雅与蚂蚁集团数字蚂力达成战略合作
珀莱雅与蚂蚁集团数字蚂力达成战略合作
发表于:2025-05-23 浏览:10 发布者: 网易互联网
骑手过度跑单将强制下线,美团、饿了么回应
骑手过度跑单将强制下线,美团、饿了么回应
发表于:2024-12-18 浏览:35 发布者: 网易互联网
当智驾为汽车注入灵魂:保时捷狂飙,沃尔沃设
当智驾为汽车注入灵魂:保时捷狂飙,沃尔沃设
发表于:2025-02-24 浏览:22 发布者: 网易IT
终于淘汰LCD!苹果iPad mini 8首次升级OLED屏幕
终于淘汰LCD!苹果iPad mini 8首次升级OLED屏幕
发表于:2024-10-26 浏览:61 发布者: 网易新闻
京东外卖日单量已突破500万单;敦煌网97个国家G
京东外卖日单量已突破500万单;敦煌网97个国家G
发表于:2025-04-21 浏览:12 发布者: 网易互联网
外卖平台被约谈,“价格战”要到头了吗?|视频
外卖平台被约谈,“价格战”要到头了吗?|视频
发表于:2025-05-15 浏览:11 发布者: 网易互联网
美团旗下微信社群团购业务“团买买”宣布年底停
美团旗下微信社群团购业务“团买买”宣布年底停
发表于:2024-12-23 浏览:28 发布者: 网易互联网
三星电视有望支持Color Booster Pro 商标正在申请中
三星电视有望支持Color Booster Pro 商标正在申请中
发表于:2024-11-19 浏览:42 发布者: CNMO
地平线Vision Mamba:超越ViT最具潜力的下一代
地平线Vision Mamba:超越ViT最具潜力的下一代
发表于:2025-01-06 浏览:25 发布者: 网易互联网