11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購吧!
今天是DeepSeek開源周第二日,一早,DeepSeek如約就放出了開源代碼庫DeepEP王炸。DeepEP是首個(gè)用于MoE模型訓(xùn)練和推理的開源EP通信庫,它填補(bǔ)了MoE模型專用通信工具的空白,為大規(guī)模分布式AI訓(xùn)練和實(shí)時(shí)推理場(chǎng)景提供了更高效的底層支持。6、深度優(yōu)化場(chǎng)景針對(duì)NVLink到RDMA的非對(duì)稱帶寬轉(zhuǎn)發(fā)場(chǎng)景進(jìn)行專項(xiàng)優(yōu)化,提升異構(gòu)網(wǎng)絡(luò)下的傳輸性能;此外,它還支持SM數(shù)量動(dòng)態(tài)控制,平衡不同任務(wù)的吞吐量需求。