2月24日，DeepSeek"開(kāi)源周"正式啟動(dòng)，并發(fā)布首個(gè)代碼庫(kù)FlashMLA，引發(fā)全球關(guān)注。

　　FlashMLA是針對(duì)英偉達(dá)Hopper GPU優(yōu)化的高效MLA解碼內(nèi)核，專(zhuān)為可變長(zhǎng)度序列優(yōu)化設(shè)計(jì)，是DeepSeek高效使用算力的核心程序模塊。FlashMLA通過(guò)MLA解碼優(yōu)化與分頁(yè)KV緩存技術(shù)，顯著提升硬件利用率，加速大語(yǔ)言模型解碼過(guò)程，有效提高響應(yīng)速度與吞吐量，適用于各種實(shí)時(shí)對(duì)話生成場(chǎng)景。

　　云天勵(lì)飛芯片團(tuán)隊(duì)在FlashMLA開(kāi)源后，迅速完成了DeepEdge10平臺(tái)與FlashMLA的適配工作。在適配過(guò)程中，云天勵(lì)飛采用了Op fusion tiling、Online softmax、Double buffer、細(xì)粒度存算并行等先進(jìn)技術(shù)，并基于自研的Triton-like編程語(yǔ)言快速開(kāi)發(fā)驗(yàn)證了高效的FlashMLA算子。通過(guò)一系列優(yōu)化，不僅顯著提升了計(jì)算效率，還大幅降低了顯存占用，充分展現(xiàn)了DeepEdge10平臺(tái)“算力積木”芯片架構(gòu)的卓越優(yōu)勢(shì)，以及其與DeepSeek生態(tài)的高度契合性。

　　今日，云天勵(lì)飛已將相關(guān)代碼提交至開(kāi)源平臺(tái)Gitee，為開(kāi)源AI貢獻(xiàn)了重要的技術(shù)力量。

　　DeepEdge10系列芯片是專(zhuān)門(mén)針對(duì)大模型時(shí)代打造的芯片，支持包括 Transformer 模型、BEV 模型、CV 大模型、LLM 大模型等各類(lèi)不同架構(gòu)的主流模型;基于自主可控的先進(jìn)國(guó)產(chǎn)工藝打造，采用獨(dú)特的“算力積木”架構(gòu)，可靈活滿足智慧城市、智慧交通、智能制造、智慧倉(cāng)儲(chǔ)、機(jī)器人、邊緣智算中心等不同場(chǎng)景對(duì)算力的需求，為大模型推理提供強(qiáng)大動(dòng)力。

　　目前，DeepEdge10芯片平臺(tái)已成功適配DeepSeek R1系列模型及國(guó)產(chǎn)鴻蒙操作系統(tǒng)。未來(lái)，云天勵(lì)飛將持續(xù)加大研發(fā)力度，推動(dòng)芯片在國(guó)產(chǎn)化領(lǐng)域取得更大突破，為國(guó)產(chǎn)AI生態(tài)建設(shè)貢獻(xiàn)更多力量。

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點(diǎn)，亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個(gè)人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。