2月24日,DeepSeek"開源周"正式啟動,并發(fā)布首個代碼庫FlashMLA,引發(fā)全球關注。
FlashMLA是針對英偉達Hopper GPU優(yōu)化的高效MLA解碼內核,專為可變長度序列優(yōu)化設計,是DeepSeek高效使用算力的核心程序模塊。FlashMLA通過MLA解碼優(yōu)化與分頁KV緩存技術,顯著提升硬件利用率,加速大語言模型解碼過程,有效提高響應速度與吞吐量,適用于各種實時對話生成場景。
云天勵飛芯片團隊在FlashMLA開源后,迅速完成了DeepEdge10平臺與FlashMLA的適配工作。在適配過程中,云天勵飛采用了Op fusion tiling、Online softmax、Double buffer、細粒度存算并行等先進技術,并基于自研的Triton-like編程語言快速開發(fā)驗證了高效的FlashMLA算子。通過一系列優(yōu)化,不僅顯著提升了計算效率,還大幅降低了顯存占用,充分展現(xiàn)了DeepEdge10平臺“算力積木”芯片架構的卓越優(yōu)勢,以及其與DeepSeek生態(tài)的高度契合性。
今日,云天勵飛已將相關代碼提交至開源平臺Gitee,為開源AI貢獻了重要的技術力量。
DeepEdge10系列芯片是專門針對大模型時代打造的芯片,支持包括 Transformer 模型、BEV 模型、CV 大模型、LLM 大模型等各類不同架構的主流模型;基于自主可控的先進國產工藝打造,采用獨特的“算力積木”架構,可靈活滿足智慧城市、智慧交通、智能制造、智慧倉儲、機器人、邊緣智算中心等不同場景對算力的需求,為大模型推理提供強大動力。
目前,DeepEdge10芯片平臺已成功適配DeepSeek R1系列模型及國產鴻蒙操作系統(tǒng)。未來,云天勵飛將持續(xù)加大研發(fā)力度,推動芯片在國產化領域取得更大突破,為國產AI生態(tài)建設貢獻更多力量。
免責聲明:以上內容為本網站轉自其它媒體,相關信息僅為傳遞更多信息之目的,不代表本網觀點,亦不代表本網站贊同其觀點或證實其內容的真實性。如稿件版權單位或個人不想在本網發(fā)布,可與本網聯(lián)系,本網視情況可立即將其撤除。
互聯(lián)網新聞信息服務許可證10120230012 信息網絡傳播視聽節(jié)目許可證0121673 增值電信業(yè)務經營許可證京B2-20171219 廣播電視節(jié)目制作經營許可證(京)字第10250號
關于我們 中宏網動態(tài) 廣告服務 中宏網版權所有 京ICP備2023030128號-1 舉報電話:010-63359623
Copyright ? 2016-2025 by netresults-search.com. all rights reserved 運營管理:國家發(fā)展和改革委員會宏觀經濟雜志社