• 手机快捷登录/注册
  • 账号登录

登录失败,用户名或者密码错误

登录

首页  > 快讯

DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700

2025-02-24 11:08:07
【DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700】在上周DeepSeek宣布本周将是开源周(OpenSourceWeek),并将连续开源五个软件库后。今日,DeepSeek宣布开源了开源周首款用于Hopper GPU的高效型MLA解码核——FlashMLA。新浪科技注意到,在GitHub上,目前该项目已经收获了超过1700star,并且拥有62个Fork。MLA是DeepSeek V2-V3系列大模型最为重要技术创新,主要用于减少推理过程的KV Cache,进而降低推理成本。据DeepSeek介绍,FlashMLA是Hopper GPUs的有效MLA解码内核,可针对可变长度序列进行优化,目前主要发布包括:1、 BF16;2、块大小为64 的分页kvcache。在基准测试性能表现上,FlashMLA在英伟达H800 SXM5 GPU上可实现3000 GB/s 的内存速度以及580TFLOPS的计算上限。(新浪科技)

最新搜索

中国 A股 江淮汽车 st 茅台 汽车 新能源 资产重组 涨停 宁德时代 投票 %27 比特币 降息 白马股 电池回收 特朗普 清华五道口 中信建投 OpenAI 房贷 中国平安 上交所 半导体 华为 理想汽车 黑神话:悟空 泸州老窖 北汽蓝谷 中信证券 动力电池 悟空 新能源汽车 破净 中芯国际 ' 越南 股票交易异常波动 破净发 以旧换新 腾讯控股 大选 无人潜水器 稀土 四连板 存量房贷下调 润和软件 智能驾驶 连板股 哪吒汽车 欣旺达 贵州茅台 AI模型公司 7'nvOpzp; AND 1=1 OR (<'">iKO)), 7'A=0 茅台酒价 三元电池 广交会 三连板 今日收评 美国大选 存量房贷 曲江文旅 黑神话 上证指数 存量房贷利率 3000点 100' 绝地求生 '0=A AI出海 寻呼机 孚能科技 弹匣电池 蜀道装备