开源第一弹!DeepSeek重磅发布

2025-02-24 14:12来源: 中国经济网

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  2月24日,DeepSeek启动“开源周”,开源了首个代码库FlashMLA。

开源第一弹!DeepSeek重磅发布

  据介绍,这是DeepSeek针对Hopper GPU优化的高效MLA解码内核,专为处理可变长度序列而设计,现在已经投入生产使用。“在H800上能实现3000 GB/s的内存带宽&580 TFLOPS的计算性能。”DeepSeek说。

  简单来说,FlashMLA 是一个能让大语言模型在 H800这样的GPU上跑得更快、更高效的优化方案,尤其适用于高性能AI任务。这一代码能够加速大语言模型的解码过程,从而提高模型的响应速度和吞吐量,这对于实时生成任务(如聊天机器人、文本生成等)尤为重要。

  MLA (Multi-Layer Attention,多层注意力机制)是一种改进的注意力机制,旨在提高Transformer模型在处理长序列时的效率和性能‌。MLA通过多个头(head)的并行计算,让模型能够同时关注文本中不同位置和不同语义层面的信息,从而更全面、更深入地捕捉长距离依赖关系和复杂语义结构‌。

  此前,有从业者解析DeepSeek架构时提到,MLA的本质是对KV(Key-Value,一种缓存机制)的有损压缩,提高存储信息,“该技术首次在DeepSeek-V2中引入,MLA是目前开源模型里显著减小KV 缓存大小的最佳方法。”

  DeepSeek开源这一代码有何影响?媒体用这一问题询问了DeepSeek,它回答称,这一代码就像给AI推理引擎装上了一台“涡轮增压器“,让大模型在处理复杂任务时更快、更省资源,同时降低了技术门槛。FlashMLA的意义不单是技术优化,更是打破算力垄断、加速AI普惠的关键一步。

  具体来说,FlashMLA可以突破GPU算力瓶颈,降低成本。传统解码方法在处理不同长度的序列(如翻译不同长度的句子)时,GPU的并行计算能力会被浪费,就像用卡车运小包裹,大部分空间闲置。而FlashMLA的改进是:通过动态调度和内存优化,让Hopper GPU(如H100)的算力被“榨干”,相同硬件下吞吐量显著提升。这意味着企业可以用更少的GPU服务器完成同样的任务,直接降低推理成本。

  另一方面,FlashMLA可以推动大模型落地应用。可变长度序列是现实场景中的常态(如聊天对话、文档生成),但传统方法需要填充(Padding)到固定长度,导致计算冗余。FlashMLA支持动态处理变长输入,让AI应用(如客服机器人、代码生成)响应更快、更流畅,用户体验提升,加速商业化落地。

  此前高效解码内核多由科技巨头闭源垄断(如CUDA优化库),中小企业和研究者难以复现。FlashMLA开源后,开发者可免费获得“工业级优化方案”,降低技术门槛,促进更多创新应用(如垂直领域小模型)的诞生。

  "the whale is making waves!(鲸鱼正在掀起波浪!)”有网友在DeepSeek的帖子下留言称。(注:DeepSeek的企业LOGO是鲸鱼)。

  也有网友希望DeepSeek开源网页搜索(Web Search)相关的代码,并提到,“DeepSeek 是真正的OpenAI(开放人工智能)”。

  这仅仅是开始,上周2月21日DeepSeek宣布,下周开始,会陆续开源5个代码库,“以完全透明的方式分享我们微小但真诚的进展”。DeepSeek表示,这些在线服务中的基础构建模块已经经过文档化、部署,并在生产环境中经过实战检验。

  DeepSeek在公告中称自己是探索 AGI 的小公司,作为开源社区的一部分,每分享一行代码,都会成为加速AI行业发展的集体动力。同时,DeepSeek 称,没有高不可攀的象牙塔,只有纯粹的车库文化(不少美国著名企业从车库里诞生)和社区驱动的创新。

  转自:第一财经微信

[责任编辑: ]
阅读剩余全文()
为你推荐
国家统计局10月19日发布数据显示,初步核算,前三季度我国国内生产总值(GDP)1071071亿元,按不变价格计算,同比增长4.6%。国家统计局10月19日发布数据显示,初步核算,前三季度我国国内生产总值(GDP)1071071亿元,按不变价格计算,同比增长4.6%。
20日
第140届广交会第一期线下展于19日结束。新华社记者 邓华 摄  10月18日,在第140届广交会上,境外采购商(左)在摩托车展区体验产品。新华社记者 邓华 摄  10月18日,在第140届广交会上,境外采购商在现场洽谈。
20日
如何在自然、群体行为中清楚“看到”大脑神经元对复杂行为的调控,是理解智能的重要基础。而Airscope不仅摆脱了线缆束缚,尺寸更轻巧,还通过200万像素图像传感器实现端侧压缩,使百万像素级图像得以无线传输。图为观测到的小鼠大脑神经元图像。
20日
10月15日,国家深海基地管理中心研究员孙永福(右)手持“蛟龙”号高清摄像设备遥控器,同潜航员唐嘉陵讨论拍摄到的狗母鱼。10月15日,潜航员唐嘉陵操控“蛟龙”号机械手采集海底岩石样品。
19日
10月18日,中国开封第44届菊花文化节开幕。本届菊花文化节持续深耕“宋韵开封,菊香中国”节会品牌,开封市全城布展菊花330万盆,推出6条菊花文化节专属主题旅游线路,吸引广大游客前来赏菊观景。
19日
2026世界超级摩托车锦标赛(WSBK)18日在西班牙赫雷斯赛道迎来赛季收官战。10月18日,中国摩托车制造商“张雪机车”车队车手瓦伦丁·德比斯在发车前。
19日
10月17日,老人们在贵州省黔东南苗族侗族自治州凯里市西门街道大阁山社区老年公益食堂就餐。近年来,贵州省持续健全养老服务体系,多地升级社区养老服务站点,就近为老年人提供公益助餐、健康义诊、文娱休闲等暖心服务。
18日
10月18日,2026北京马拉松暨全国马拉松锦标赛在北京举行。10月18日,2026北京马拉松暨全国马拉松锦标赛在北京举行。10月18日,2026北京马拉松暨全国马拉松锦标赛在北京举行。
18日
10月17日,西藏山南市乃东区结莎社区一号片区固定管护员在清理杂草,开辟防火隔离带。拉萨南北山绿化(山南段)工程2022年启动,至2026年,累计完成造林31.75万亩,持续扩大国土绿化面积的同时,累计带动就业215万余人次,实现生态“增绿”与群众“增收”双赢。
18日
第140届中国进出口商品交易会(广交会)10月15日开展。本届广交会设立服务机器人专区,立足机器人产业沃土,聚焦全球智慧服务升级需求,以科创势能、前沿技术、多场景落地方案汇聚全球企业和客商,共拓智造蓝海。
17日
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮