第23届usenix文件与存储技术会议（fast）在美国圣克拉拉落下帷幕，计算机系章明星、武永卫、郑纬民教授团队与月之暗面公司合作的论文荣获埃里克·里德尔最佳论文奖（erik riedel best paper award）。该论文题为“以键值缓存为中心的以存换算大语言模型推理架构”（mooncake: trading more storage for less computation-a kvcache-centric architecture for serving llm chatbot），第一作者为计算机系博士生秦若愚，指导老师为章明星助理教授。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

最佳论文：Mooncake架构

获奖论文提出的Mooncake系统是月之暗面公司大语言模型服务Kimi的底层推理平台。Mooncake采用独特的键值缓存（KVCache）为中心的分布式架构，巧妙分离预填充和解码集群，并充分利用推理集群中CPU、DRAM、SSD和NIC等资源，构建独立的KVCache缓存池。其核心创新在于以KVCache为中心的全局缓存和调度机制，在严格满足服务级别目标（SLOs）的前提下，最大限度地提升吞吐量。

Zyro AI Background Remover

Zyro推出的AI图片背景移除工具

145 查看详情

实验结果表明，Mooncake在处理长上下文输入方面表现卓越。真实数据测试显示，与基线方法相比，Mooncake在满足SLOs的情况下，有效请求处理能力提升了59%到498%。目前，Mooncake已在数千个节点上稳定运行，每日处理超过千亿个token。实际部署中，Mooncake的创新架构使Kimi在NVIDIA A800和H800集群上的请求处理能力分别提升了115%和107%。

FAST会议是计算机存储领域的顶级盛会，拥有二十余年的历史，在业界享有盛誉，被中国计算机学会（CCF）评为A类国际学术会议。

以上就是清华大学计算机系团队获得第23届USENIX文件与存储技术会议（FAST25）最佳论文奖的详细内容，更多请关注其它相关文章！

# 腾讯  # 郑州新站关键词点击排名  # 湛江网站开发如何做推广  # 芜湖流量推广营销公司  # 海珠网站全网营销推广  # 宿迁网站建设开户  # 潮牌海报文案网站推广  # 河南监理建设协会网站  # 享有盛誉  # 学术会议  # 二十  # 梅赛德斯  # 五个月  # 最新推出  # 键值  # 亿元  # 清华大学  # 建设部网站视频配音  # 河南seo工具多少钱  # 网站推广与网络营销模块 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 课程伴侣电脑怎么登录  如何以命令符运行程序  复制 命令如何撤销  夸克缺什么登录不了  j*a怎么声明byte数组  vi命令如何使用方法  单片机*计步器怎么用  命令控制台如何执行sql文件  j*a怎么让数组倒换  debug中如何用n命令命名程序文件名  如何查询固态硬盘序列  如何在固态硬盘上安装win7系统  vivo手机nfc功能是什么意思  市盈率300是什么意思  哪个牌子的折叠屏手机好  linux如何调出命令行  js怎么设置typescript  折叠屏手机为什么有黑点  为什么夸克网盘下载不了  电焊机power和oc是什么意思  联想手机如何输入命令行  linux如何合并分区命令  access 如何输入命令  手机如何运行ping命令  阿里云盘扩容是什么_扩容阿里云盘方法是什么教程  春运辅助抢票怎么抢  mac 如何启动命令行模式  自己如何安装固态硬盘  单片机怎么控制闪烁技术  春运预约抢票能抢到吗  如何正确使用固态硬盘  市盈率负值是什么意思  360n7锁屏壁纸怎么固定  如何用命令打开光驱  启辰星power标志是什么意思  汽车中控导航机power线是什么意思  typescript中如何引入本地js  折叠屏手机信号哪个最强  公司的tm市盈率为负是什么意思  苹果16都有哪些亮点  bored是什么意思  adb 命令如何后台运行  光刻机分类有哪些品牌的  夸克搜题的原理是什么  为什么程序员热爱typescript  满射和单射定义  春运抢票哪个平台好抢  typescript是什么类型的语言  typescript属性只读如何修改  为什么要用typescript6