国内日均词元调用量破500万亿,Mooncake盘活存量算力
热点事件持续更新
国内日均词元调用量破500万亿,Mooncake盘活存量算力
2 篇报道2 个报道来源11 小时前更新
先了解这件事
AI 综述
央视财经报道,国内日均词元调用量已突破500万亿,算力市场需求暴涨,智能算力短期供给不足。 郑纬民院士团队研发的大模型推理系统Mooncake采用PD分离技术盘活存量算力:P负责读入用户问题,D负责生成回答,用软件调度把现有算力用足。团队称,在同样硬件规模下,系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上。 该系统于2025年获得埃里克·里德尔最佳论文奖,其核心即是用PD分离技术盘活存量算力。
AI 根据报道生成 · 11 小时前更新
最新进展11月17日 22:16
我国日均词元调用量突破500万亿,郑纬民团队Mooncake系统盘活存量算力报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- 华尔街见闻·快讯我国日均词元调用量突破500万亿,郑纬民团队Mooncake系统盘活存量算力
国内日均词元调用量已突破500万亿,智能算力短期供给不足。郑纬民院士团队研发的大模型推理系统Mooncake通过PD分离技术盘活存量算力,用软件调度把现有算力用足。P负责读入用户问题,D负责生成回答,同样硬件规模下系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。
- 同花顺·快讯郑纬民团队Mooncake系统以PD分离技术盘活存量算力
国内日均词元调用量突破500万亿,算力需求暴涨。郑纬民院士团队研发的大模型推理系统Mooncake采用PD分离技术,通过软件调度盘活存量算力。该系统使同样硬件规模下多承接75%用户请求,长文本吞吐能力提升五倍以上。
本事件热度走势
- 可比范围当前
- 15
- 可比范围峰值
- 2011月17日 23:00
- 近 24 小时变化
- –
05101520
11月18日02:0004:0006:0008:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。