跳到正文
同花顺·快讯·· 1 天前AI 评分33

亿道信息(001314):亿灵AISSD技术可使普通PC、NAS运行35B或更大模型

亿道信息:亿灵AISSD技术可使普通PC、NAS运行35B或更大模型

AI 导读

亿道信息(001314)表示,其亿灵AISSD异构推理技术针对MoE混合专家架构大模型进行底层调度优化。该技术通过动态专家驻留策略降低内存占用,并支持在内存与速度间灵活调档。这使得普通PC、NAS等内存受限的端侧设备能够运行35B或更大的模型。

来源:同花顺·快讯 · news.10jqka.com.cn