711-12日,“第五届中国集成电路设计创新大会暨IC应用生态展”(ICDIA创芯展)在苏州盛大开幕。

 

作为中国领先的集成电路设计企业,深圳市中兴微电子技术有限公司(以下简称“中兴微电子”)深度参与此次盛会。公司副总经理石义军与电子芯片设计专家王飞鸣在大会期间发表主题演讲,深入阐述RISC-V开放架构如何赋能大语言模型(LLM)高效推理,推动AI算力普惠化进程。


中兴微电子副总经理石义军

随着大语言模型从实验室走向千行百业,推理部署的“最后一公里”成为技术落地的关键战场。当前,大模型推理对算力的需求呈指数级增长,传统GPU方案在高成本和专用性上的局限,制约了其在规模化普及,尤其是在中小场景和行业应用中的广泛落地。


中兴微电子认为,通用CPU凭借其高性价比、强兼容性与低延迟特性,正成为大模型推理服务器实现“普惠”的重要选项。而在这场算力革新中,RISC-V架构凭借其开放、灵活、可扩展的基因,展现出破解LLM高效推理核心命题的独特潜力。


当然,RISC-V 的架构挑战同样显著——从指令集扩展的标准化到工具链的成熟度,从生态适配的协同性到性能边界的突破,每一步都需要技术创新与实践验证。


随着大语言模型从实验室走向千行百业,推理部署的“最后一公里”成为技术落地的关键战场。当前,大模型推理对算力的需求呈指数级增长,传统GPU方案在高成本和专用性上的局限,制约了其在规模化普及,尤其是在中小场景和行业应用中的广泛落地。


中兴微电子认为,通用CPU凭借其高性价比、强兼容性与低延迟特性,正成为大模型推理服务器实现“普惠”的重要选项。而在这场算力革新中,RISC-V架构凭借其开放、灵活、可扩展的基因,展现出破解LLM高效推理核心命题的独特潜力。 当然,RISC-V 的架构挑战同样显著——从指令集扩展的标准化到工具链的成熟度,从生态适配的协同性到性能边界的突破,每一步都需要技术创新与实践验证。


点赞(0)
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部