您所在的位置: 中国新车评网 > 动态 >

破解算力、带宽、功耗、精度四重约束,安谋科技“周易”X3率先在座舱支持FP4

2026-10-19 14:04  来源:网络 丁德勤

  智能座舱大模型面临算力、带宽、功耗与精度四重约束,如何在有限的车端资源下兼顾推理速度、模型效果与系统开销,是其实现规模化落地的核心挑战。车端资源本身存在限制,极低比特量化误差可能对复杂推理、长文本理解与多轮对话效果产生影响;而低比特量化能够降低存储与数据搬运开销,是解决这一问题的重要方向,其中INT4是主流技术路径,FP4则凭借浮点数表示,更契合权重分布的特点,通过结合适配性量化方法与硬件支持探索出新的性能平衡,推动端侧大模型从“能运行”迈向“高效部署”,目前FP4已经成为行业积极布局的重要技术方向。

  安谋科技“周易”X3率先在国内座舱芯片市场支持FP4,从硬件算力、低比特量化到软件工具链协同优化,为大模型在智能座舱等端侧高效部署提供支持。

  1、FP4算力规格翻倍,为高效推理提供硬件支持

  “周易”X3支持FP4,相对INT8/FP8实现算力规格翻倍,为大模型推理提供更强的低比特计算能力。结合低比特权重带来的存储与数据搬运优势,可为Prefill阶段的计算效率优化,以及Decode阶段的数据访问压力缓解提供支持。

  2、支持W4A16与W4A8,拓展低比特部署选择

  “周易”X3支持W4A16,并原生支持W4A8,为不同的低比特量化方案提供选择。其中,FP4权重与FP8激活的组合,助力模型化身为兼顾效率、开销、效果与体验的“四边形战士”。

  3、软硬件协同,打通FP4模型部署链路

  “周易”NPU Compass AI软件平台提供模型量化、调优与部署的全流程工具链,并配套丰富的开箱Demo,帮助客户开展FP4模型适配与优化,推进量化模型在端侧的部署与落地。

  以FP4为关键技术支撑,安谋科技“周易”X3通过软硬件协同优化,打通从硬件计算能力到软件工具链的全链路,为端侧大模型高效部署提供支持。该方案助力智能座舱在推理效率、模型效果与系统资源开销之间实现更优平衡,推动大模型从“能跑”迈向高效落地。

  

版权所有中国新车评网

中国新车评网所载文章、数据仅供参考,使用前务请仔细阅读法律申明,风险自负。

合作QQ:3367874305 举报邮箱:3318927057@qq.com

新车评网APP
官方微信
官方微博