高通(Qualcomm)宣布推出一系列新型“基于芯片的加速卡”,使其股价飙升18%。
作为移动芯片和连接性的知名企业,高通现在正进军数据中心AI推理加速器的领域。
高通科技公司(Qualcomm Technologies, Inc.)今天宣布推出其面向数据中心的下一代AI推理优化解决方案:高通® AI200和AI250基于芯片的加速卡及机架。基于公司在神经处理单元(NPU)技术的领导地位,这些解决方案提供了机架级性能和卓越的内存容量,以支持高性价比的快速生成性AI推理,标志着在各行业推进可扩展、高效和灵活的生成性AI方面迈出了重要一步。
高通AI200推出了一种专为机架级AI推理设计的解决方案,旨在提供低总拥有成本(TCO)及针对大型语言和多模态模型(LLM、LMM)推理和其他AI工作负载的优化性能。每个卡支持768GB LPDDR内存,提供更高的内存容量和更低的成本,从而实现AI推理的卓越规模和灵活性。
高通AI250解决方案将首次采用基于近内存计算的创新内存架构,为AI推理工作负载提供效率和性能的代际飞跃,有效内存带宽提升超过10倍,同时大幅降低功耗。这使得AI推理的硬件有效利用成为可能,同时满足客户的性能和成本需求。
虽然这听起来并不会威胁到Nvidia在培训领域的地位,但在推理领域,Nvidia、AMD、英特尔等公司之间的竞争仍然激烈。
该文章《高通股价飙升,推出新一系列AI推理芯片》首次出现在HUBFX | 全球账户 | 外汇风险管理上。