海思昇腾910主打云端推理,人工智能ASIC的下游应用场景覆盖云端推断、边缘计算和自动驾驶等方向,其核心优势在于高性能与低能耗的结合,特别适合大模型推理和实时性要求高的场景。

云端推理:大模型落地的核心场景

ASIC在云端推断场景中扮演关键角色。昇腾910在BF16浮点算力和INT8定点算力方面表现突出,非常适合处理大模型推理任务,这类任务计算量相对训练较小,但更加注重能耗、时延和成本等综合指标。云服务商在采购AI ASIC时,主要考量算力性能与单位功耗的平衡,昇腾910的能效优势使其成为云端推理的优选方案。

边缘计算与自动驾驶:实时性与低功耗需求

边缘推断场景对终端设备的推理能力要求高,ASIC的低功耗特性在此优势明显。在自动驾驶领域,车辆需要实时处理大量传感器数据,对芯片的时延和能耗有严格约束。智慧城市中的安防监控也依赖边缘AI芯片实现快速人脸识别和行为分析。在这些场景中,车企和安防企业更关注芯片的能效比、时延和成本,ASIC的定制化设计正好满足这些差异化需求。

需求结构差异:下游客户的采购决策因素

不同下游客户对AI ASIC的需求存在明显差异。云服务商侧重算力密度和生态兼容性,倾向于采购高性能的云端推理芯片;车企和安防企业则更看重芯片的功耗、成本和实时响应能力。此外,ASIC市场尚未形成明确的头部厂商,国产厂商在整体性能上能与海外比肩,这为下游客户提供了更多元的选择空间。

常见问题

为什么ASIC适合AI推理而非训练?

ASIC是为特定用途定制的集成电路,在性能、能效和成本上超越标准芯片,但训练环节计算量庞大且需要通用性,目前主要依赖GPU。推理环节计算量较小,更注重综合指标,ASIC的定制化设计能更好满足能耗、时延等需求。

昇腾910在算力方面有何特点?

根据官方资料,海思昇腾910在BF16浮点算力和INT8定点算力方面,已经超越了Google最新一代产品TPUv4,这使其非常适合大模型推理和边缘计算场景。

下游客户如何选择AI ASIC?

云服务商优先考虑算力性能和能效比,车企和安防企业则更关注低功耗、低时延和成本。不同场景对芯片的定制化需求差异明显,ASIC的专用化特性恰好能灵活匹配这些需求。

延伸阅读