突然发布AI芯片H200英伟达在害怕什么?

最后编辑时间:2023-11-25 19:55:26 来源:未知 作者:未知 阅读量: 未知

  具体而言,当用于Llama2、GPT-3等大型模型的推理或生成问题答案时,H200的性能较H100提高60%至90%。

  在GPT-3的推理表现中,H100的性能比A100提高了11倍,H200的性能比A100提高到了18倍。

  H200沿用了英伟达Hopper架构,采用台积电4纳米工艺,由超过800亿个晶体管构建而成。

  英伟达急于发布H200,主要是因为意识到人工智能芯片的竞争即将升温,众多芯片巨头已纷纷入局。

  今年6月,AMD发布了针对AI需求的最新款芯片Instinct MI300,这是其最强大的产品之一,可能会让英伟达措手不及。

  这款芯片旨在运行大语言模型,帮助人工智能系统更快地处理大量数据以完成图像和语音识别等任务,并有可能避免对英伟达的高成本依赖。

  Meta Platforms正在开发自己的硅芯片MTIA元训练和推理加速器,以实现其人工智能目标。

  此外,谷歌已拥有自主研发的芯片,而AI新贵OpenAI也在内部讨论自行研发人工智能芯片,以解决对英伟达GPU的依赖并减少相关支出。

  黄仁勋深知中国市场对英伟达的重要性,中国作为全球人工智能芯片核心的市场之一,为英伟达带来了高达九成的份额。

  英伟达高度依赖中国市场,中国市场长期采购大量游戏芯片、数据中心芯片,占英伟达总营收的20%以上。

  如果按照一枚A800芯片单价10万元(人民币)计算,中国市场对A800/H800芯片需求量超过5万枚。

  更重要的是不能培养英伟达CUDA生态的潜在竞争者,担心华为通过昇腾芯片形成一套自主的人工智能底层生态。

  今年开始,中国的科技巨头与创业者已经开发了约130个大模型,他们急需英伟达速度更快的GPU芯片来提供算力支撑。

  随着管制措施的实施,[中国芯]的崛起可能会带来一个机会窗口,这可能导致英伟达在中国市场面临更大的竞争压力。

  中国本应成为英伟达成长的关键引擎,但如今英伟达不得不通过推出中国特供版芯片来维系在中国不断萎缩的市场。

  英伟达曾在中国花费大量精力建立生态,这是其竞争力的核心,但在管制下,维持这一生态变得越来越困难。

  单看算力这一指标,H200的算力与H100基本相同,对比两者的产品规格表可以发现,实现算力不变而性能飞跃的关键点就是内存。

  在各芯片企业的推动下,AI芯片的竞逐正从初期的算力指标竞争,进一步延展到存储领域,HBM几乎成为了未来AI芯片当中必备且必争的存储器。

(责任编辑:管理)

随机内容