昨日晚间，英伟达发布了新一代AI芯片H200 Tensor Core GPU。作为首款配备HBM3e的GPU，H200的内存更大、速度更快，为加速生成式AI和大型语言模型（LLM）提供了动力，同时推动了高性能计算（HPC）工作负载的科学计算。借助HBM3e，H200以每秒4.8TB的速度提供141GB内存，与A100相比，容量几乎翻倍，带宽增加2.4倍；在处理Llama 2等LLM时，H200的推理速度比H100提高了2倍。全球服务器制造商和云服务提供商采用H200的系统预计将于2024年第二季度开始发货。首批部署H200的云服务提供商包括CoreWeave、Lambda、Vultr、AWS、谷歌云、微软Azure和甲骨文等。
责任编辑：众视数字
