Theo báo cáo, kết thúc chip ngược dòng của NVIDIA AI GPU H200 đã bước vào thời gian sản xuất hàng loạt vào cuối quý 2 và dự kiến sẽ được cung cấp với số lượng lớn sau quý 3.Nhưng lịch trình ra mắt của Nvidia Blackwell Platform ít nhất một đến hai phần tư trước thời hạn, điều này ảnh hưởng đến sự sẵn lòng của khách hàng cuối để mua H200.
Chuỗi cung ứng chỉ ra rằng hiện tại, các đơn đặt hàng của khách hàng đang chờ lô hàng vẫn tập trung chủ yếu trong kiến trúc HGX của H100, với tỷ lệ H200 hạn chế.Trong quý 3, H200 sẽ được sản xuất hàng loạt và được phân phối chủ yếu là NVIDIA DGX H200;Đối với B100, nó đã có khả năng hiển thị một phần và dự kiến sẽ được vận chuyển trong nửa đầu năm tới.
Là một sản phẩm nâng cấp lặp đi lặp lại của H100 GPU, H200 lần đầu tiên áp dụng công nghệ bộ nhớ băng thông cao HBM3E dựa trên kiến trúc phễu nâng cao, đạt được tốc độ truyền dữ liệu nhanh hơn và dung lượng bộ nhớ lớn hơn, đặc biệt là cho thấy những lợi thế đáng kể cho các ứng dụng mô hình ngôn ngữ quy mô lớn.Theo dữ liệu chính thức do NVIDIA công bố, khi xử lý các mô hình ngôn ngữ lớn phức tạp như Meta's LLAMA2, H200 có sự cải thiện tối đa 45% tốc độ phản hồi đầu ra AI thế hệ so với H100.
H200 được định vị là một sản phẩm quan trọng khác của NVIDIA trong lĩnh vực điện toán AI, không chỉ kế thừa những lợi thế của H100, mà còn đạt được những đột phá đáng kể trong hiệu suất bộ nhớ.Với ứng dụng thương mại của H200, nhu cầu về bộ nhớ băng thông cao dự kiến sẽ tiếp tục tăng, điều này sẽ thúc đẩy sự phát triển của toàn bộ chuỗi ngành công nghiệp phần cứng điện toán AI, đặc biệt là cơ hội thị trường cho các nhà cung cấp liên quan đến HBM3E.
GPU B100 sẽ áp dụng công nghệ làm mát lỏng.Phản biến nhiệt đã trở thành một yếu tố quan trọng trong việc cải thiện hiệu suất chip.TDP của NVIDIA H200 GPU là 700W, trong khi ước tính một cách bảo thủ rằng TDP của B100 gần với kilowatt.Làm mát không khí truyền thống có thể không thể đáp ứng các yêu cầu tản nhiệt trong quá trình vận hành chip và công nghệ tản nhiệt sẽ được đổi mới toàn diện theo hướng làm mát chất lỏng.
Giám đốc điều hành của NVIDIA, Huang Renxun tuyên bố rằng bắt đầu từ GPU B100, công nghệ làm mát của tất cả các sản phẩm trong tương lai sẽ chuyển từ làm mát không khí sang làm mát chất lỏng.Galaxy Securities tin rằng B100GPU của NVIDIA có ít nhất hai lần hiệu suất của H200 và sẽ vượt quá bốn lần so với H100.Sự cải thiện trong hiệu suất chip một phần là do các quy trình nâng cao, và mặt khác, sự phân tán nhiệt đã trở thành một yếu tố chính trong việc cải thiện hiệu suất của chip.TDP của GPU H200 của NVIDIA là 700W, được ước tính một cách bảo tồn là gần với kilowatt.Làm mát không khí truyền thống có thể không thể đáp ứng nhu cầu tản nhiệt trong quá trình vận hành chip, và công nghệ tản nhiệt sẽ được cách mạng hóa hoàn toàn để làm mát chất lỏng.
