Theo dữ liệu từ công ty phân tích bán dẫn SemiAnalysis, chi phí bộ nhớ đang chiếm một tỷ trọng ngày càng lớn trong tổng ngân sách đầu tư hạ tầng của các hyperscaler - tức các tập đoàn vận hành trung tâm dữ liệu siêu lớn như Google, Microsoft, Meta và Amazon. Năm 2023-2024, con số này ở mức khoảng 8%. Dự báo đến năm 2026, tỷ lệ đó sẽ chạm 30% và tiếp tục leo thang sang năm 2027. SemiAnalysis mô tả đây là mức tăng "gây sốc", gần 4 lần trong vòng 4 năm.
Nguyên nhân chính đến từ nhu cầu DRAM - loại bộ nhớ truy cập ngẫu nhiên dùng trong mọi hệ thống tính toán. Các hyperscaler đang chuyển sang mô hình hạ tầng rack-scale, trong đó nhiều module bộ nhớ được gom lại thành một pool lớn kết nối qua chuẩn CXL. Song song đó, DDR5 và LPDDR5 - hai thế hệ DRAM mới nhất - được triển khai rộng rãi cho máy chủ AI và các chip tự phát triển của những công ty này. Kết quả là nguồn cung DRAM bị hút phần lớn vào hạ tầng AI, gây thiếu hàng nghiêm trọng cho các thị trường khác.
NVIDIA và tấm thẻ "VVP" không phải ai cũng có
Trong khi phần lớn ngành công nghiệp điêu đứng vì thiếu DRAM, NVIDIA lại gần như đứng ngoài cơn bão đó. SemiAnalysis tiết lộ rằng các nhà sản xuất bộ nhớ cấp cho NVIDIA trạng thái khách hàng VVP, viết tắt của "Very Very Preferred" - tức mức ưu tiên cao nhất trong chuỗi cung ứng. Vị thế này đảm bảo NVIDIA luôn được ưu tiên về năng lực sản xuất lẫn giá cả, kể cả khi thị trường đang khan hiếm nhất.
CEO Jensen Huang từng lý giải cơ chế này: NVIDIA nhìn thấy làn sóng nhu cầu trước phần lớn các bên, và đã ký các hợp đồng cung ứng dài hạn từ rất sớm. Khi nhu cầu bùng nổ và DRAM trở nên khan hiếm, NVIDIA đã được bảo đảm nguồn hàng trong khi các đối thủ buộc phải mua theo giá spot - tức giá thị trường tức thời, thường đắt hơn nhiều so với hợp đồng dài hạn.
Lợi thế của NVIDIA trong chuỗi cung ứng không dừng lại ở DRAM. Công ty cũng duy trì quan hệ đặc biệt với các đối tác về chip bán dẫn, đóng gói tiên tiến và nhiều yếu tố hạ tầng khác trong hệ sinh thái AI. Đây là lý do SemiAnalysis kết luận rằng cạnh tranh với NVIDIA đòi hỏi nhiều hơn những gì hầu hết mọi người hình dung - không chỉ là thiết kế chip tốt hơn, mà là toàn bộ mạng lưới quan hệ chuỗi cung ứng mà NVIDIA đã mất nhiều năm xây dựng.
