Micron (MU) quan trọng hơn NVIDIA! Chuyên gia phân tích Citrini cho rằng hiệu suất suy luận của mô hình AI phụ thuộc nhiều vào bộ nhớ hơn là GPU

Tin tức từ Odaily Planet Daily: Trong cuộc tranh luận "Micron vs NVIDIA" trong cộng đồng, chuyên gia phân tích Jukan của Citrini Research đã đăng bài trên nền tảng X cho biết, "MU (Micron) tuy không phải là Nvidia, nhưng trong tương lai có thể còn quan trọng hơn Nvidia. Suy luận hiện đã được liên kết trực tiếp với lợi nhuận, nhưng việc cải thiện hiệu suất suy luận không chỉ đơn giản bằng cách tăng thêm GPU của Nvidia. GPU trong suy luận thường ở trạng thái nhàn rỗi với mức sử dụng thấp do nút thắt cổ chai về bộ nhớ. Đối với suy luận, tăng bộ nhớ mang lại giá trị cao hơn. Lợi tức đầu tư cho suy luận cuối cùng phụ thuộc vào bộ nhớ, chứ không phải GPU. Vì vậy, tại sao mọi người vẫn chỉ tập trung vào việc tiếp cận Micron thông qua khuôn khổ của NVIDIA? Cần phải nhìn nhận một cách toàn diện hơn. Suy luận chính là bộ nhớ."