Marvell拟推面向AI基础设施的内存与存储解决方案

Tin Odaily星球日报讯 Nhà sản xuất chất bán dẫn hạ tầng dữ liệu Marvell Technology thông báo sẽ ra mắt giải pháp bộ nhớ và lưu trữ hướng tới hạ tầng AI từ ngày 4 đến ngày 6 tháng 8. Marvell cho biết, khi quy mô suy luận AI tác tử mở rộng, dung lượng bộ nhớ, băng thông và khả năng kết nối dữ liệu đang trở nên quan trọng ngang hàng với sức mạnh tính toán. Các mô hình quy mô lớn hơn, cửa sổ ngữ cảnh dài hơn cùng nhu cầu KV Cache ngày càng tăng đang thúc đẩy nhu cầu chưa từng có đối với tài nguyên bộ nhớ trong các hệ thống AI.

Công ty cho biết, bằng cách đưa dữ liệu đến gần hơn với đơn vị tính toán và giảm độ trễ, công nghệ bộ nhớ và lưu trữ AI của họ có thể giúp khách hàng nâng cao tỷ lệ sử dụng phần cứng, cải thiện hiệu quả xử lý Token, đồng thời đạt được sự cân bằng tốt hơn giữa hiệu suất, điện năng tiêu thụ và chi phí. Khi quy mô mô hình AI tiếp tục mở rộng, kiến trúc "ưu tiên chip tính toán" truyền thống đang dần chuyển sang "tối ưu hóa phối hợp giữa tính toán, bộ nhớ và kết nối liên kết", trong đó các hạ tầng mới như CXL, lưu trữ tốc độ cao và kết nối quang được kỳ vọng sẽ trở thành hướng công nghệ quan trọng cho giai đoạn mở rộng quy mô trung tâm dữ liệu AI tiếp theo.