Marvell, AI 인프라 겨냥한 메모리 및 스토리지 솔루션 발표 예정

Odaily星球日报讯 데이터 인프라 반도체 제조업체 Marvell Technology가 8월 4일부터 6일까지 AI 인프라를 겨냥한 메모리 및 스토리지 솔루션을 출시한다고 발표했다. Marvell은 에이전트형 AI 추론 규모가 확대됨에 따라 메모리 용량, 대역폭 및 데이터 연결 능력이 컴퓨팅 성능만큼 중요해지고 있다고 밝혔다. 더 큰 규모의 모델, 더 긴 컨텍스트 창, 그리고 증가하는 KV Cache 수요는 AI 시스템의 메모리 리소스에 대한 전례 없는 수요를 촉진하고 있다.

이 회사는 데이터를 컴퓨팅 유닛에 더 가깝게 배치하고 대기 시간을 줄임으로써, 자사의 AI 메모리 및 스토리지 기술이 고객의 하드웨어 활용률을 높이고 토큰 처리 효율을 개선하며 성능, 전력 소비 및 비용 간의 더 나은 균형을 달성할 수 있도록 돕는다고 설명했다. AI 모델 규모가 지속적으로 확대됨에 따라 전통적인 '컴퓨팅 칩 우선' 아키텍처는 점차 '컴퓨팅, 메모리 및 상호 연결의 공동 최적화'로 전환되고 있으며, CXL, 고속 스토리지 및 광 인터커넥트를 포함한 새로운 인프라는 차세대 AI 데이터 센터 확장의 중요한 기술 방향이 될 것으로 기대된다.