최신 벤치마크 결과, NVIDIA B200을 탑재한 슈퍼마이크로 시스템이 이전 세대 시스템 대비 초당 토큰 생성량 3배 기록

새너제이, 캘리포니아, 2025년 4월 3일 /PRNewswire/ -- AI/ML, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 NVIDIA HGX™ B200 8-GPU를 사용해 여러 MLPerf Inference v5.0 벤치마크에서 최초로 업계 최고의 성능을 달성했다고 발표했다. 4U 수랭식 및 10U 공랭식 시스템은 일부 벤치마크에서 최고의 성능을 달성했다. 슈퍼마이크로는 H200 8-GPU 시스템에 비해 Llama2-70B 및 Llama3.1-405B 벤치마크에서 초당 토큰(Token/s) 생성량이 3배 이상 증가한 것으로 나타났다.

Nvidia HGX B200 Systems