[기타] 현재 램 부족 사태의 원흉 [댓글수 1]

유머/이슈

[기타] 현재 램 부족 사태의 원흉 [댓글수 1]

최고관리자 0 18 03.19 14:40

1e9500e61f5f37ae6f8508d131cef308_1773898831_9258.webp

# 베라 루빈 NVL72 상세 요약
- CPU: Vera CPU 36개 (88코어 Arm 기반 Olympus 커스텀 코어, LPDDR5X 메모리 최대 1.5TB 지원)
- GPU: Rubin GPU 72개 (HBM4 메모리 탑재, GPU당 288GB, Transformer Engine 지원)
- 슈퍼칩 단위: Vera CPU 1개 + Rubin GPU 2개 결합
- 기타 칩: NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet 스위치 등 6개 칩 극한 공동 설계
## 성능 (Blackwell 대비)
- 추론(Inference): 5배 향상 (NVFP4 기준 3.6 EFLOPS, GPU당 50 PFLOPS)
- 훈련(Training): 3.5배 향상 (NVFP4 기준 2.5 EFLOPS)
- 토큰당 비용: MoE 모델 기준 10분의 1 수준 (추론 비용 대폭 절감)
- MoE 모델 훈련: 필요한 GPU 수 4분의 1로 감소
- 메모리:  HBM4 20.7TB + LPDDR5X 54TB
- 대역폭: NVLink 6로 GPU당 3.6 TB/s, 랙 전체 260 TB/s (인터넷 전체 대역폭 초과)

 램을 몇층씩 적층으로 쌓은 HBM4를 '테라'단위로 씀.시스템 구조라 1GPU당은 288GB,

 이런데 램이 안 부족하면 그게 더 신기할 지경임



Comments

번호 제목 글쓴이 날짜 조회
91922 [유머] 엄마 아빠 운전 가르쳐 줄 때 차이 [댓글수 1] 최고관리자 03.24 3
91921 [유머] 남편의 실용적인 술주정. [댓글수 1] 최고관리자 03.24 1
91920 [유머] 여친 혼내는거 개조음 [댓글수 1] 최고관리자 03.24 1
91919 [유머] AI 제미나이로 야설 쓰다 혼난 디시인.....jpg [댓글수 1] 최고관리자 03.24 1
91918 [기타] 미국에서 2살 여아 사망사고 난 현대차 팰리세이드 전동시트 [댓글수 2] 최고관리자 03.24 1
91917 [유머] 남자친구에게 사주면 후회한다는 제품 [댓글수 1] 최고관리자 03.24 1
91916 [만화] 가난한 여자와 사귀었던 남자 [댓글수 1] 최고관리자 03.24 1
91915 [유머] 스마트 전기차 충전기 심각한 근황.jpg [댓글수 1] 최고관리자 03.24 1
91914 [유머] 승객을 못믿은 항공사.jpg [댓글수 1] 최고관리자 03.24 1
91913 [동물] 오리를 습격하는 개를 지휘하는 앵무새 [댓글수 1] 최고관리자 03.24 1
91912 [유머] 외모가 못생길수록 게임 더 많이 한다 [댓글수 1] 최고관리자 03.24 1
91911 [유머] 세탁기 냉장고 일체형 원룸 [댓글수 1] 최고관리자 03.24 1
91910 [동물] 이상한 치와와 [댓글수 1] 최고관리자 03.24 2
91909 [엽기] (약혐) 장어와 합체하는 사람들.jpg [댓글수 2] 최고관리자 03.24 1
91908 [기타] 대부분 많다는 공중화장실 갈때 여자들 모습.jpg [댓글수 1] 최고관리자 03.24 1
Category
반응형 구글광고 등
State
  • 현재 접속자 88(9) 명
  • 오늘 방문자 1,244 명
  • 어제 방문자 1,457 명
  • 최대 방문자 3,878 명
  • 전체 방문자 623,493 명
  • 전체 게시물 0 개
  • 전체 댓글수 0 개
  • 전체 회원수 1,003 명
Facebook Twitter GooglePlus KakaoStory NaverBand