[기타] 현재 램 부족 사태의 원흉 [댓글수 1]

유머/이슈

[기타] 현재 램 부족 사태의 원흉 [댓글수 1]

최고관리자 0 0 03.19 14:40

1e9500e61f5f37ae6f8508d131cef308_1773898831_9258.webp

# 베라 루빈 NVL72 상세 요약
- CPU: Vera CPU 36개 (88코어 Arm 기반 Olympus 커스텀 코어, LPDDR5X 메모리 최대 1.5TB 지원)
- GPU: Rubin GPU 72개 (HBM4 메모리 탑재, GPU당 288GB, Transformer Engine 지원)
- 슈퍼칩 단위: Vera CPU 1개 + Rubin GPU 2개 결합
- 기타 칩: NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet 스위치 등 6개 칩 극한 공동 설계
## 성능 (Blackwell 대비)
- 추론(Inference): 5배 향상 (NVFP4 기준 3.6 EFLOPS, GPU당 50 PFLOPS)
- 훈련(Training): 3.5배 향상 (NVFP4 기준 2.5 EFLOPS)
- 토큰당 비용: MoE 모델 기준 10분의 1 수준 (추론 비용 대폭 절감)
- MoE 모델 훈련: 필요한 GPU 수 4분의 1로 감소
- 메모리:  HBM4 20.7TB + LPDDR5X 54TB
- 대역폭: NVLink 6로 GPU당 3.6 TB/s, 랙 전체 260 TB/s (인터넷 전체 대역폭 초과)

 램을 몇층씩 적층으로 쌓은 HBM4를 '테라'단위로 씀.시스템 구조라 1GPU당은 288GB,

 이런데 램이 안 부족하면 그게 더 신기할 지경임



Comments

번호 제목 글쓴이 날짜 조회
89801 [블박] 헛웃음 나오는 초보운전 [댓글수 1] 최고관리자 07:59 0
89800 [기타] 트럼프 "진주만 때 왜 안 알렸나"…다카이치 순간 눈 커졌다.news [댓글수 1] 최고관리자 07:59 0
89799 [유머] 무인도에 세 가지만 가져갈 수 있다면? [댓글수 1] 최고관리자 07:52 0
89798 [엽기] 미국 일본 정상 회담 최종 요약.jpg [댓글수 1] 최고관리자 07:52 0
89797 [만화] 만화 역사상 작화의 정점 [댓글수 1] 최고관리자 07:52 0
89796 [기타] 사람이 안뽑힌다는 IT 회사 공고 [댓글수 2] 최고관리자 07:47 0
89795 [Ai] 20년 후의 친구들 [댓글수 1] 최고관리자 07:45 0
89794 [군사] 원빈의 십자인대를 끊어버린 부대 [댓글수 1] 최고관리자 07:40 0
89793 [음식] 일본의 어떤 1,430엔 정식 [댓글수 1] 최고관리자 07:38 0
89792 [자동차] 현대 쏘나타 N Line.gif [댓글수 1] 최고관리자 07:35 0
89791 [만화] 그때 그 시절 폭풍같은 추억의 한국 무협 만화책 10편 [댓글수 1] 최고관리자 07:31 0
89790 [유머] 뤼튼 인턴 자격요건 [댓글수 1] 최고관리자 07:31 0
89789 [기타] 여자 99%가 모르는 남자들 희귀 이상형 [댓글수 1] 최고관리자 07:29 0
89788 [기타] 블라] 점심 식사로 직장 파악 완료한 신입.jpg [댓글수 1] 최고관리자 07:29 0
89787 [엽기] 길바닥 싸움에 자비없이 와사바리 들어가는 여성 [댓글수 2] 최고관리자 07:27 0
Category
반응형 구글광고 등
State
  • 현재 접속자 122(16) 명
  • 오늘 방문자 1,139 명
  • 어제 방문자 2,673 명
  • 최대 방문자 3,878 명
  • 전체 방문자 613,575 명
  • 전체 게시물 0 개
  • 전체 댓글수 0 개
  • 전체 회원수 909 명
Facebook Twitter GooglePlus KakaoStory NaverBand