최근 1년 정도 사이에, AI시장에 나타난 게임 체인져는요...

유머/이슈

최근 1년 정도 사이에, AI시장에 나타난 게임 체인져는요...

최고관리자 0 2 13:23

지금 AI시장에서 게임 체인져는, 전성비가 이전에 비해 5배가 뛰어난 머신이에요.

베라루빈도 거기에 들어가지요. 현재 공정을 보면, 2026~2027은 베라루빈을 제조하는 공정으로 갈 것이구요.

(HBM도 HBM4나 HBM4E가 들어가지요....28년에도 상당 기간은 HBM4e가 최신일거에요...)

2028년에 DDR6가 나오면 최상위 AI컴퓨터는, 그걸 이용한 HBM과 칩으로 가긴할건데요..

2028년이나 2029년에도 왠만한 AI컴퓨터는 2026에 최신인 베라루인을 사용할거에요..

지금 쓰는 AI와 거의 같은 AI는 2025년 초에도 있었지요. 유료버전으로 한정하면 3년쯤 전 AI도 지금 AI와 기본적인 성능은 거의 비슷했어요.

쭈욱 계속, AI기업들은 개발비와 전기요금(=컴퓨팅 비용과 거의 비슷)을 내고나면, 수익율이 꽤 낮은 축에 속해요.

그런데 2025년 HBM3E가 나오고, HBM4가 나오면서 게임 자체가 좀 변했어요. 훨씬 적은 전기로 같은 일을 할 수 있게 된거에요.

블랙웰 울트라가 한세대 전 모델인데요, HBM3E 200기가 정도가 들어가지요....

베라루빈이 최신 모델인데요. 이건 블랙웰 울트라와는 또 다르게, arm기반의 CPU와 루빈 GPU 72개, HBM4 20테라가 들어가지요.

블랙웰만해도 사용 전기대비 성능이 엄청 좋은앤데요...베라루빈은 같은 연산을 할때, 평균적으로 블랙웰의 20% 전기로 구동이 가능하지요.

72개의 GPU와 20TB의 HBM이 들어간 거대한 기계라 기본적으로 먹는 전기 자체가 어마어마하긴 하지만, 이거 1대만 있어도...유저 50만은 커버하죠.

(대답을 읽는 동안에는 사용하지 않고, 하루종일 AI 질문만 하는건 아니니....이 기계 1대면, 학습된 내용을 돌리기만 하는거면....200만명

이상이 커버가 되지요.)

문제는 베라루빈 기계 1대의 기본 가격이 100억 정도 되어요....전성비가 5배라, 운영기간 동안 확실하게 전기를 줄여주긴 하지만,

지금 당장 모든 AI기계를 이걸로 바꿀 필요는 없는거죠. 그리고 AI모델 자체가 예전에 비해 거대해지긴 했지만,

23년도 혹은 24년도에 구입한 AI컴퓨터도 아직은 무리 없이 돌아가지요. (언젠가는 바꿔야 되겠지만요...)

대형 AI서버가 100대 있는 기업이 있어요....50대는 거의 항상 풀가동이고, 나머지는 스탠바이 모드로 있다가, 사용자가 증가하면 돌아가기 시작해요.

그렇다면 일단은 50대만 최신형 베라루빈으로 교체하면 되어요. 그런데 당장 더 큰 서비스를 돌리는건 아니라, 더 큰 서비스는 3년뒤 정도에 나오는 차세대 대규모 모델이 완성된 다음에 돌리면 되어요. 당장은 전기요금을 줄이는게 목표에요. 그런데 베라루빈은 전기 성능이 5배라, 50대를 대체하는건 10대면 되어요.

아직 AI가 초창기인건 맞는데요...가장 많이 사용되는 모델인 대규모 언어 모델은 1단계 정도는 완성되었어요. 비유하자면요. win95 시대 정도는 지나갔고, win nt 4.0정도 돌아가는 시기에요. 그런데 꽤 많은 사무실에서는 win95에 엑셀7.0으로 충분히 업무가 가능해요.

AI는 전기 잡아먹는 괴물 맞구요. 전기 20%로도 같은 작업을 하는 애가 나왔다면, AI기업에선 그 AI컴퓨터를 얼른 사야되는것도 맞지요.

그런데 바로 위 비유와 같이, 모든 AI컴퓨터를 지금 당장 베라루빈으로 바꿀 필요는 없지요.

AI컴퓨터의 수요가 점점 증가하는 것도 맞지만, 지금 있는 AI컴퓨터가 신형 AI컴퓨터로 바뀌는것은, 급하게 바꿔야 되는건 급하게 바꾸겠지만, 좀 시간을 두고 바꿔도 되는 애들은, 시간을 두고 바꿔도 되는것이거든요...

작년 4분기 + 올해 1분기 2분기해서....어마어마한 수량이 HBM으로 나갔어요.....전기 가장 많이 먹는 애들을 아랫 단계로 내리는 일이 어느 정도는 마무리 되었다고 봅니다. 최신 베라루빈은 전성비가 5배라, AI컴퓨터 50대 있던거 10대만 사도 대체는 되는데, 전기 가장 많이 먹고 가장 많이 사용되는 애들이, 비교적 최신형이라, 실제로 폐기까지 된 애들은 아마 진짜 맨 밑에 있던 AI컴퓨터 일거에요. 그래서 사용자가 증가할때 2단계로 돌아가는 애들도, 비교적 최신인 애들일거에요...

주식시장 이야기는 제가 잘 몰라서 쓰지않겠습니다. 다만 돌아가는 배경자체는 제 글과 같습니다.

Comments

Category
반응형 구글광고 등
State
  • 현재 접속자 255(1) 명
  • 오늘 방문자 2,822 명
  • 어제 방문자 2,748 명
  • 최대 방문자 13,504 명
  • 전체 방문자 846,080 명
  • 전체 게시물 0 개
  • 전체 댓글수 0 개
  • 전체 회원수 1,519 명
Facebook Twitter GooglePlus KakaoStory NaverBand