엔비디아는 괜찮지만, 소규모 클라우드 기업들은 어려움이 있을 수 있습니다🤔

AI 인프라 구축에 여러 물리적인 한계가 동시에 부딪히고 있습니다.

에너지 생산, 전력망 용량, 데이터 센터 공간, 구리, 헬륨, 브롬, 네온, 황산, LNG 및 유가 상승, 알루미늄, 갈륨과 희귀 금속 등 여러 자원이 계속해서 필요합니다.

게다가 소비자 체력은 약해지고 물가상승은 여전해 코로나 이후 소비가 완전히 회복되지 않은 것 같아요.

이 모든 요소들이 AI 구축에 필수적이기에 세계 경제가 쉴 새 없이 격렬한 속도로 따라잡으려 하지만 최근 지정학적 변화는 상황을 더 어렵게 만들고 있습니다.

AI 수요가 줄어들거나 기술 자체가 문제가 있다는 게 아니라, 오히려 AI 산업화, 산업용·군사용 드론, 로보택시, 로봇 공학 등 다음 단계가 분명히 기대됩니다.

다만, 생산과 제조의 물리적 한계가 비용 증가와 선택적 투자를 불가피하게 만들 수 있다는 점이 문제입니다.

엔비디아는 연구개발과 인수합병을 전략적으로 추진하며 이런 문제들을 선제적으로 대비해왔습니다. 예를 들어 베라 루빈 칩은 기존 블랙웰 대비 10배 에너지 효율이 뛰어나고, 광자 기술에 집중 투자도 하고 있죠.

이런 노력 덕분에 엔비디아가 내놓을 다음 세대 플랫폼은 빠른 속도로 구형 시스템의 경제적 가치를 떨어뜨릴 수 있습니다. 기술이 오래되었기 때문이 아니라, 더 진보한 대체 기술이 비용 효율을 압도하기 때문입니다.

실제로 이미 일부 데이터 센터에서는 공간 확보를 위해 구형 호퍼 GPU를 팔고 있다는 이야기도 들립니다. 이 현상이 점차 확산되는 것 같고요.

반면 막대한 빚을 내 하드웨어를 구매한 소규모 데이터 센터들은 빠르게 가치를 잃는 장비 문제에 부딪히고 있습니다. 해결책이 마땅치 않아 보입니다.

마이클 버리는 작년에 대형 클라우드 업체들이 장비 감가상각 기간을 늘려 수익을 부풀린다고 했는데, 그때는 신형 하드웨어의 수명이 길다는 이유로 반대했었죠. 이제야 그의 말이 이해됩니다.

비용 부담은 커지는데 기술은 급격히 발전해 점점 더 비용 효율적인 장비가 나오니, 장비들은 기술적 수명이 다해서가 아니라 시장과 기술 흐름 때문에 빨리 쓸모없어지는 겁니다.