텍스트-비디오 혁명에는 대규모 GPU 라이브러리가 필요합니다

AI 생성 비디오의 등장으로 GPU 수요가 급증했으며, TikTok 및 YouTube와 같은 플랫폼에서 제작자 커뮤니티를 지원하려면 엄청난 720,000개의 고급 Nvidia H100 GPU가 필요하다고 추정됩니다. 이러한 모델의 훈련 프로세스에는 GPT-4 및 정지 이미지 생성을 능가하는 엄청난 컴퓨팅 성능이 필요합니다. 채택이 증가함에 따라 추론 요구가 교육을 더욱 앞지르게 되므로 텍스트-비디오 생성을 주류로 만들기 위해서는 막대한 하드웨어 투자가 필요합니다.

Text-to-Video Revolution Hinges on a Vast GPU Arsenal: Millions Required

방대한 GPU 무기고에 달려 있는 텍스트-비디오 혁명: 수백만 달러 필요

The groundbreaking capabilities of text-to-video generators, exemplified by OpenAI's Sora, have sparked a surge of excitement and investment in Artificial Intelligence (AI). However, the realization of mainstream AI-generated video hinges on the availability of an unprecedented number of specialized processing units known as Graphics Processing Units (GPUs).

OpenAI의 Sora가 예시하는 텍스트-비디오 생성기의 획기적인 기능은 인공 지능(AI)에 대한 관심과 투자를 촉발시켰습니다. 그러나 주류 AI 생성 비디오의 실현은 그래픽 처리 장치(GPU)로 알려진 전례 없는 수의 특수 처리 장치의 가용성에 달려 있습니다.

Estimates by Factorial Funds reveal that a staggering 720,000 high-end Nvidia H100 GPUs would be necessary to cater to the vast creator communities of platforms like TikTok and YouTube. The gargantuan scale of this computational demand is evident in Sora's training process, which requires up to 10,500 powerful GPUs for a month and can generate only about 5 minutes of video per hour per GPU during inference.

Factorial Funds의 추정에 따르면 TikTok 및 YouTube와 같은 대규모 플랫폼 제작자 커뮤니티에 서비스를 제공하려면 엄청난 720,000개의 고급 Nvidia H100 GPU가 필요할 것으로 나타났습니다. 이러한 컴퓨팅 수요의 엄청난 규모는 Sora의 교육 프로세스에서 명백히 드러납니다. 이 프로세스에는 한 달 동안 최대 10,500개의 강력한 GPU가 필요하며 추론 중에 GPU당 시간당 약 5분의 비디오만 생성할 수 있습니다.

As illustrated by the data, training text-to-video models demands significantly more computing power than training massive language models like GPT4 or even generating static images. Moreover, as AI models like Sora gain wider adoption, the computation required for inference - the process of using the trained model to generate new videos - will eclipse the computation required for initial training.

데이터에서 알 수 있듯이 텍스트-비디오 모델을 교육하려면 GPT4와 같은 대규모 언어 모델을 교육하거나 정적 이미지를 생성하는 것보다 훨씬 더 많은 컴퓨팅 성능이 필요합니다. 또한 Sora와 같은 AI 모델이 널리 채택됨에 따라 추론에 필요한 계산(훈련된 모델을 사용하여 새 비디오를 생성하는 프로세스)에 필요한 계산은 초기 훈련에 필요한 계산을 능가하게 됩니다.

To put this into perspective, Nvidia shipped approximately 550,000 H100 GPUs in 2023. Statistics from Statista indicate that the twelve largest customers utilizing Nvidia's H100 GPUs collectively possess 650,000 of these cards, with tech giants Meta and Microsoft accounting for 300,000 of them.

이를 고려하여 Nvidia는 2023년에 약 550,000개의 H100 GPU를 출시했습니다. Statista의 통계에 따르면 Nvidia의 H100 GPU를 사용하는 12개의 최대 고객이 총 650,000개의 이러한 카드를 보유하고 있으며 거대 기술 기업인 Meta와 Microsoft가 그 중 300,000개를 차지합니다.

Assuming a cost of $30,000 per card, the astronomical sum of $21.6 billion would be required to procure the GPUs necessary to make Sora's vision of AI-generated text-to-video mainstream. This figure nearly matches the entire market capitalization of AI tokens at present.

카드당 비용이 30,000달러라고 가정하면 Sora의 AI 생성 텍스트-비디오 비전을 주류로 만드는 데 필요한 GPU를 조달하려면 천문학적인 금액인 216억 달러가 필요할 것입니다. 이 수치는 현재 AI 토큰의 전체 시가총액과 거의 일치합니다.

The procurement of such a vast quantity of GPUs presents a formidable challenge due to supply constraints and escalating demand for AI-driven applications. Notably, Nvidia is not the sole player in the GPU market. Rival chipmaker AMD offers competitive products, with investors generously rewarding the company for its innovations, propelling its stock from the $2 range in 2012 to over $175 today.

이렇게 방대한 양의 GPU를 조달하는 것은 공급 제약과 AI 기반 애플리케이션에 대한 수요 증가로 인해 엄청난 어려움을 안겨줍니다. 특히 Nvidia는 GPU 시장의 유일한 플레이어가 아닙니다. 라이벌 칩 제조사인 AMD는 경쟁력 있는 제품을 제공하고 있으며, 투자자들은 회사의 혁신에 대해 관대하게 보상하며 주가를 2012년 2달러 수준에서 현재 175달러 이상으로 끌어올렸습니다.

Alternative options exist for outsourcing computing power to GPU farms, such as Render (RNDR) and Akash Network (AKT). However, the majority of GPUs on these networks consist of retail-grade gaming GPUs, significantly less potent than Nvidia's server-grade H100 or AMD's comparable offerings.

Render(RNDR) 및 Akash Network(AKT)와 같이 GPU 팜에 컴퓨팅 성능을 아웃소싱하기 위한 대체 옵션이 있습니다. 그러나 이러한 네트워크의 GPU 대부분은 소매급 게임 GPU로 구성되어 있으며 Nvidia의 서버급 H100 또는 AMD의 동급 제품보다 성능이 훨씬 낮습니다.

Despite these challenges, the tantalizing promise of text-to-video generation, as envisioned by Sora and other protocols, will necessitate a herculean hardware investment. While the potential for revolutionizing the creative workflow in industries like Hollywood is undeniable, it is crucial to temper expectations regarding the imminent mainstream adoption of AI-generated video.

이러한 과제에도 불구하고 Sora 및 기타 프로토콜이 구상한 텍스트-비디오 생성의 감질나는 약속에는 막대한 하드웨어 투자가 필요할 것입니다. 할리우드와 같은 산업에서 창의적인 워크플로우를 혁신할 수 있는 잠재력은 부인할 수 없지만 AI 생성 비디오의 주류 채택이 임박했다는 것에 대한 기대를 완화하는 것이 중요합니다.

At present, the industry faces a pressing need for a substantial increase in chip production to meet the burgeoning demand for AI-driven applications. Until this supply gap is addressed, the widespread availability of AI-generated video will remain an elusive goal.

현재 업계는 AI 기반 애플리케이션에 대한 급증하는 수요를 충족하기 위해 칩 생산량을 대폭 늘려야 하는 긴급한 요구에 직면해 있습니다. 이러한 공급 격차가 해결될 때까지 AI 생성 비디오의 광범위한 가용성은 달성하기 어려운 목표로 남아 있을 것입니다.