엔비디아 젠슨 황 컴퓨텍스 쇼 사전 발표 영상

오늘은 2024년 6월 2일에 젠슨황의 발표 일부인 Bloomberg Channel 의 Youtube동영상 Nvidia CEO Huang Touts 'CEO Math' Ahead of Computex Show in Taiwan을 분석해 보겠습니다. 

 

[영문 대본]

There are many algorithms that are very conducive to acceleration through parallel processing.

Computer graphics, image processing, physics simulations, combinatorial optimizations, graph processing, database processing, and of course the very famous linear algebra of deep learning are some of the examples.

We invented an architecture to accelerate these algorithms by adding the GPU to the CPU. The specialized processor can take something that takes a great deal of time and accelerate it down to something that is incredibly fast. And because the two processors can work side by side, they're both autonomous and they're both separate independent. That is, we could accelerate what used to take 100 units of time down to one unit of time.

The benefit is quite extraordinary. A 100 times speed up, but you only increase the power by about a factor of three and you increase the cost by only about 50%. We do this all the time in the PC industry. We add a GPU, a $500 GPU, G-force CPU to a thousand PC, and the performance increases tremendously. We do this in the data center, $1,000,000,000 data center. We add $500 million worth of GPUs and all of a sudden it becomes an AI factory. This is happening all over the world today.

The savings are quite extraordinary. You're getting 60 times performance per dollar, 100 times speed up. You only increase your power by three x 100 times speed up. You only increase your cost by 1.5 x. The savings are incredible. The savings are measured in dollars.

It is very clear that many, many companies spend hundreds of millions of dollars processing data in the cloud. If it was accelerated, it is not unexpected that you could save hundreds of millions of dollars.

Now, why is that? Well, the reason for that is very clear. We've been experiencing inflation for so long in general purpose computing. Now that we finally came to the we're finally determined to accelerate. There's an enormous amount of captured loss that we can now regain a great deal of captured, retained waste that we can now relieve out of the system. And that will translate into savings, savings and money, savings and energy. And that's the reason why you've heard me say. The more you buy, the more you save.

[한국어 번역]

병렬 처리를 통해 가속화하기에 매우 적합한 많은 알고리즘이 있습니다.

컴퓨터 그래픽, 이미지 처리, 물리 시뮬레이션, 조합 최적화, 그래프 처리, 데이터베이스 처리, 그리고 물론 딥 러닝의 매우 유명한 선형 대수학이 그 예입니다.

우리는 CPU에 GPU를 추가하여 이러한 알고리즘을 가속화하는 아키텍처를 발명했습니다. 특수 프로세서는 많은 시간이 소요되는 작업을 매우 빠르게 처리할 수 있습니다. 두 프로세서는 나란히 작동할 수 있기 때문에 자율적이며 독립적입니다. 즉, 100단위의 시간이 걸리던 작업을 1단위의 시간으로 단축할 수 있었습니다.

이점은 상당합니다. 속도는 100배 빨라지지만 전력은 약 3배, 비용은 50%만 증가합니다. PC 업계에서는 항상 이렇게 합니다. 500달러짜리 GPU, G-force CPU를 1,000달러짜리 PC에 추가하면 성능이 엄청나게 향상됩니다. 데이터 센터, 10억 달러 규모의 데이터 센터에서도 마찬가지입니다. 5억 달러 상당의 GPU를 추가하면 갑자기 AI 공장이 됩니다. 이러한 현상은 오늘날 전 세계에서 일어나고 있습니다.

절감 효과는 상당합니다. 달러당 60배의 성능, 100배의 속도 향상을 얻을 수 있습니다. 전력은 3배만 늘리면 100배의 속도 향상을 얻을 수 있습니다. 비용은 1.5배만 늘리면 됩니다. 절감 효과는 놀랍습니다. 절감액은 달러로 측정됩니다.

많은 기업들이 클라우드에서 데이터를 처리하는 데 수억 달러를 지출한다는 것은 매우 분명합니다. 만약 이 작업을 가속화한다면 수억 달러를 절약할 수 있다는 것은 예상치 못한 일이 아닙니다.

그 이유는 무엇일까요? 그 이유는 매우 분명합니다. 우리는 오랫동안 범용 컴퓨팅 분야에서 인플레이션을 겪어왔습니다. 이제 마침내 가속화를 결정하게 되었습니다. 시스템에서 엄청난 양의 손실을 회복하고, 엄청난 양의 낭비를 제거할 수 있게 되었습니다. 이는 비용 절감, 에너지 절감으로 이어질 것입니다. 그래서 제가 '더 많이 살수록 더 많이 절약할 수 있다'고 말하는 것입니다.

[한국어 요약]

병렬 처리 기술을 활용하여 컴퓨터 그래픽, 딥 러닝 등 다양한 알고리즘을 가속화하는 방법을 소개합니다. CPU에 GPU를 추가하여 속도를 100배 향상시키면서도 전력 소비와 비용은 크게 증가하지 않습니다. 이러한 가속화 기술은 PC, 데이터 센터 등 다양한 분야에 적용되어 엄청난 비용 절감 효과를 가져올 수 있습니다. 범용 컴퓨팅 분야에서 오랫동안 겪어온 인플레이션을 극복하고 낭비를 제거하여 비용과 에너지를 절약할 수 있습니다.

 

이미지를 누르면, 원본 영상 출처로 이동합니다.