도조(dojo) 컴퓨터가 의미하는 것

도조(dojo) 컴퓨터 의미

도조(dojo) 컴퓨터 의미

- 일론 머스크는 앞으로 1년간 도조컴퓨터에 1조 3000억을 투자하겠다는 계획과 동시에 23년 7월에 도조컴퓨터의 생산을 발표했다. 도조 슈퍼컴퓨터는 초당 100경 번 연산이 가능한 엑사플롭(exaFLOP)급 슈퍼 컴퓨터다. 도조는 AI 머신 러닝(ML), 특히 차량에서 나오는 비디오 데이터를 사용한 비디오 훈련을 위해 구축된 테슬라의 맞춤형 슈퍼컴퓨터 플랫폼이며,

 

기존에는 엔비디아 GPU가 탑재된 슈퍼컴퓨터를 보유해 사용하고 있었는데, 이번 도조는 테슬라가 설계한 칩과 인프라를 사용하는 것이다. 맞춤형 슈퍼 컴퓨터는 자율주행을 지원하는 컴퓨터 비전 기술에 중요한 비디오 데이터를 사용해 신경망을 훈련하는 테슬라의 능력을 향상할 것으로 예상된다. 

 

자율 주행 자동차 기술

도조만의 특징

- 도조는 기존의 슈퍼컴퓨터와는 다르게, 특정 머신 러닝 알고리즘을 대규모로 실행할 목적으로 컴퓨팅, 네트워킹 및 I/O(입/출력) 실리콘에서 ISA(명령 세트 아키텍처), 전력 공급, 포장 및 냉각까지 포괄하는 맞춤형 아키텍처로 구축되어 있다. 훈련 타일의 핵심은, TSMC의 7nm공정을 기반으로 하는 500억 개의 트랜지스터 다이인 테슬라의 D1칩이다.

 

각 D1칩이 400w TDP(Thermal Design Power)에서 22TFLOPS의 FP32 성능을 낼 수 있으며, 이는 엔비디아 A100을 자율주행 학습 부분에서 두 배나 뛰어넘은 것이다. 도조의 구조를 살펴보면, 가장 기본이 되는 D1칩 25개로 트레이닝 타일을 만들고, 트레이닝 타일 6개와 시스템 트레이 2개 + 컴파일러와 전원 부분을 합쳐 캐비닛을 만드는데,

 

이 캐비넷 10개를 합친 것을 완성된 엑사팟이라고 한다. 이것이 슈퍼컴퓨터의 최종 형태다. 무려 1.1 엑사플롭스라는 연산력을 보여준다. 2022년 세계 1위 컴퓨터인 프런티어 컴퓨터가 1.1 엑사플롭스다. 도조 엑사팟 한 대가 결국 슈퍼컴퓨터 1위의 성능을 하는 것이다. 

테슬라의 생산 계획

 

- 테슬라의 계획을 보면 23년 7월 도조 생산, 24년 안에 Top5 입성, 24년 10월에 100엑사플롭스100 엑사플롭스 컴퓨팅 파워를 달성할 것이라고 발표했다. 100 엑사플롭스는 엔비디아 A100 GPU 30만 개를 합친 수준이며, 테슬라 엑사팟 100개가 합쳐진 것이다. 대략 1조 원 정도의 비용이 들어갈 것으로 보인다. 

 

100 엑사플롭스는 현재 챗 GPT 3.5가 파라미터 175억 개 훈련시킨 건데, 이를 1시간 안에 끝낼 수 있는 수치다. 일론 머스크는 도조를 통해서 1차적으로 자율주행 서비스, 다음으로는 거대 언어모델 혹은 신약 개발에 사용하겠다고 했다. 즉, 몸통을 가져오면 뇌를 채워주겠다는 것이다. 

 

이렇게 되면 엔비디아와 적극적으로 경쟁하는 구도가 될 것이다. 엔비디아의 아쉬운 점은, 데이터 확보량에서 테슬라가 압도적이라는 것이다. 자율주행하면 빼놓을 수 없는 것이 바로 추론 과정인데, 테슬라의 경우 실시간으로 슈퍼컴퓨터에 정보를 주고받을 수 있다. 여기에 사용되는 것이 바로 OTA다. 

 

 

- 차량 내부 컴퓨터인 엣지 컴퓨터가 하는 행위가 추론의 영역이다. 테슬라의 경우 엔비디아와 협업해서 2.5 버전을 만들었지만 3.0 버전에서는 자체설계한 칩을 사용하고 있다. 새롭게 나올 모델 3에서는 HW 4.0 버전을 탑재할 것으로 예상된다. 일론머스크는 HW 5.0 버전이 된다면 인간의 10배 이상 안전하다고 호언장담하고 있으며,

 

테슬라는 머리에서 발 끝까지 수직계열화를 이야기하고 있다. 결국 Dojo 컴퓨터의 개발 및 발전은 자율주행 Next level을 위한 지름길이라고 해석할 수 있다. 

 

 

---

관련 글: 스마트 카(smart car) 기술 3가지 정리

관련 글: 해외 주식 거래할 때 꼭 알아야 할 환율

관련 글: 투자할 때 꼭 지켜야 할 것 11가지 |마인드