Elon Musk, 트위터의 생성 AI 프로젝트를 위해 수천 개의 GPU 구입

 

- 일론 머스크는 업계 전반의 AI 개발 중단을 주장했지만, 트위터 내부에서는 대규모 AI 프로젝트를 시작했다고 알려짐. 비즈니스 인사이더에 따르면, 트위터는 large language model이 관련된 프로젝트를 위해 벌써 약 10,000개의 GPU를 구매했고 딥마인드에서 AI 인력을 빼내옴

- 이 문제에 정통한 소식통은 머스크의 AI 프로젝트가 아직 초기 단계지만, 이런 상당한 규모의 추가 연산 능력 확보는 프로젝트에 대한 머스크의 헌신을 보여준다고 발언. 한편, 이 생성 AI의 정확한 목적은 불분명하지만 검색 기능의 개선 혹은 타겟형 광고 콘텐츠 생성 등이 잠재적인 활용처일 수 있음

- 트위터가 정확히 어떤 하드웨어를 조달했는지는 알려지지 않음. 하지만, 트위터는 '불안정한 재정 상황'이라고 머스크가 묘사한 지속되는 재정 문제에도 불구하고 수천만 달러를 이들 GPU 구매에 사용한 것으로 알려짐. 이들 GPU는 트위터의 남아 있는 두 데이터 센터 중 한 곳에 배치될 것으로 예상되는 데, 애틀랜타가 가장 유력한 기착지임. 흥미롭게도, 머스크는 지난 12월 새크라멘토에 있는 트위터의 메인 데이터센터를 폐쇄했었는데, 이는 명백히 회사의 연산 역량을 저하시켰음.

- GPU 구매외에도, 트위터는 엔지니어들을 추가로 채용하고 있음. 올해 초, 트위터는 알파벳의 자회사인 딥마인드에서 엔지니어 Igor Babuschkin과 Manuel Kroiss를 데려 옴. 머스크는 적어도 2월부터 오픈AI의 ChatGPT와 경쟁하기 위해 AI 업계에서 인재를 적극적으로 찾아왔음

- 오픈AI는 ChatGPT의 훈련과 운영을 위해 엔비디아의 A100 GPU를 사용해 왔음. 현재, 엔비디아는 A100의 후속기인 H100 GPU를 출시했는데, 동일 전력으로 2-3배 더 빠른 연산이 가능. 추정이지만, 트위터는 엔비디아의 호퍼 H100이나 유사한 하드웨어를 자사의 AI 프로젝트를 위해 사용할 가능성이 큼. 회사가 아직 AI 프로젝트를 어디에 사용할지 결정하지 않은 점을 감안할 때, 얼마나 많은 호퍼 GPU가 필요할지 추정하기는 어려움

- 트위터 같은 대기업이 하드웨어를 구매할 때, 유닛을 수천 개 단위로 구매하면서 특별 할인을 적용 받음. CDW같은 유통업체를 통해 개별적으로 구매할 경우, 엔비디아의 H100 보드는 1기 당 $10,000 이상임. 이를 감안하면 트위터가 AI 프로젝트를 위해 얼마나 많은 돈을 쓰는지 감을 잡을 수 있음