[첨단 헬로티]
구글이 최근 두번째 텐서 프로세싱 유닛(TPU)을 공개했다. 2016년 5월 첫 제품을 내놓은지 1년만이다.
첫 TPU는 신경망을 빠르고 효과적으로 돌리는데 초점이 맞춰졌다. 신경망을 훈련시키는 것은 핵심이 아니었다.
반면 클라우드 TPU로 불리는 두 번째 버전의 경우 머신러닝 모델을 돌리는 것은 물론 훈련도 시킬 수 있다.
클라우드 TPU는 부동 소수점 성능이 180테라플롭스(TFLOPS)에 달한다. 대규모 인프라에서 잘 돌아가도록 제작됐다. 단일 ASIC 기반인지 어니면 하나의 PCB안에 동일한 ASIC들이 4개 들어가 있는 것인지는 확실치 않다.
구글 TPU는 연결해 쓸 경우, 11.5페타플롭스까지 성능을 향상시킬 수 있다.
구글은 이외에 클라우드 TPU와 관련해 구체적인 내용은 공개하지 않는 모습이다.
TPU는 구글이 인공지능 관련 워크로드에 사용하기 위해 자체적으로 개발한 프로세서다. 지난 4월 구글이 공개한 자료에 따르면 당시 TPU는 현재 나와 있는 인텔 CPU나 엔비디아 GPU와 비교해 속도가 최대 30배나 빠르다고 한다.
TPU는 2015년 부터 구글 데이터센터들에서 사용돼왔다. 데이터센터 서버에 구축한 광범위한 애플리케이션들에서 추론 작업에 활용되고 있다.
