구글, TPU용 네이티브 PyTorch 백엔드 'TorchTPU' 오픈소스로 공개

“구글이 TPU에서 PyTorch 모델을 실행할 수 있는 네이티브 백엔드 'TorchTPU'를 오픈소스로 공개했다. TPU용 ATen 커스텀 커널, XLA 연산 컴파일 캐시, 데이터·텐서 병렬 분산 학습, torch.compile() 그래프 모드 통합을 지원하며 Llama·Qwen·ResNet·DLRM·minGPT·UNet 예제를 포함한다. PyPI 0.2.0 버전으로 배포되며 Python 3.11 이상, TPU VM(v6e GCE 인스턴스) 환경에서 사용 가능하다.”

AI 요약

구글이 TPU에서 PyTorch 모델을 실행할 수 있는 네이티브 백엔드 'TorchTPU'를 오픈소스로 공개했다. TPU용 PyTorch ATen 커스텀 커널, XLA 연산 최적화를 위한 컴파일 캐시, 데이터 병렬·텐서 병렬 분산 학습 지원, torch.compile() 통합 등을 제공한다. Llama, Qwen, ResNet, DLRM, minGPT, UNet 등 다양한 모델 예제가 포함됐으며, PyPI에 0.2.0 버전이 배포됐다. Python 3.11 이상을 지원하고, TPU VM(v6e GCE 인스턴스)에서 Marimo 노트북으로 실습할 수 있다.

핵심 포인트

  • TPU용 PyTorch ATen 커널 및 XLA 컴파일 캐시 구현
  • 데이터 병렬·텐서 병렬 분산 학습 지원
  • Llama, Qwen, ResNet, DLRM, minGPT, UNet 예제 포함
  • PyPI 0.2.0 배포, Python 3.11+ 및 v6e GCE 인스턴스 지원

향후 전망

  • PyTorch 생태계와 TPU 하드웨어 간 연동 확대로 프레임워크 선택의 자유도 향상
  • 구글 TPU의 AI 학습·추론 시장 경쟁력 강화에 기여할 전망
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...