구글 클라우드, 새 TPU '트릴리움'으로 AI 개발 지원
미국 캘리포니아주 서니베일 구글 본사에 있는 구글 클라우드 표지. AP 연합뉴스
구글 클라우드가 2024년 말 공개한 6세대 텐서처리장치(TPU) '트릴리움'을 앞세워 여러 첨단 인공지능(AI) 모델 개발을 지원하고 있다고 밝혔다. 그래픽처리장치(GPU)와 비교해 기계 학습에 안성맞춤이고 구글 자체에서 진행 중인 최첨단 혁신 연구도 고객들에게 제공하고 있다는 점을 내세웠다. 카카오의 새 자체 AI 모델 '카나나'도 트릴리움을 활용하고 있다.
모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 16일 한국 언론과 진행한 온라인 인터뷰에서 "구글 클라우드의 TPU는 신경망네트워크 처리 능력을 바탕으로 거대언어모델(LLM) 학습과 자연어 처리, 이미지·비디오 프로세싱, 개인화·맞춤형 추천 등에 활용되고 있다"고 밝혔다.
구글 클라우드가 앞세우는 'TPU'는 흔히 신경망처리장치(NPU)로 불리는 차세대 AI 처리용 반도체다. AI 개발에 핵심 반도체로 쓰이는 GPU에 비하면 아직 활용 비중은 낮다. 다만 여러 컴퓨터·서버 제조사들은 중앙처리장치(CPU), GPU, NPU를 조합해 AI 처리 성능을 향상할 수 있다고 본다. 특히 전용 AI 개발이 필요한 사업자들 입장에선 품귀 현상을 빚고 있는 GPU를 일부 대체하는 효과도 기대할 수 있다.
피치카 매니저는 "트릴리움은 이전 세대 대비 컴퓨팅 성능이 4.7배, 에너지 효율성은 67% 향상됐다"면서 비용과 전력 등에서도 효율성을 보인다고 강조했다. 이 제품은 구글의 최신 AI 모델 '제미나이 2.0' 학습에 활용됐다. 외부 사례로는 글로벌 제약회사 바이엘과 AI를 통한 유전체 연구를 하고 있는 딥지노믹스 등이 새 치료제 개발을 도울 AI를 학습하는데 트릴리움을 쓴다.
카카오가 개발 중인 카나나 역시 초기에는 GPU 기반으로 개발됐다가 5세대 TPU(TPU v5e)를 거쳐 트릴리움으로 넘어간 사례다. 카카오의 카나나 개발팀 관계자는 구글 클라우드를 통해 공개된 인터뷰에서 "GPU는 내부에 시스템을 구축하는 경우가 많아 유지 보수의 부담이 적지 않다"면서 "TPU는 구글의 딥마인드에서 연구되고 구글 클라우드에서 운영되기 때문에 부담이 없고 업그레이드도 아주 수월했다"고 밝혔다.
피치카 매니저는 TPU가 GPU에 비해 강점이 있는지 묻자 "칩도 다르고, 소프트웨어 설계도 다르기 때문에 단순 비교는 어렵다"면서도 "성능 향상과 효율성 개선을 위해 계속 노력하고 있다"고 말했다.
관련 이슈태그
기사 URL이 복사되었습니다.
댓글0