컴비 일상 취미

구글은 AI 연산을 위해 자체 개발 반도체를 가지고 있는데 TPU(Tensor Processing Unit)가 그것입니다. TPU는 수학 연산 처리에 특화된 칩입니다. 구글의 발표에 따르면 생성형 AI 유니콘 기업의 90%가 구글 클라우드의 TPU를 선택해서 사용하고 있다고 합니다. 여기에는 미드저니, 앤트로픽 등 유명 AI 기업도 포함되어 있습니다. 

TPU 탄생 배경과 GPU와의 차이점

AI용 칩하면 가장 먼저 떠오르는게 GPU인데요. GPU와 차이점은 GPU는 그래픽 및 범용 병렬 연산이 설계 목적인 반면, TPU는 딥러닝(연산)에 최적화 되어 있다는 점입니다. 또한 GPU는 AI 연산 뿐만 아니라 게임 등 다양한 작업 지원을 하는 반면 TPU는 오직 딥러닝 전용으로만 높은 성능과 효율성을 제공한다는 점입니다. 구글의 TPU가 이렇게 한정된 목적을 가진 이유는 TPU의 탄생 배경부터가 운명을 결정했기 때문입니다. 2013년 피치카 PM은 음성검색 기능을 도입하면서 AI 연산을 위한 특별한 하드웨어가 필요하다는 것을 깨달았다고 합니다. 당시 계산 결과 1억 명의 사용자가 하루 3분씩만 음성검색 기능을 사용해도 데이터 센터 용량을 2배로 늘려야할 만큼 비용이 막대했다고 합니다. 이에 구글은 10년간 AI 연산에 특화된 TPU 개발에 역량을 집중했다고 합니다.

트릴리움

2013년 최초 TPU가 발표되고 2017년에는 최초 클라우드 TPU를 선보인 뒤 지속적으로 성능 개선을 보여주고 있습니다. 최근에는 트릴리움이라는 새로운 TPU를 발표했는데요. 트릴리움은 TPU v5e에 비해 칩당 최대 컴퓨팅 성능이 4.7배 향상되었다고 합니다. 현재 트릴리움이 적용될 것으로 예상되는 서비스로는 에이전트입니다. AI 에이전트(Agent)는 특정 작업을 수행하거나 문제 해결을 위해 설계된 인공지능 시스템인데요, 사용자와 외부 환경과 동시에 상호 작용을 하면서 입력 데이터를 처리하고 학습 또는 의사결정을 하는 시스템입니다. 현재 단순한 챗봇을 넘어서 프롬프트를 입력했을 때 컴퓨터 내부의 조작도 하고, 더 진보된 명령을 수행하는 것을 기대할 수 있습니다. 오픈AI도 그렇고 현재 모든 AI회사의 목표는 AI 에이전트로 맞춰져있는데요, TPU는 이런 AI 에이전트를 구현하는데 특히 중요한 역할을 할 것으로 보입니다.

AI 시대 구글의 강점

제가 생각하는 AI 시대 구글의 강점은 자체적으로 모든 것을 조달이 가능한 기업이라는 점입니다. 최근 애플이 AI쪽으로 힘을 못 쓰고 있는 이유는 뭘까요? 과거와 다르게 애플 자체에서 모든 것이 수급이 되지 않는 다는 점입니다. 하드웨어, 소프트웨어 두 부분에서 모두 강점을 가지고 있었지만 AI에서는 강점이 없어서 현재 본인들의 하드웨어와 소프트웨어를 AI에 통합하지 못하고 있죠. 그래서 외부적으로 AI에 있어서 좋지 않은 평가를 받고 있습니다. 반면 구글은 하드웨어에서는 애플 보다 단점을 보이지만 어쨌든 제품군을 보유하고 있고, 공격적인 판매전략으로 하드웨어 상품을 점점 보급하고 있습니다. 소프트웨어 쪽으로는 크롬 등 말할 필요도 없고, AI쪽으로는 현재 LLM의 기반 기술이 된 트랜스포머나 최근 노벨상을 받은 알파폴드, 또 과거에는 알파고 등 유명한 기술들이 너무 많고 인력들도 유명하죠. 가장 강력한 경쟁자인 오픈 AI와 비교해보자면 구글의 강점은 자본력입니다. 오픈AI는 시작부터가 비영리 기업이였기에 공격적으로 투자 유치를 못하고 있으며, 현재 투자 유치를 위해 영리 기업 전환을 준비하고 있다는 기사도 보이고 있지만 견제로 인해 쉽게 하지 못하고 있습니다. 하지만 구글은 애초에 영리 기업이었으며 여러 사업분야의 캐시카우(유튜브, 인터넷 광고)를 보유하고 있습니다. 결국 장기 경쟁인 AI 경쟁 시장에서 보았을 때, AI를 보급할 수 있는 하드웨어와 소프트웨어, AI 기술력, 자본력을 모두 보유하고 있는 구글은 AI 시대에 엄청난 강점을 보유하고 있다고 할 수 있습니다.

저는 이러한 내용을 기반으로 구글에 지속적으로 투자를 하고 있습니다. 아마 장기적으로 투자를 할 것 같아요. 당장 경제가 어려워진다고 망할 회사도 아니고, 기술력이 부족한 회사도 아니기 때문입니다. 그렇다고 경영적으로 크게 문제가 있냐고 하면 그것도 아닙니다. 또한 사회적으로 이미지도 좋은 기업입니다. 최근 반독점 때문에 노이즈가 있긴 하지만 저는 결국에 반독점 법에 의해 큰 피해를 보지 않을 것이라 보기 때문입니다.