부가가치가 높은 산업이 등장하면, 수많은 관련 업체가 큰 이익을 누리게 된다. 그 대표적인 예가 바로 정보기술(IT) 산업일 것이다.
1981년, 최초의 현대적 PC인 IBM 컴퓨터가 등장하자 컴퓨터 프로그램이 유행하게 되었고, 2022년 챗GPT의 대성공 덕분에 새로운 방식의 프로그램이라 할 수 있는 인공지능(AI)이 유행하게 되었다. PC 태동기에는 컴퓨터 프로그램용 반도체인 CPU의 시장이 크게 확장되었고, 2023년부터는 AI 구동용 반도체인 GPU가 큰 이익을 누리고 있다. 새로운 프로그램이 나타나니 새로운 반도체가 떠오르는 것이다. ‘역사는 반복된다’의 훌륭한 예가 아닐 수 없다.
AI가 큰 성공을 거두자 수많은 회사가 AI 반도체에 뛰어들기 시작했다. 미국의 마이크로소프트, 구글 등 거대 IT기업들이 AI 반도체에 진출하였고, 한국에도 AI 반도체 스타트업들이 생겨났다. 그런데 생각해 보면 이 흐름에 과거와는 다른 점이 보인다. 어째서 CPU가 30여년간 세상을 지배할 때는 반도체 스타트업이 전 세계적으로 유행하지 않은 것일까?
여기엔 스타트업 투자 환경 변화, 칩 제조/설계 생태계의 성숙 등 다양한 이유가 있겠지만, 중요한 이유 중 하나는 CPU와 GPU 두 칩의 복잡도 차이일 것이다. 흥미롭게도, ‘지능’을 구동하는 반도체라 할 수 있는 GPU가 기존 반도체인 CPU보다 구조가 단순하다. 이는 기존의 프로그램들이 매우 복잡하게 논리적 연결로 구성되어 있을 뿐만 아니라, 높은 정확도와 빠른 반응 속도를 요구했기 때문이다. 프로그램들의 요구에 맞춰, CPU 역시 매우 복잡한 논리적 연산을 한 치의 오차도 없이 수행하는 것을 목적으로 설계가 발전해 왔다. 칩의 내부 연결 역시 매우 복잡해질 수밖에 없었다.
반면 현재의 AI는 복잡한 논리적 연결 대신, 대규모의 산술연산(덧셈, 곱셈 등)을 이용하도록 만들어졌다. 인간의 뇌는 수많은 작은 신경세포로 이루어져 있다. 이런 구조를 조금이라도 모방하기 위해서는 과학자들 역시 작은 계산을 수없이 많이 반복하는 형태로 프로그램을 만들 수밖에 없었던 것이다. 당연하지만 AI를 잘 구동하는 반도체는 대규모의 단순 연산을 잘해야 했다. 작고 단순한, 반복적인 구조를 빼곡하게 끼워 넣는 방식으로 만들어야 하는 것이다.
이러한 차이는 완성된 칩의 구조에서 확연히 드러난다. CPU 내부에는 연산을 담당하는 단위(코어)가 4∼16개밖에 없지만, GPU에는 연산의 단위가 1만개 넘게 존재한다. GPU의 개별 연산단위는 CPU의 개별 연산단위보다 훨씬 단순하고 능력이 부족하다. 하지만 이는 GPU가 CPU보다 열등하다는 의미는 아니다. AI가 단순한 연산단위들을 이용해 구동되면, 세상이 바뀌지 않던가. 이런 구조적 차이 덕분에 전보다 많은 회사가 반도체 설계에 뛰어들 수 있게 된 것이라 봐야 할 것이다. 칩의 구조는 CPU에 비해 상대적으로 단순하며, AI 시장은 매우 커지고 있는 상황이니 도전해 볼 만한 것이다.
이런 아이러니는 우리에게 큰 깨달음을 준다. AI 반도체 산업은 ‘단순히 좋은 칩’을 만드는 사업이 아니라는 의미이기 때문이다. AI 반도체의 구조가 단순한 편이라면, 특정 회사가 만든 AI 반도체의 성능이 경쟁사보다 전반적으로 모든 것을 수십 배 잘하기는 어려울 것이다.
결국 차별점은 칩 외부 환경에서 찾아내야 한다. 반도체는 소프트웨어, AI 등을 구동하는 수단일 뿐이기에, 반도체 자체의 절대적 성능 확보도 중요하지만, 새로운 반도체를 사용해 볼 수 있는 다양한 환경 조성에도 신경을 써야 한다. 칩의 설계가 상대적으로 단순하다고, 칩의 성공 역시 단순한 것은 아닌 셈이다. 지금 수많은 회사가 자율주행, 영상 생성 등 다양한 분야에 AI를 적용하려 하고 있다. 이런 시기일수록 칩뿐만 아니라, 새로운 칩을 사용하고자 하는 회사들에게도 관심을 가져야 할 것이다.
정인성 작가