크게 유명하지도 않았던 중국 스타트업 딥시크(DeepSeek)가 별안간 글로벌 기술주 시장을 발칵 뒤집어놓을 수 있었던 이유는, 따지고 보면 ‘연산 능력’이란 것 때문이다. 당신이 스마트폰의 인공지능(AI) 챗봇에 질문 하나를 던지면 해당 업체의 데이터센터에선 즉각 연산(계산)이 시작된다. 각각의 연산은 매우 단순하다. 수치(문자나 이미지가 변형된)를 곱하고 더할 뿐이다. 문제는 연산의 회수다. 〈이코노미스트〉(2024년 6월30일)가 AI 전문 평가기관을 인용해 보도한 바에 따르면, AI는 질문 하나를 받고 답변하는 과정에서 3000억(3×1011) 회나 연산을 반복한다. 2022년 말 출시된 챗지피티의 사례이니 지금의 연산 횟수는 훨씬 더 많을 것이다.

그런데 챗봇(챗지피티, 제미니 AI, 클로드, 딥시크-R1 등) 뒤엔 훨씬 더 무시무시한 것이 도사리고 있다. 데이터센터에서 작동하는 거대언어모델(LLM)이다. 시중에 나와 있는 활용 가능한 데이터(책, 기사, 인터넷 게시물 같은 텍스트, 이미지 등)를 깡그리 ‘학습(머신러닝)’시켜 언어(의사소통)의 패턴(규칙)을 이해하도록 만들었다는, 일종의 프로그램이다. 이 능력을 어떻게 응용하느냐에 따라 챗봇, 번역기, 사무자동화, 코드 자동생성 등이 가능해진다. 이 LLM을 학습시키는 과정엔 어느 정도의 연산이 필요할까? GPT-3(2022년 출시된 챗지피티의 LLM)의 경우엔 무려 300해(垓, 3×1022)다. 해(垓)는 억(億), 조(兆), 경(京) 다음의 자릿수. 1해는 1억조에 해당한다. 상상만 해도 어질어질한 숫자다.

LLM과 그 응용 프로그램들의 성능은 데이터를 많이 학습(머신러닝)하고 연산 능력을 확장할수록 향상되는 것으로 간주되어왔다. 미국의 테크 자이언트들은 연산 능력을 강화를 가속화해왔다. 지난해 개발된 구글 딥마인드의 ‘멀티모달 AI 모델(텍스트, 이미지, 오디오, 비디오, 코드 등을 모두 처리)’의 경우, 5자(秭, 5×1024) 번의 연산을 거쳤다. 1자(秭)는 1해(垓)의 1만 배다.

연산 능력을 강화하려면, 즉 빠르고 효율적으로 연산하려면, 고성능 칩(반도체)이 필요하다. 그 제품이 바로, 수많은 연산 작업을 한꺼번에 시행(병렬 처리)할 수 있는 GPU다. GPU를 가장 잘 만드는 업체는 그 유명한 미국의 엔비디아(NVIDIA). AI 업체라면 누구나 이 회사 GPU를 원한다. 이 독점력을 활용해서 엔비디아는 자사 GPU 비용의 10배에 달하는 가격을 책정하고 있는 것으로 알려졌다. 테크 업체들은 연산 능력을 키우기 위해 비싼 GPU를 매입해 데이터센터에 ‘클러스터링(칩 간 데이터 이동에 필요한 시간과 에너지 손실을 최소화하기 위한 배치)’하는 데 수십억 달러씩을 투자한다. 오픈AI는 GPT-4의 학습에 엔비디아의 A100 GPU 2만5000개를 사용했다. LLM 학습에 드는 비용은 GPU 매입에 그치지 않는다. 데이터센터에 전력을 공급하고 과열된 설비를 냉각시키는 장치에도 큰돈이 든다. 알파벳(구글), 아마존, 메타(페이스북 모회사), 마이크로소프트 등은 2024년 AI 관련 인프라에 모두 2000억 달러를 투자할 계획이었다. 특히 메타는 35만 개 규모의 GPU 클러스터링을 준비하고 있었다.

이처럼 AI 산업은 점점 더 많은 연산 능력과 에너지를 쏟아부어 규모를 키우는 쪽으로 발전하고 있었다. AI 모델 학습 방법론은 기업 기밀로 철저히 보호되었다. 미국 테크 자이언트 중 자사 LLM을 오픈소스로 공개한 기업은 메타밖에 없다. ‘오픈소스 공개’는, 자사 소프트웨어의 원본 코드를 누구나 자유롭게 열람, 수정, 배포할 수 있도록 허용한다는 의미다.

수십억 혹은 수백억 달러를 투자할 수 있는 기업은 지구상에 많지 않다. 상품(LLM)의 제조법도 비밀이다. 자연스럽게 미국 테크 자이언트들은 ‘독점 이익’을 기대할 수 있는 입장에 섰다. 이 때문에 AI 기술에 치열하게 투자했다. 자본시장 역시 테크 자이언트들이 미래에 얻을 초과수익을 노리고 자금을 몰아주었다.

딥시크 GPU는 엔비디아 2급 제품

이렇게 형성되고 있었던 AI 생태계의 평온(물론 물밑에선 치열한 경쟁이 진행되고 있었다)에 난데없이 큰 돌이 날아들었다. 딥시크의 LLM인 V3와 그 응용 프로그램인 챗봇 R1이다. V3와 R1의 선언은 ‘미국 업체들만큼 연산 능력을 축적하지 않아도 비등한 성능의 제품을 만들 수 있다’는 것이었다.

딥시크가 V3(LLM)를 내놓은 것은 지난해 12월26일이었다. 올해 1월10일엔 챗봇인 R1을 애플 앱스토어에 올렸다. 이 제품들의 성능은 오픈AI, 구글, 메타 등 미국 테크 자이언트들의 최첨단 AI 모델에 “버금간다”는 평가를 받았으나 큰 반향을 일으키진 못했다. ‘버금갈 뿐’이었기 때문이다. 더욱이 미국 테크 자이언트들도 발 빠른 혁신을 예고하고 있었다. 딥시크가 미국 업계와 자본시장에 경종을 울린 것은, 1월 중순 자사의 AI 모델 개발 원리를 자세하게 설명한 논문을 발표하면서부터다. 딥시크는 자사 제품의 원본 코드를 오픈소스로 공개했다.

자본시장에 충격을 준 것은 딥시크 모델의 성능이 아니었다. 논문에 따르면, 딥시크는 불과 2000여 개의 GPU를 AI 모델 학습에 투입했다. 바이든 전임 행정부는 중국에 대한 최첨단 GPU 수출을 규제한 바 있다. 딥시크가 사용한 GPU는 엔비디아의 2급 제품이었다. 모델 학습 비용도 겨우 600만 달러에 그쳤다.

저런 설비와 비용으로 어떻게 미국 테크 자이언트들의 AI와 비슷한 성능을 가진 모델을 개발할 수 있단 말인가? 자본시장의 관점에서 볼 때 미국 테크 자이언트들은 투자금을 헛되이 쓰고 있었던 셈이다. 미국 AI 업계에 대한 회의가 1월 넷째 주의 자본시장을 자욱하게 감돌다가 증시가 개장한 월요일(1월27일)에 폭발했다. 상장 테크 기업들의 시가총액이 1조 달러나 빠진 것이다. 세계에서 가장 주목받는 GPU 생산업체로 글로벌 AI 생태계를 쥐락펴락해온 엔비디아의 시장가치도 6000억 달러나 날아가버렸다. 그동안 글로벌 AI 산업에서 미국의 주도권이 유지될 수 있을지에 대해 심각한 의문점이 제기됐다.

또 하나 놀라운 점은 딥시크가 LLM의 최신 성과까지 소화하고 있었다는 것이다. 이른바 추론 모델(reasoning model)이다. 그동안의 LLM이 논리적 질문이나 수학 문제를 푸는 데 매우 서툴렀다는 점은 잘 알려져 있다. LLM은 ‘논리 기계’가 아니라 학습 데이터로 익힌 인간 소통의 패턴을 현재로 소급해 활용하는 ‘예측 기계’에 불과했다. 예컨대 ‘10+5’ 같은 문제는 훈련된 데이터를 소급해 15라고 쉽게 답변할 수 있지만, ‘10에 어떤 숫자를 더하면 15가 되지?’ 같은 질문엔 허둥거리게 된다. 인간이라면 이 문제를 ‘단계적으로 분석’해서 쉽게 해결할 수 있다. 예컨대 ‘10+x=15(1단계)’와 ‘x=15-10(2단계)’을 거쳐 ‘답은 5’라는 결론에 도달하는 것이다.

이런 단계적 추론을 ‘생각의 사슬(Chain of Thought)’이란 방법론으로 LLM에 적용한 최초의 회사 역시 오픈AI였다. 지난해 9월 내놓은 o1(오원) 모델이 그것이다. 이 아이디어는 발 빠르게 확산되었다. 불과 3개월 뒤인 지난해 12월 구글이 ‘제미니 플래시 싱킹(Gemini Flash Thinking)’이라는 추론 모델을 선보인 것이다. 이로부터 불과 며칠 뒤 오픈AI는 추론 기능을 더욱 업데이트한 o3(오스리)로 경쟁자에게 대응했다.

그런데 1월10일 나온 딥시크의 챗봇 R1도 추론 기능을 탑재하고 있었던 것이다. 이보다 앞서 중국의 전자상거래 대기업 알리바바가 출시한 챗봇 QwQ도 그랬다.

대다수 전문가들은 대체로 현존 AI 모델 가운데서 오픈AI의 o3를 가장 우수하다고 꼽는다. 수학, 과학, 컴퓨터 프로그래밍에서 놀라운 성능을 발휘한다. 더욱이 다른 미국 테크 업체들도 o3를 따라잡는 데 긴 시간이 필요하지 않을 것으로 여겨진다. 그럼에도 불구하고 딥시크가 비용 대비 엄청난 성능을 발휘하는 AI 모델을 개발했다는 것은 엄연한 사실이다. 이런 일이 어떻게 가능했을까?

저렴한 학습이 가능했던 이유

미국 테크 자이언트들은 LLM 성능을 개선하거나 비윤리적 답변 가능성을 차단하기 위해 ‘인간 평가자’를 동원한다. 사람이 직접 LLM의 여러 답변을 일일이 체크한 뒤 올바른 답변에 보상(그래 봤자 ‘잘했어’이지만)하는 방식이다. 시간이 오래 걸리고 인건비도 많이 든다. 이를 “인간 피드백을 통한 강화 학습(RLHF)”이라고 부른다. 그런데 딥시크는 모델이 스스로 답변을 평가하고 보상하는 방법론으로 RLHF를 자동화했다. 또한 GPU를 더 효율적으로 배치해 데이터의 이동속도와 전력 사용량을 줄이고, 덜 중요한 연산에는 반올림을 적용해 불필요한 계산을 줄였다.

이 외에도 작은 연산 능력과 메모리, 전력으로 비교적 우수한 성능을 발휘하는 여러 기술들이 딥시크 모델에 적용되었다. 그만큼 모델이 가벼워졌다. 그 각각의 기술들이 독창적인 것은 아니다. AI 업계에서 이미 파편적으로 사용되어왔다. 딥시크는 그런 기술들을 잘 결합시켰다. 그 덕분에 테크 자이언트들보다 훨씬 적은 자원으로 효율적인 추론 능력을 구현할 수 있었다. 당초에 딥시크의 주장을 의심하던 전문가들도 오픈소스를 따라 적용해보고 감탄하는 수준이다.

이로써 딥시크 대표인 량원펑은 중국에서 국민적 영웅으로 떠올랐다. 글로벌 패권을 가름할 핵심 기술로 여겨지는 AI에서, 중국이 미국에 버금가거나 심지어 추월했다는 평가까지 나오는 마당이니 당연한 일이다. 그의 연구팀 모두가 중국 내의 대학에서 학위 과정을 마쳤다는 점까지 가세하면서, 중국이 대(對)미국 첨단기술 전쟁에서 승기를 잡았다는 분위기가 조성되고 있다.

딥시크와 알리바바가 자사의 기술을 오픈소스로 공개하고 있다는 점 역시 의미심장하다. 코카콜라가 콜라 제조법을 공개한 것과 마찬가지다. 오픈소스의 리스크는, 경쟁자들에게 추월의 기회를 허용할 수 있다는 것이다. 매우 위험하다. 그러나 오픈소스는 더 큰 이익을 챙길 기회도 제공한다. 공개된 기술(미국 업체들도 쉽게 복제할 수 있다)이 글로벌 차원에서 널리 확산된다면 장차 AI 산업의 표준이 될지도 모를 일이다. 이런 상황을 잘 활용하면 관련 서비스나 응용 프로그램에서 우위를 점해 초과이익을 획득할 수 있다. 구글이 대표 사례다. 이 회사는 모바일 운영체제인 안드로이드를 오픈소스로 공개해 스마트폰 생태계를 장악했다. 이로 인해 발생한 시장(앱 거래소인 구글 플레이, 검색, 광고 등)에서는 폐쇄적 운영으로 독점 이익을 창출하고 있다.

미국은 중국에 대한 첨단 AI 기술과 장비의 수출을 차단했고 앞으로 더욱 강화할 것이다. 이에 맞서 중국은 자체 발전 및 글로벌 확장의 길을 선택한 것으로 보인다. 중국 AI 업계와 공산당의 야망은 크다.

그러나 미국의 AI 기술은 여전히 중국보다 상당히 앞서 있다는 것이 다수 전문가들의 평가다. 발표를 앞둔 여러 첨단 제품들이 이미 뜨거운 기대를 받고 있다. 더욱이 미국 AI 업계는 최첨단 GPU를 얼마든지 공급받을 수 있다. 중국 업계에 대한 결정적 경쟁 우위다. 칩이 많을수록 새로운 기술을 실험할 능력도 커진다. 딥시크의 오픈소스를 활용해서 훨씬 무서운 성능의 모델을 저렴한 비용으로 개발할 수도 있다. 더욱이 트럼프 대통령은 5000억 달러 규모의 민간부문 투자(오픈AI, 오라클, 소프트뱅크)를 유치해 AI 인프라를 대폭 강화하는 민관 합동 프로젝트인 ‘스타게이트(Stargate)’를 의욕적으로 추진할 계획이다.

그러나 미·중 AI 전쟁의 관점에서 볼 때 중국이 거둔 가장 큰 성과는 미국 AI 산업의 발전 경로 자체에 치명타를 가했다는 것이다. 최첨단 모델 구축 비용이 딥시크로 인해 급격히 하락했기 때문이다. 그만큼 진입장벽이 낮아졌다. 소규모 스타트업이나 연구팀도 AI 시장에 비교적 쉽게 들어갈 수 있다. 이로써 미국 테크 자이언트들과 자본시장은 지금까지의 생태계에서 기대할 수 있는 독점 이익을 상실하게 되었다.

미국 정부와 업계는 어떤 수단을 동원해서 ‘돈과 기술발전 간의, 선순환’을 회복하려 시도할까. 이것이 미·중 AI 2차전의 관전 포인트가 될 것이다.

이종태 기자 다른기사 보기peeker@sisain.co.kr