인공지능이라는 것이 인간의 뇌가 창작하지 못하고 새로운 것을 알려주는 것이 아니라 기존 인간계가 다 알고 있는 것들을 단순히 통합해서 빠르게 찾아준다는 것일뿐이라는 것이다... 그러므로 기존 각 분야 전문가들(난 이 부분에서 특히 가까운 미래 AI 업체들의 수익성을 의심하고 있는 중... 기존 전문가들에게 제공해야할 저작권료와 특허비용등 각종 비용을 상쇄하고 마진을 남길 수 있을런지 굉장히 회의적... 오픈AI의 챗GPT도 이미 뉴스는 폭스TV부터 계약중인 것으로 알고 있고 주요 작가들과도 협상중인데, 난항중...)이 다 해결할 수 있는 것을 의미하지... 뭘 새롭게 찾아주는 것이 아니라는 말이다... 만약에 암정복을 물어보면 인류가 그간 알아낸 기존 지식을 알려주지 인공지능(AI)이 암을 정복하지는 못한다는 것이다... 만약 인공지능이 사람의 뇌가 생각하지도 못하고 능가하는 능력을 보여준다면 이제 이것은 로봇에 장착되어 상상이 안되는 영역의 문제를 해결할 수도 있겠지... 이쭘되면 영화 "아이로봇"에서 말하는 인간을 통제하겠지... 근데 현재로서는 이 가능성은 전혀 없다고 생각한다... 암튼 작년부터 불고 있는 AI열풍에 의한 엔비디아부터 갤럭시s24까지 주요 주가 상승에 상당한 거품이 끼여 있다고 생각한다... 여기에 모든 기기(스마트폰, 자동차, 가전, PC)에 연결하여 증폭시키고 있는 주요 기업들 주가... 하루종일 2000년초 닷컴버블과 그 거품이 꺼진이후 주가 폭락을 생각하고 있는 중이다... 요즘 일부 SNS에서 AI로 주식투자하여 단돈 몇 십만원으로 수천만원, 기억원을 만들었다는 사기(Scam)가 판을 치고 있는 중이다... 수백년 증시역사에서 인간의 가장 혼란스러운 예상및 예측 영역인 투자의 세계에서 AI가 뭘 발휘할 수 있는 곳이 아니다... 무수히 많은 시스템 트레이더, 알고리즘 투자도 요즘 판판히 안맞아 시장에서 시들해지고 있고, 근데 인공지능(AI)이 마치 미래에 벌어질 어떤 투자 지수와 종목의 변동성과 변곡점을 정확히 저점/고점을 예상하고 투자할 수 있다고... 120% 거짓말이다... 점점 인간의 두뇌를 대체할 수 있다는 인공지능(AI)에 거부감이 일고 있는 중일까...?? 난 아직도 이런 고성능 GPU의 AI용 반도체칩을 가지고 무엇을 하겠다는건지 아직도 모르겠다... 일부 고난도 작업에서 빠른 병렬 수행의 연산이 탁월한 문제 해결을 보여주고 있고 이것이 기존 고성능 CPU와는 달리 강점이 있다는 것은 알겠다... 그럼에도 불구하고 이것이 인간의 뇌를 대체할 인공지능(AI)의 가능성을 열어두고 있다고 생각하지 않으며 여전히 인간의 신경(뉴런)망은 어떠한 반도체칩으로도 대체 불가능하다는 것이 내 생각이다... 7조달러(9331조)를 조성해 직접 고급 AI반도체를 만들겠다고 나서지를 않나 이 사기꾼에 빌붙은 월가의 벤처캐피털들은 오픈AI의 기업가치를 800억달러(106조)원으로 평가하지를 않나... 돈의 개념과 숫자의 의미를 잃어버린 완전 미친놈처럼 글로벌 증시를 파국으로 몰고 있다는 생각이다... 우리는 이제부터 철저히 이 오픈AI과 구글/NAVER등 국내외 AI업체들이 진정으로 수익을 낼 수 있는지를 검토해야 한다... 흥분을 가라앉히고 말이다... 여기에 그런 고급 사양의 반도체가 전혀 필요없는 형국에 과잉 생산에 돌입한 것은 아닌지 심각하게 자문해야 한다... 완전 "비이성적 과열"에 거품이다...
젠슨 황 엔비디아 CEO가 데니스에서 식사하는 모습. 지난해 엔비디아의 기업가치가 1조 달러를 돌파했을 때 데니스가 소셜미디어에 이 사진을 올렸다.
엔비디아 공동 창업자인 커티스 프리엠(사진 왼쪽부터), 젠슨 황, 크리스 말라코프스키.
1993년 엔비디아 사무실에서 엔비디아 공동 창업자인 커티스 프리엠이 비디오 게임을 즐기는 모습.
젠슨 황 CEO가 엔비디아의 인공지능 슈퍼컴퓨터 ‘DGX-H100’을 고객에게 전달하기 전에 사인하고 있다.
2009년 엔비디아 GTC 콘퍼런스에서 젠슨 황 CEO가 발표하는 모습. 제프리 힌턴 토론토대 교수는 이 행사에서 영감을 얻었고, 이후 제자들과 AI 연구에 한 획을 그었다.
제프리 힌턴 교수(맨 오른쪽)와 제자 일리야 슈츠케버(맨 왼쪽).
2016년 젠슨 황은 오픈AI 사무실에 엔비디아의 AI 용 서버를 직접 전달했다. 서버에 ‘일론(머스크)과 오픈AI 팀을 위하여! 컴퓨팅과 인류의 미래를 위하여!’라는 응원 메시지와 사인을 적었다.
엔비디아의 H100 GPU 8개를 탑재한 ‘DGX H100(사진)’은 데이터센터용 슈퍼컴퓨터 시스템으로 지난해 출시됐다. 비만약으로 유명해진 제약사 노보 노디스크는 최근 DGX H100 191개로 구성한 슈퍼컴퓨터 ‘게피온’을 만들어 신약을 개발하겠다고 밝혔다.
젠슨 황이 18일(현지 시간) 미국 캘리포니아 새너제이에서 열린 연례 개발자 행사 ‘GTC 2024’에서 인공지능(AI)용 차세대 그래픽처리장치(GPU)인 ‘블랙웰’ 시리즈를 소개하고 있다. 황 CEO 앞에 놓인 제품은 GPU 8개로 구성된 컴퓨팅 장치이고, 그의 왼쪽(사진 오른쪽)에 있는 것은 새로 출시한 블랙웰이 탑재된 기판이다. 그는 “세계에서 가장 강력한 칩으로 모든 산업에서 AI를 구현시킬 것”이라고 말했다.
젠슨 황 엔비디아 최고경영자(CEO)가 지난 18일(현지시간) 오후 미국 캘리포니아주 새너제이에 위치한 SAP센터에서 기조연설을 통해 차세대 GPU 블랙웰을 선보이고 있다.
한정되어 있는 수요처에 대한 조사는 제대로 하고 개발한건지... 난 엔비디아가 너무 앞서나가고 있다고 생각한다... 연결된 SK하이닉스와 삼성전자의 HBM 개발 속도도 빠르다..
https://samsongeko1.tistory.com/13234
완전히 SK하이닉스를 중심으로한 HBM 관련주의 날... 시즌3(2024.3~2027.2)의 장기대박계획(LMOI)도 주요 춘계운용(2024.3~2024.5)도 시작됐고요^^
https://samsongeko1.tistory.com/13183
[필독-동계운용마감-특집]엔디비아 800달러 돌파에 현혹되지말고 국내 두 반도체회사의 HBM 개발 현황이나 분석한다... 그 엔비디아의 아성... 쿠다를 정복해야 한다..!!!!
https://samsongeko1.tistory.com/13159
기존 포털에서 다 할 수 있는 상세검색을 인공지능(AI)화하여 전세계를 상대로 지상 최대의 사기(Scam)을 벌이고 있는 샘 울트먼... 이 쇼의 종말은 나스닥등 증시 폭락이다.
https://samsongeko1.tistory.com/13132
AI에 질문을 던지면 기존 포털이나 검색서비스에 다 있는 질문을 통합해서 찾아주는 것이다... 난 새로운 반도체와 앱을 팔아먹기 위한 수작에 불과하다고 생각한다. 상세검색???
https://samsongeko1.tistory.com/13064
난 AI에서의 삼성전자의 행보가 이해된다... SK하이닉스의 HBM도 엔비디아의 고성능 반도체칩보다는 밑단 주력제품에서 지원하면서 온디바이스 AI에 집중하는 안전함을 택한듯하다.
https://samsongeko1.tistory.com/13140
이 연말에 GPMC 군포(산본)리서치센터 중소형IT기술팀장한테 HBM/CXL 관련 업태/종목 종합보고서 작성 지시... 특히 AI(인공지능)내에서 향휴 영향도 심층분석하라고 했고
https://samsongeko1.tistory.com/13028
온디바이스 AI란 말 그대로 기기에 탑재(On-Device)된 AI란 의미다... 애써 무시할려고해도 주도주 부재가운데 새로운 테마주로서 뜨고 있는 이곳을 무시하기는 힘드네요^^
https://samsongeko1.tistory.com/12974
[신비월드]우리는 엔비디아의 시대에 살고 있습니다...
마약보다 구하기 힘든 ‘H100’
“지금 (엔비디아의) 그래픽처리장치(GPU)를 구하기가 마약보다 어렵다.”
미국 반도체 기업 엔비디아가 전 세계 정보기술(IT) 기업들을 쥐락펴락하고 있다. 엔비디아의 주력 제품이 인공지능(AI) 연구·개발의 필수재로 꼽히면서 품귀 현상을 빚을 정도로 수요가 몰리고 있어서다.
일론 머스크 테슬라 최고경영자(CEO)는 지난해 5월 미 월스트리트저널(WSJ)의 한 행사에서 엔비디아의 GPU 부족에 대해 언급했다. 품귀 현상은 현재 진행형이다.
현재 엔비디아의 최고 사양 GPU인 ‘H100’은 6개월은 기다려야 받아볼 수 있다. IT 기업들은 기다려서라도 받겠다는 상황이다.
글로벌 시장 조사 기관 퓨처럼그룹의 수석 애널리스트인 대니얼 뉴먼은 “고객들은 엔비디아 경쟁사에서 제품을 구매하기보다 엔비디아 것을 기다리고 있다”며
“6개월이 아니라 1년 6개월을 기다려서라도 받을 것”이라고 강조했다. 이같은 분위기는 엔비디아 실적에서 고스란히 나타났다.
엔비디아는 지난해 매출이 609억 달러(약 80조3900억 원), 영업이익은 329억 달러(약 43조4300억 원)로 전년보다 각각 125%, 311% 증가했다고 지난달 22일(현지시간) 밝혔다.
4분기(11~1월) 영업이익은 전년 같은 기간보다 무려 983%나 뛰었다. 시장 전망치를 넘어선 수치다. 엔비디아는 “H100과 같은 서버용 AI 칩 판매가 실적을 이끌었다”고 밝혔다.
엔비디아 매출의 대부분을 차지하는 데이터센터 사업도 409% 성장했다. 실적 발표 직후 뉴욕증시 시간외거래에서 엔비디아의 주가는 9.5%까지 증가했다.
엔비디아의 주가는 연일 상승세다. 연초 470달러 수준에서 이달 8일 974달러까지 치솟았다. 지난해 6월 1조 달러(약 1310조 원) 수준이었던 엔비디아의 기업가치는 2조 달러(약 2620조 원)마저 넘어섰다.
엔비디아는 세계 최대 석유기업인 사우디 아람코를 제치고 세계에서 세 번째로 비싼 회사가 됐다. 1위와 2위는 마이크로소프트(MS)와 애플이다.
뉴스트리트리서치 피에르 페라구 애널리스트는 “빅테크 업계에서 가장 강력한 인물들도 엔비디아 CEO인 젠슨 황에게 정말, 정말, 정말 정중하게 행동하고 있다. 모두가 엔비디아를 화나게 할까 봐 두려워한다”고 말했다.
엔비디아 GPU가 뭐길래, 얼마나 중요하면 이렇게 난리일까. 엔비디아는 어쩌다가 이토록 중요한 제품을 개발하게 됐을까.
김밥천국을 좋아하는 남자...
엔비디아를 창업한 젠슨 황 CEO는 1963년 2월 17일(농구 황제 마이클 조던과 같은 날 출생) 대만의 남부 지역에서 태어났지만, 대부분을 해외에서 살았다.
캐리어(에어컨 회사) 엔지니어였던 아버지가 ‘기회의 땅’에서 젠슨 황이 성장하기를 희망해서다. (황이 4살 무렵 미국 뉴욕에 갔다가 깜짝 놀라는 모습을 보고, 이 같은 다짐을 했다고 한다)
젠슨 황의 부모는 황이 9살이 되자 미국 켄터키주 오네이다의 저렴한 기숙학교에 입학시켰다. 황은 “오네이다 마을에 온 최초의 중국인”이라고 회상했다. 등록금이 저렴한 데에는 다 이유가 있었다.
사고 친 아이들이 모이는 특수학교였기 때문. 교도소에서 막 출소한 그의 룸메이트는 일곱 군데의 자상(刺傷)에서 회복 중이었다.
황은 학교에서 인종 차별과 따돌림을 당했는데(칼에 찔린 적도 있다고 함), 좌절하지 않고 화장실 청소를 도맡아 했다. 자신보다 8살 많은 룸메이트에게는 수학을 가르쳐줬다.
가정형편 탓에 몇 년이 지나서야 젠슨 황의 부모가 미국에 건너왔다.
가족은 워싱턴주를 거쳐 오리건주 포틀랜드 교외로 이사했다. 당시 공립학교에 다니던 황은 학업에서 재능을 보여(특히 수학) 남들보다 2년 일찍 오리건주립대에 입학했다. 전공은 전기공학.
반도체 산업에 발을 담근 건 1985년 대학을 졸업하고 나서다. 황은 자신만큼 전기공학을 사랑한 아내를 만나 실리콘밸리로 이사했다.
반도체 기업 AMD(오늘날 엔비디아의 최대 라이벌)에 취업한 황 CEO는 일과 학업을 병행했다. 8년여 끝에 미 스탠퍼드대에서 전기공학으로 석사 학위를 받았다.
엔지니어 경험을 쌓은 젠슨 황은 몇 년 후 LSI로직이라는 브로드컴 자회사로 이직했는데, 그의 가장 큰 고객사 중 한 곳이 컴퓨터 소프트웨어 회사(자바 언어 개발) ‘썬 마이크로시스템즈’였다.
1992년 석사 학위를 마친 황은 어느 날 썬에서 친하게 지내던 엔지니어들(크리스 말라코프스키, 커티스 프리엠)과 축하 자리를 가졌다. 황은 자신이 좋아하는 ‘데니스(Denny‘s)’에서 친구들을 보기로 했다.
데니스는 나초, 햄버거, 샌드위치 등 ‘미국식 백반’을 파는 패스트푸드 체인점이다. 지점이 많고 24시간 영업해 ‘미국의 김밥천국’, ‘미국의 기사식당’으로 불린다.
학창 시절에 여기서 아르바이트했던 황은 “이때 경험이 외향적인 성격을 갖는 데 도움이 됐다”고 했다. 지난해 그는 미 시사주간지 뉴요커와의 인터뷰도 데니스에서 했다.
이곳에서 셋은 운명을 바꿀 대화를 나눴다. 썬의 엔지니어들은 “직장생활이 재미없다”면서 ‘게임용 3차원(3D) 그래픽카드’를 함께 개발하자며 창업을 제안했다.
일반 PC나 비디오게임에서도 3D 기술을 활용할 수 있도록, 그래픽을 ‘가속(업무 처리 속도를 증폭)’하는 보급형 장치를 만들어보자는 아이디어였다. 평소 게임을 좋아했던 황은 금세 마음을 빼앗겼다.
당시 3D 그래픽에 관한 관심이 뜨거웠다. 영화 ‘쥬라기 공원’이 곧 개봉할 예정이었다. 다만, 3D 그래픽은 쥬라기 공원 제작비 정도는 있어야 활용할 수 있는 ‘비싼 기술’이었다.
이들의 안목이 대단한 이유는 대화를 나눈 시기가 1993년이었기 때문이다.
PC(개인용 컴퓨터) 게임 시장 자체가 아직 존재하지도 않았다. 마이크로소프트의 ‘윈도 95’는 1년 반 후에나 등장했다. 시장이 생겨나기도 전에 제품부터 떠올린 셈이다.
“우리 회사 폐업까지 30일 남았습니다”
세 사람은 실리콘밸리의 유명 벤처투자사인 세퀘이아 캐피털 등에서 창업 자금을 지원받아 캘리포니아주 실리콘밸리에 사무실을 마련했다. 회사 이름부터 지어야 했다.
당시 이들은 첫 번째 그래픽 칩을 설계하고 있었는데, 작업 중인 파일을 ‘dot-NV’로 저장하고 있었다. ‘NV’는 ‘넥스트 버전(Next Version)’의 약자다.
세 사람은 ‘NV’가 포함된 단어를 찾기 위해 사전을 뒤적거렸다. 그러다가 라틴어 ‘인비디아(Invidia)’를 발견했다. 그리스 신화에 나오는 ‘질투의 여신’의 이름이다.
그렇게 최초의 그래픽카드 전문 회사 ‘엔비디아(Nvidia)’가 탄생했다.
그에게 사업은 수학만큼 쉽지 않았다. 엔비디아는 처음 게임 기기용 그래픽 칩(카드)을 개발했는데 새로운 설계방식(아키텍처)을 택했다가 쫄딱 망했다. 3D PC 게임의 가능성을 본 것은 엔비디아만이 아니었다.
MS는 윈도에서 개발자들이 3D 게임을 만들 수 있도록 개발 생태계(DirectX)를 만들고 있었다.
개발자들은 윈도에서 직접 3D 그래픽을 구현하길 원했다. 엔비디아의 제품은 윈도 생태계에서 호환이 제대로 되지 않았을 뿐만 아니라, 개발자들이 ‘듣보잡’ 회사 제품에 관심 자체가 없었다.
엔비디아는 100여 명의 직원 중 70%를 해고해야 했다.
더 큰 문제는 ‘직원’이 아니라 ‘시간’이었다. 그래픽카드를 다시 설계하고, 프로토타입을 만든 뒤 파운드리(제조사)를 오가는 테스트 과정에 통상 2년은 걸리기 때문이다. 그동안 경쟁사들은 가만히 있을까.
엔비디아는 100만 달러(약 13억 원)의 거금을 들여 이 과정을 대신할 수 있는 소프트웨어(에뮬레이터)를 구매했다.
개발한 그래픽카드의 기능이 여러 PC에서 잘 작동하는지, 호환에는 이상 없는지 등을 빠르게 확인하기 위해서였다. 아주 검증되지 않은 스타트업의 기술이었지만, 엔비디아에는 선택의 여지가 없었다.
엔비디아는 이를 통해 6개월 만에 두 번째 그래픽카드인 ‘RIVA 128’을 1997년 8월 선보였다. PC용 그래픽카드인 RIVA 128은 경쟁사보다 1년 이상 앞선 제품이었다.
게이머들 사이에서 금세 입소문이 나면서 RIVA 128은 4개월 만에 100만 대나 팔렸다. ‘스타크래프트’ 출시 등 ‘게임 황금기’로 불린 1998년 엔비디아는 410만 달러(약 54억 원)의 이익을 거뒀다.
다음 해 엔비디아는 미국 증시에 상장됐다. 황은 “휘청거렸던 때가 여러 차례 있었습니다. 하지만 전 무너뜨리기 가장 어려운 CEO라고 불립니다”라고 말했다.
참고로 RIVA 128 제품이 출시됐을 때 엔비디아에 남은 돈은 직원들 한 달 치 월급 정도였다고 한다. 이후 몇 년 동안 엔비디아는 직원 프레젠테이션 때 ‘우리 회사는 폐업까지 30일 남았다’는 말로 발표를 시작했다.
스타트업 대표가 TSMC에 보낸 편지...
황이 자신을 ‘좀비 CEO’로 칭한 데는 단순히 사업 위기를 극복했기 때문만은 아니다. CPU의 세상에서 GPU(Graphics Card, 그래픽카드)를 살려냈다는 의미이기도 하다.
젠슨 황에 따르면 인텔은 엔비디아를 여러 차례 퇴출하려고 시도했다. 황은 인텔과 엔비디아를 ‘톰과 제리’에 비유하면서 “인텔 근처에는 얼씬도 안 한다. 인텔이 가까이 올 때마다 나는 칩(GPU)을 들고 도망친다”고 말했다.
과거만 해도 GPU 시장은 틈새시장에 가까웠다. 당시 PC 시장은 훨씬 더 똑똑한 인텔의 중앙처리장치(CPU, Central Processing Unit)가 점령하고 있었다.
CPU는 사람이 디지털 기기에 특정 업무를 지시하면 이를 해독하고, 제어하고, 계산하는 장치다. 컴퓨터 ‘두뇌’라고 보면 된다. 인텔의 CPU는 1980년대 PC에 탑재된 이후로 거의 모든 분야에 사용됐다.
데이터 처리 시장에서 99%라는 어마어마한 점유율을 차지했었다. 인텔이 수십 년 동안 세계 최대 칩 제조업체로 자리할 수 있었던 이유다. (현재는 아님)
앞으로 언급할 유튜브 추천 알고리즘과 구글의 광고 추천, 챗GPT 등장에서 엔비디아의 역할을 이해하려면 CPU와 GPU의 차이를 알고 넘어가야 한다.
어렵고 복잡한 연산을 수행하는 CPU는 차례대로 업무를 수행하는 장치다.
저장한 엑셀 파일을 불러오고, 인터넷을 실행하고, 동영상을 재생하는 작업을 CPU가 한다. 반면, GPU는 복잡한 수학 작업을 아주 작은 계산으로 나눈 다음에 ‘병렬 컴퓨팅’이라는 방식으로 한꺼번에 처리한다.
대형마트에 장을 보러 간다고 생각해보자. 쇼핑카트를 직접 밀면서 쇼핑하는 것이 CPU다. 마트 통로를 돌아다니며 적어 놓은 쇼핑목록을 하나씩 집어넣고 계산대로 간다. 빠르진 않지만, 상대적으로 정확하게 할 수 있다.
GPU는 여러 사람에게 손바구니를 쥐여주고 각자 사 올 것을 지시하는 개념이다. 각자 흩어져 과일이나 화장지, 물, 고기 등을 담아온다. 손바구니에 TV나 청소기를 담아오긴 어렵지만,
크기가 상대적으로 작은 제품들을 빠르게(동시에 흩어져 가져오는 만큼) 쇼핑할 수 있다. 다량의 단순 업무를 수행할 때, 상대적으로 정확도보다 속도가 중요할 때 GPU가 적합하다는 의미다.
처음 GPU가 비디오게임용으로 개발된 것도 이러한 이유에서다.
이미지 픽셀들을 하나하나 명령해 동시에 모니터에 출력해야 하기 때문이다. CPU도 게임용으로 활용은 가능하지만, 1초당 화면이 수십 번 이상 바뀌는 게임에서는 GPU가 더 적합하다.
미 블룸버그통신은 “엔비디아가 존재하는 동안 가장 중요한 것은 인텔에 의해 파괴되지 않는 것”이라며 “게임은 엔비디아가 GPU라는 틈새시장을 개척하는 데 도움이 됐다”고 전했다.
엔비디아가 RIVA 128로 50억 원 이상을 벌었지만, 아직은 스타트업 수준. 그런데, 이때 엔비디아는 대만 TSMC와 위탁생산 계약을 맺었다. 믿기 어려운 일이었다.
2017년 TSMC 창립 30주년 행사에서 비밀이 밝혀졌다.
엔비디아는 사업을 시작하고 TSMC에 계속 접촉을 시도했지만, 번번이 씹혔다. 젠슨 황은 RIVA 128이 소기의 성과를 내고 나서 대만에 있는 모리스 창 TSMC 창업자에게 직접 편지를 써서 보냈다.
모리스 창은 편지를 읽자마자 젠슨 황에게 전화를 걸었다. 황과 직원들은 고객에게 보낼 RIVA 128 제품이 이상은 없는지 수작업으로 테스트하느라 정신이 없는 상황이었다.
처음 보는 전화번호에 황은 “누구시죠?”라고 물었고, 모리스 창은 자신이 누군지 밝히며 “편지 잘 받았다”고 인사했다. 몇 초 동안 전화에서 침묵과 환호성이 공존했다.
사업을 시작한 지 얼마 안 된 스타트업 대표가 이재용 삼성전자 회장의 전화를 받았다고 상상해보자. 일단 수화기를 막고 소리치지 않았을까. 딱 그 상황이다.
둘이 통화한 다음 해에 엔비디아는 TSMC와 장기 위탁생산 계약을 체결했다.
이때 맺어진 인연이 현재까지 이어지고 있다. 엔비디아가 이후 내놓은 ‘괴물 GPU’들을 시장에 안정적으로 공급할 수 있었던 데에는 TSMC의 역할이 컸다.
엔비디아와 개발자들의 첫 연결고리 ‘지포스’
엔비디아는 RIVA 128을 계속 업그레이드시켰는데, 1999년 공모전을 통해 그래픽카드의 이름을 지었다. ‘지오메트리 포스’를 줄인 ‘지포스(GeForce)’다. 이는 엔비디아의 첫 브랜딩 시도였다.
결국, 지포스는 수년간 엔비디아를 대표하는 상징이 됐다.
엔비디아는 1999년 8월 지포스 이름을 단 제품(지포스 256)을 선보였는데, 이 모델이 최초의 GPU(Graphics Card)로 꼽힌다. 이전에는 ‘그래픽카드’나 ‘그래픽칩’으로 불렸다.
지포스 256은 경쟁사 GPU들보다 성능이 5배가량 뛰어났다. 쉽게 말해, 경쟁사보다 더 좋은 화질을 더 빠르게 구현하는 기술을 내놨다는 의미다.
2000년 스탠퍼드대에서 컴퓨터 그래픽을 공부하던 대학원생 이안 벅은 23개의 지포스 GPU를 연결해 ‘퀘이크’라는 게임을 즐겼다. 그는 “8K 해상도의 첫 번째 게임 장비였다”며
“게임을 위한 장비가 벽 한쪽을 통째로 차지했는데, 정말 아름다웠다”고 회상했다.
지포스 시리즈는 단숨에 게임용 그래픽카드 시장을 평정했다. 2013년(엔비디아 설립 20주년) 기준 전 세계 PC의 70%가 엔비디아의 GPU를 썼다. 엔비디아는 MS 콘솔 게임기 엑스박스(Xbox)에 GPU를 공급하기도 했다.
마이크로소프트와 연간 5억 달러(약 6600억 원) 규모의 계약을 체결한 것으로 알려졌다. 엔비디아의 GPU가 다른 그래픽카드와 큰 차이를 보인 것 중 하나가 프로그래밍 도구인 ‘셰이더(Shader)’다.
조명, 입체감, 그림자 등을 개발자들이 직접 다룰 수 있는 프로그래밍 기능을 GPU(정확히는 지포스3)에 넣은 것. 엔지니어가 명령어를 넣는 일상 작업뿐만 아니라,
팔레트에 그림을 그리는 것처럼 창의성을 발휘해 화면을 구현할 수 있게 했다. 이러한 기술 개발은 사업적인 측면에서도 의미가 크다.
하드웨어 성능뿐만 아니라 (우리 하드웨어에서만 작동하는) 소프트웨어를 구축해 차별화한 것이기 때문이다. 애플이 아이폰뿐만 아니라 앱스토어를 만들어 개발자들이 각종 앱을 만들게 한 것과 유사하다.
엔비디아는 이후 개발한 프로그래밍 플랫폼 ‘쿠다(CUDA)’에서 이 같은 전략을 극대화한다.
엔비디아는 마이크로소프트와는 컴퓨터 프로그래밍 언어(CG)도 만들어 GPU 개발 생태계를 구축했다. 일각에서는 이때부터 ‘개발자’라는 개념이 생겨난 것으로 본다.
엔비디아가 기술적으로나 사업적으로 뛰어났던 또 다른 이유는 독보적으로 빠른 신제품 출시 간격이다.
엔비디아는 코로나19 시기를 제외하고는 거의 6개월마다 성능이 향상된 새 제품을 선보였다. 반면, 1년 반에서 2년마다 새로운 것을 내놨던 경쟁사들은 하나둘씩 조용히 사라졌다.
거대한 아르키메데스 지렛대...
그런데, 게임용 장치를 만들던 엔비디아는 어쩌다가 인공지능 분야에 뛰어들게 됐을까.
2000년대 초반 엔비디아가 그래픽카드 시장에서 한창 잘 나가고 있을 무렵 젠슨 황은 스탠퍼드대의 한 양자화학 연구원의 전화를 받았다. 그는 다짜고짜 “당신 덕분에 오래 걸릴 연구를 단번에 해치웠다. 감사하다”고 인사했다.
분자 관련 모델을 만들던 연구원은 단순 연산에 시간을 허비하고 있었다고 한다. 학교의 슈퍼컴퓨터를 이용해도 몇 주나 걸리는 작업이었다.
(초기 슈퍼컴퓨터가 CPU의 성능 위주로 구성돼 있었기 때문) 그런데 게임에 빠져 있던 아들이 단순 계산 작업이니 지포스(GPU)를 활용해보면 어떻겠냐고 제안했다.
연구원은 가전제품 매장인 프라이스에 가서 지포스 여러 개를 구매해 몇 시간 만에 연산을 해치웠다. 결과를 믿을 수 없었던 연구원은 스탠퍼드대의 슈퍼컴퓨터에서 똑같은 작업을 수행했다.
몇 주 뒤 나온 결과는 다르지 않았다.
황은 이를 통해 게임 화면 개선 이외에 GPU의 활용 가능성을 알아챘다. 그는 GPU를 ‘거대한 아르키메데스의 지렛대’라고 부르기 시작했다. 무거운 것(대규모 작업)을 들어 올릴 수 있는 GPU의 능력을 비유한 것이다.
GPU는 패턴과 관계를 인식하고, 추론하고, 예측하는 능력을 발휘하기 시작했다. 최근 10년 동안 인공지능 속도가 100만 배 이상 향상된 배경에는 엔비디아의 GPU가 있었다.
사실, 엔비디아의 GPU는 인공지능 열풍이 불기 한참 전부터 우리 일상에 스며들어 있었다. 유튜브 영상 추천, 인스타그램 피드, 구글 광고 등이 전부 GPU를 활용한 알고리즘으로 작동한다.
한국벤처창업학회장을 역임한 전성민 가천대 경영학 교수는
“엔비디아는 처음에는 핵심 고객인 게이머들을 만족시키기 위해 GPU 성능을 계속 발전시켜나갔다. 그 덕분에 알고리즘 추천이나 AI 등 새로운 시장에서 돋보일 수 있게 됐다”고 말했다.
물론, 단번에 엔비디아가 이를 실현한 것은 아니었다. 인공지능 시대를 준비하는 10년여 간의 과정이 있었다. 2012년 이미지 인식 대회에 참가해 세상을 놀라게 한 미 토론토대 연구원들 이야기 역시 빼놓을 수 없다.
‘게임 덕후’가 만든 슈퍼컴퓨터
1993년 미국 캘리포니아주 서니베일의 한 아파트 월세방에서 사업을 시작한 회사가 있었다. 게임 화질이 점차 중요해질 것으로 전망한 창업자들은 사업을 위해 각자 잘나가던 기술 회사까지 관뒀다.
한 차례 폐업 위기를 넘긴 이 회사는 2000년대 그래픽카드 ‘지포스(GeForce) 시리즈’로 게임 업계를 휩쓸었다. 반도체 기업 엔비디아 이야기다.
미 스탠퍼드대에서 컴퓨터 그래픽을 공부하던 대학원생 이안 벅은 공부만큼 게임을 좋아했다. 그는 2000년 23개의 지포스를 연결해 ‘퀘이크’라는 게임을 즐겼다.
그는 “8K 해상도의 첫 번째 게임 장비였다”며 “게임을 위한 장비가 벽 한쪽을 통째로 차지했는데, 정말 아름다웠다”고 회상했다. 이때만 해도 엔비디아는 게이머들 사이에서만 핫한 회사였다.
그런데, 벅처럼 게임과 컴퓨터를 모두 잘 아는 일부 연구원이 그래픽처리장치(GPU)를 게임 이외의 용도로 활용하기 시작했다.
분자 관련 모델을 만들던 한 연구원은 연산 작업에 대학에 있던 슈퍼컴퓨터 대신 전자 매장에서 구매한 GPU를 사용했다. 몇 주가 걸릴 일이 몇 시간 만에 끝났다.
한창 게임에 심취해 있던 벅도 GPU의 잠재력을 발견한 이들 중 하나였다. 그는 게임에서 친구들에게 수류탄을 던지는 것 말고도 다른 곳에 GPU를 사용할 수 있을지 궁금했다.
미국방위고등연구계획국(다르파·DARPA)의 지원을 받던 벅은 지포스의 프로그래밍 도구인 셰이더(上편 참고)를 해킹해 다량의 연산을 빠른 속도로 해치우는 슈퍼컴퓨터를 개발했다.
GPU를 활용한 ‘저예산 슈퍼컴퓨터’였다. 참고로, 미국 국방성 산하 핵심 연구개발 조직 중 하나인 다르파는 최초의 인터넷을 개발한 곳이기도 하다.
얼마 안 돼 엔비디아에 스카우트된 벅은 2004년부터 ‘쿠다(CUDA)’ 프로젝트를 감독했다. 2006년 등장한 쿠다는 엔비디아의 GPU에서만 작동하는 일종의 프로그래밍 툴이다.
그래픽카드를 그래픽 작업 이외의 용도로 활용할 수 있도록 엔비디아가 개발한 플랫폼(생태계)이다. 컴파일러, 런타임, 디버거 등(기자도 모른다. 걱정하지 말자) 여러 개발 도구들이 쿠다에 포함돼 있다.
개발자들이 기존에 만들어 놓은 것들을 불러내는 라이브러리 기능도 있다. 기초 작업이나 간단한 것들을 라이브러리에서 꺼내 쓰게 해 시간을 절약시켰다. (벅은 현재 엔비디아 부사장으로 재직 중)
젠슨 황 엔비디아 최고경영자(CEO)는 한 인터뷰에서 “모든 지포스 그래픽 카드에서 쿠다를 사용할 수 있도록 하는 것이 목표였다”며 “슈퍼컴퓨팅을 대중화하는 작업이었다”라고 회상했다.
엔비디아는 2006년 1초당 3조 회 이상의 수학 연산을 수행할 수 있는 차세대 프로세서(지포스 8800)를 출시했다. 연산 수행 능력을 끌어올리기 위해 그래픽 성능까지 일부 포기했다.
그래픽 구현보다 슈퍼컴퓨터로서의 성능에 초점을 맞춤 셈이다. 당시 미 뉴욕타임스(NYT)는 “수학적 기능을 갖추고 있는 8800은 (인텔) 슈퍼컴퓨터의 직접적인 경쟁자가 될 것”이라고 전했다.
GPU가 만든 피자
피자 제조업체부터 에너지 기업, 의료 회사까지 여러 기업 및 연구 기관에서 엔비디아의 GPU를 찾기 시작했다.
이들은 엔비디아의 GPU를 활용하면 인텔의 중앙처리장치(CPU)만 사용했을 때보다 업무 효율을 높일 수 있다는 사실을 알아챘다. 미국 식품 회사 제너럴밀스는 냉동 피자 제품을 개발하는 데 엔비디아의 GPU를 썼다.
냉동 피자를 완벽하게 만드는 일은 예술인 동시에 컴퓨터 문제다.
정교한 컴퓨터를 사용해 재료를 조합하면 실패하는 비용을 줄일 수 있다. 제너럴밀스는 엔비디아의 고성능 그래픽칩이 탑재된 컴퓨터를 선택해 작업 속도를 높였다.
미국 솔트레이크시티에 있는 의료 기기 회사 테크니스캔도 엔비디아의 GPU를 사용해 업무 효율을 높인 곳이다.
테크니스캔은 3차원 유방 스캔 장치에 엔비디아의 그래픽 프로세서를 도입했다. 기기는 스캔에서 발생한 데이터를 의료용 이미지 파일로 변환하는데, 인텔 프로세서만 사용했을 때 2시간 걸리던 작업이 15분으로 단축됐다.
테크니스캔의 엔지니어인 짐 하드윅은 “스캔 당 15분으로 단축하면 환자가 당일에 검사 결과를 얻을 수 있다. 굉장히 중요한 일”이라고 말했다.
미 최대 유전 탐사기업 슐룸베르거는 석유 매장지를 찾는데 엔비디아의 GPU와 쿠다를 활용했다. GPU로 석유 매장 징후를 스캔하는 알고리즘을 최적화 한 것.
슐룸베르거는 이를 통해 기존 컴퓨터보다 6배 이상 빠른 속도로 데이터를 분석할 수 있었다. 엔비디아 출신의 한 개발자는 “데이터 분석이 굉장히 중요했다.
‘여기 파보세요’라고 결정하는 데 1억 달러(1300억 원)가 걸려있었다”고 회상했다. 쉽게 설명해 엔비디아의 GPU가 연산 작업을 특출나게 잘해서 데이터 처리나, 시뮬레이션 시간을 굉장히 단축했다는 의미다.
수조 원 들어가는 신약 개발 과정을 떠올리면 시뮬레이션 시간을 줄이는 것이 얼마나 중요한 것인지 알 수 있다. 엔비디아의 사업이 마냥 순탄하지만은 않았다.
엔비디아는 모바일 기기에 진출하기 위해 고군분투했지만, 퀄컴에 밀려 결과적으로 실패했다. 엔비디아가 만든 태블릿PC, 텔레비전 셋톱박스, 스마트 스피커 등을 떠올릴 수 있는 사람은 거의 없을 것 같다.
2000년대 후반 리먼 브러더스 사태 때는 엔비디아도 휘청했다. 엔비디아의 기업가치가 고점 대비 80%나 추락했다. 젠슨 황은 전체 직원의 6.5% 수준인 360여 명을 해고해야 했다.
반도체 기업 AMD(황의 첫 직장이자 오늘날 엔비디아의 최대 라이벌)가 엔비디아를 인수하려고 했는데, 황이 합병 회사의 CEO 자리를 고집해 거래가 무산됐다는 이야기도 있다.
AMD는 대신에 그래픽 반도체 업체 ATI를 인수했다. 5년여 동안 20억 달러(약 2조7000억 원)를 쏟아부은 쿠다는 아직 제대로 된 수익을 창출하지 못하고 있었다.
이 시기 엔비디아의 분기당 매출이 1조 원 내외였던 것을 고려하면 어마어마한 투자였다. 쿠다 사용 개발자 수는 10만 명 근처에서 정체돼 있었다.
“엔비디아 칩 좀 공짜로 보내주실 수 있나요?”
엔비디아는 GPU 슈퍼컴퓨터 생태계를 포기하지 않았다. 2009년 1월 스탠퍼드대에서 최고 컴퓨터 과학자로 꼽히는 빌 달리(현 엔비디아 수석 과학자) 교수를 데려왔다.
같은 해 3월에는 처음으로 연례 개발자 콘퍼런스인 ‘GTC’를 개최했다. 컴퓨터 과학자인 제프리 힌턴 캐나다 토론토대 교수는 첫 GTC 행사를 찾았다가 영감을 얻었다. 그는 행사가 끝나고 엔비디아에 연락해 이렇게 말했다.
“방금 머신러닝 연구자 1000명에게 엔비디아 칩을 꼭 사야 한다고 이메일을 보냈어요. 그런데, 저 혹시… GPU 하나만 공짜로 보내주실 수 있을까요?”
힌턴 교수는 신경망을 기반으로 한 인공지능(AI)을 연구하고 있었다. 당시에는 인공 지능에 관한 연구가 지금처럼 활발하지 않았고, 한계에 봉착해 있었다.
수학이나 체스(또는 바둑)처럼 규칙과 정의가 명확한 분야에서만 작동했다. 논리적 추론이나 맥락에 대한 이해가 필요한 언어 등에서는 발전이 더뎠다.
예를 들어,
AI에 번역을 맡기려면 두 언어의 전체 문법과 모든 단어를 입력하고 각각의 단어와 문장을 대응시키는 수작업이 필요했다. 시간이 엄청나게 많이 걸리는 일일 뿐만 아니라, 중의적 표현을 완벽하게 소화해내지 못했다.
사물에 대한 인식에서도 장벽이 높았다. ‘고양이’를 인식하는 프로그램을 만든다고 치자. 먼저 고양이 이미지의 여러 요소를 분리해야 한다. ‘4개의 다리’와 ‘뾰족한 두 귀’, ‘수염’, ‘꼬리’ 등을 입력할 것이다.
그런 다음, AI에 귀가 접힌 스코티시폴드종 고양이를 보여주면 ‘고양이가 아닙니다’라는 답변이 돌아올 것이다. 최대한 상세하고 다양한 고양이 모습을 입력해놓을 수 있지만, 그 자체로 매우 많은 시간이 필요하다.
힌턴 교수는 기존과 다르게 인간의 뇌세포가 상호 작용하는 방식을 모방한 ‘인공 신경망’ 방식을 연구했다.
수천 장의 고양이 사진을 분석하고 그 안에서 패턴을 찾아내, 처음 본 고양이 사진도 고양이로 인식할 수 있게 만드는 것이다. 마치 어린아이가 사물을 인식하는 방식과 유사하다. 딥러닝 기술의 기본 개념이다.
그런데, ‘뉴런(신경세포)’이 문제였다. 평균적으로 인간의 뇌에는 약 1000억 개의 뉴런이 있는 것으로 알려졌다. 각각의 뉴런은 최대 1만여 개의 다른 뉴런과 연결돼 있다.
뉴런 간 접점이 100조에서 1000조 개 사이라는 뜻이다. 인간의 뇌를 흉내 내려면 컴퓨터가 뉴런들의 상호작용만큼 어마어마한 연산 능력을 발휘해야 한다. 인공 신경망 개념이 1940년에 등장하고도 진전이 없었던 이유다.
힌턴 교수는 GTC에서 답을 찾아냈다. 엔비디아 GPU의 병렬식 연산 능력이면 인공 신경망 구축이 가능할 수 있다고 판단한 것이다.
인공지능 시대의 선구자들
엔비디아는 제안을 거절했고, 힌턴 교수와 토론토대 조교들(일리야 수츠케버, 알렉스 크리제브스키)은 아마존에서 지포스 그래픽카드 2개(GTX 580)를 구입했다.
조교들은 엔비디아의 쿠다에서 시각 인식 신경망을 훈련하기 시작했다.
일주일 동안 수백만 개의 이미지를 공급했다. 힌턴 교수는 “크리제브스키 집 침실에서 2개의 GPU가 윙윙거리며 학습했다”며 “전기세는 부모님이 내주셨다고 한다”고 말했다.
인공 신경망에 ‘알렉스넷(AlexNet)’이라는 이름을 붙인 크리제브스키는 2012년 시각 인식 경연대회(ImageNet)에서 이를 선보였다. 인공 신경망을 사용한 참가자는 크리제브스키가 유일했다.
크리제브스키는 이전 대회에서 25% 수준이었던 오류율(딸기, 고양이, 강아지 같은 이미지에 라벨을 잘못 붙이는)을 15%까지 떨어뜨리며 1등을 차지했다. 대회 주최 측은 처음에는 부정행위를 의심했다.
그 정도로 큰 진전이었다.
알렉스넷에 대한 설명이 담긴 9쪽 분량의 크리제브스키의 논문은 이후 10만 번 이상 인용됐다. 엔비디아 그래픽카드 같은 특수 GPU가 범용 CPU보다 신경망을 최대 100배 빠르게 훈련할 수 있다는 내용이 논문의 핵심이다.
조교 중 한 명인 수츠케버는 “GPU가 나타났을 때 기적처럼 느껴졌다”고 표현했다. 힌턴 교수는 “쿠다 없이 머신러닝을 하는 것은 거의 불가능한 일”이라며 “패러다임이 바뀌는 빅뱅 같은 순간이었다”고 강조했다.
이름이 알려진 힌턴 교수와 일리야 수츠케버, 알렉스 크리제브스키는 회사를 차렸는데, 반년도 안 돼 구글에 인수됐다. 이들은 구글의 인공지능 연구팀 구글 브레인에 합류해 그렉 코라도, 제프 딘, 앤드류 응 등의
(현재 전설적인 인물로 꼽히는) 연구원들과 힘을 합쳤다.
비슷한 시기 페이스북(현 메타)도 당시에도 굉장히 유명했던 컴퓨터 과학자 얀 르쿤 뉴욕대 교수(현재 AI 천왕 중 한 명으로 꼽힘, 힌턴 교수실에서 연구한 적 있음)를 영입했다.
구글과 페이스북은 저명한 학자들을 서로 모셔가면서 ‘인공지능 연구자 독과점 체제’를 구축해나갔다. 구글 브레인 팀이 맡은 가장 큰 프로젝트는 당시 적자투성이였던 ‘유튜브’를 되살리기는 것이었다.
구글 브레인은 고객이 좋아할 만한 동영상을 파악하고 추천하는 방식으로 알고리즘을 다시 짰다.
또, 유튜브 비디오를 웹사이트나 블로그에 올릴 수 있게 해 유튜브를 단순 동영상 서비스가 아닌 소셜미디어 플랫폼으로 인식하도록 만들었다. 유튜브 동영상을 자동으로 재생하게 만든 것도 이들이 한 작업 중 하나였다.
이러한 기술들은 인공지능 연구에서 나온 것이고, 구글 브레인은 엔비디아의 GPU를 사용했다. 얀 르쿤 교수의 페이스북도 유튜브처럼 AI를 기반으로 비즈니스를 강화하기 시작했다.
인공지능 연구를 기반으로 페이스북과 인스타그램에서 고객에게 어떤 콘텐츠를 먼저 보여줄지를 결정했다. 우리가 매 순간 맞이하는 고객 맞춤형 광고도 비슷한 과정을 거쳐 나왔다.
그러자, 실리콘밸리에서 소수의 빅테크 기업이 인공지능 학자들을 독과점하고 있다는 비판이 나오기 시작했다.
업계에서 주목받던 일론 머스크 테슬라 CEO와 샘 올트먼 와이콤비네이터(현 오픈AI 최고경영자) 대표가 2015년 실리콘밸리 로즈우드 샌드힐 호텔에 구글과 페이스북의 주요 AI 연구원들을 초대했다.
이들은 저녁 식사에서 “현재의 독과점 구조를 깨려면 어떻게 해야 하나, 무엇을 지원해주면 될까”라고 물었다. 연구원들은 “불가능한 일”이라며 시큰둥했다. 회사의 지원이 충실해 어디로도 이직할 마음이 없다는 뜻이었다.
딱 한 명, 힌턴 교수의 제자 일리야 수츠케버만 흥미를 보였다.
수츠케버는 구글에서 머스크와 올트먼이 지원하는 비영리 연구소(설립 당시 비영리 목적이 뚜렷했음)의 수석 과학자로 자리를 옮겼다. 2015년 문을 연 챗GPT의 ‘오픈AI’였다.
“일론과 오픈AI 팀을 위하여!”
오픈AI는 사업 초기부터 인공지능 언어 모델에 집중했는데, 당시에는 사람처럼 말하게 하는 AI라는 개념이 생소했다. 오픈AI 연구원들은 인공 신경망 개념의 연장선상에서 알고리즘을 고민하기 시작했다.
엔비디아 유튜브 채널에 오픈AI의 수츠케버와 동료 개발자 안드레이 카르파티가 등장한 2016년 동영상이 있다.
영상에서 카르파티는 “대규모의 데이터를 네트워크에 입력하면 문장에서 단어들이 서로 이어지는 패턴을 파악할 수 있다. 결국에는 사람들이 서로 대화하는 것처럼 컴퓨터와 대화하는 데 사용할 수 있을 것”이라고 말했다.
2017년 구글 브레인 팀이 한발 앞서 ‘트랜스포머’라는 모델로 이를 구체화했다. 참고로 트랜스포머는 챗GPT에서 T의 약자다. 단어와 단어, 문장과 문장 사이의 확률 관계들을 사전에 학습시켜 인간처럼 언어를 구사하게 한 것.
쉽게 설명하면, 컴퓨터가 A, B 다음 나올 철자가 C라는 것을 유추하게 만드는 개념이다. 번역할 때 맥락을 파악하는 일이기도 하다. 추리 소설로 비유할 수도 있다.
사람이 소설책을 끝까지 읽고 ‘확률적으로’ 범인을 예측하는 것처럼 인공지능이 비슷한 작업을 할 수 있다는 뜻이다. 원리는 간단하지만, 이를 실현하는 게 쉬운 일은 아니다.
범인을 정확하게 예측하려면 이해관계부터 정황, 각종 증거 등을 전부 이해해야 하기 때문이다. 이 같은 아이디어를 현실화하려면 엄청난 양의 연산 작업(학습)이 수반돼야 한다.
컴퓨터가 수행해야 할 작업이 어마어마해지는 셈이다. 연산 방식도 달라져야 한다. 번역을 예로 들면, 이전에는 문장을 단어들로 분리해 먼저 나오는 것부터 순서대로 연산 과정을 거쳐 대응 값을 출력했다.
맥락과 앞뒤 단어 사이의 관계성을 측정하는 트랜스포머 방식에서는 이를 동시에 할 수 있는 ‘병렬 방식’의 연산이 필요하다. 엔비디아의 GPU가 중요해졌다.
엔비디아는 2016년 오픈AI의 주문을 받아 12만9000달러(약 1억7000만 원)짜리 AI 용 서버를 만들었다. 서류 가방 크기로 8개의 그래픽 프로세서가 탑재된 이 슈퍼컴퓨터는
기존 컴퓨터에서 6일 이상 걸리는 작업을 2시간 만에 처리했다. 젠슨 황은 오픈AI 사무실에 슈퍼컴퓨터를 직접 전달하면서 슈퍼컴퓨터에 응원 메시지와 사인을 적었다.
“일론(머스크)과 오픈AI 팀을 위하여! 컴퓨팅과 인류의 미래를 위하여!”
오픈AI는 2018년 6월 첫 대형 언어 모델인 ‘GPT-1’을 선보였는데, 이 과정에서 돈이 곧 경쟁력이라는 사실을 깨우쳤다. 오픈AI는 챗GPT 첫 번째 버전인 GPT-1에 1억2000만 개의 변수(파라미터)를 학습시켰다.
다음 해 나온 GPT-2는 15억 개를 훈련했다. GPT-3(2020년 6월 출시)는 1750억 개, GPT-4(지난해 3월)는 1조7000억 개(추정)의 매개변수를 학습했다.
공부를 많이 할수록(학습시킨 변수가 많을수록) 챗GPT는 똑똑해졌지만, 그만큼 뛰어난 연산 능력이 필요했다. 비싼 엔비디아 GPU가 많이, 정말 많이 필요했다.
천문학적인 연구비를 조달하기 위해 비영리법인인 오픈AI는 2019년 영리법인을 자회사로 만드는 독특한 결정을 내리게 됐고, 결국 마이크로소프트(MS)에서 130억 달러(약 17조 원) 등 거금을 투자받았다.
되살아난 ‘그레이스 호퍼’
챗GPT가 굉장히 빠른 속도로 1억 명의 사용자를 모으면서 오픈AI에 투자한 MS에 먼저 관심이 쏠렸지만, 전문가들은 진정한 승자는 엔비디아라고 말한다. (연일 치솟는 엔비디아의 주가가 이를 증명해주는 듯하다)
엔비디아가 전 세계에서 가장 뜨거운 기업이 될 수 있었던 것은 결코 우연이 아니다. 준비된 회사였기 때문에 행운을 잡을 수 있었다.
챗GPT가 세상에 등장하기 전까지 AI는 기존 서비스의 효율성을 높이거나 수익성을 강화하는 방편으로만 존재했다. 인공지능 비즈니스 시장이 존재하지 않았다는 의미다.
그런데도 엔비디아는 불투명한 미래에 과감하게 배팅했다.
젠슨 황은 지난해 대만국립대 졸업식 연설에서 “이 새로운 분야(AI)를 발전시키기 위해 회사의 모든 부분을 전환했다”며 “지난 10년간 여기에 300억 달러(약 40조5000억 원) 이상을 투자했다”고 강조했다.
먼저, ‘쿠다’가 있었다. 앞서 언급한 것처럼 엔비디아는 인공지능이나 관련 알고리즘 개념이 생기기도 전에 개발자들과 관계를 구축할 수 있는 플랫폼을 만들었다.
엔비디아는 2006년 쿠다 출시 이후 4년 동안 개발자 10만 명을 모으는 데 그쳤지만, 쿠다에 대한 지원을 줄이지 않았다. 그 결과, 2016년 100만 명의 개발자가 쿠다에 모였다.
현재는 400만 명의 개발자가 쿠다를 사용하고 있다. 2020년에는 이스라엘의 작은 반도체 회사 멜라녹스를 70억 달러(약 9조4000억 원)에 인수해 업계를 놀라게 했다.
컴퓨터 네트워킹 공급업체인 멜라녹스는 대규모 데이터를 빠르고 원활하게 이동시키는 기술력을 가지고 있었는데, 이때만 해도 기존 기술(이더넷)로 충분해 비싸게 샀다는 말이 많았다.
시간이 지나고 나서야 멜라녹스의 기술력이 빛을 뽐냈다. AI 연구개발로 여러 CPU와 수십 개가 넘는 GPU 등이 결합하면서 칩 간의 원활한 데이터 이동이 중요해졌다. (인텔도 멜라녹스를 사려 했는데 엔비디아에 뺏겼다)
2022년, 엔비디아는 완전히 새로운 칩을 발표했다.
데이터센터 전용으로 쓸 수 있는 ‘그레이스 CPU’다. 엔비디아는 그동안 슈퍼컴퓨터를 만들 때 AMD나 인텔의 CPU를 라이선스 비용을 내고 구매해 넣어왔다. 그러다가 직접 CPU까지 개발했다.
같은 해 9월, GPU에서도 변화가 있었다. 엔비디아 GPU 시리즈는 게임용 그래픽카드든 데이터센터용이든 동일한 설계방식(아키텍처)을 사용했는데, 이를 분리했다.
데이터센터 전용으로 설계한 GPU를 내놓은 것. 이 칩이 호퍼 GPU, ‘H100’이다. 제품들의 이름은 컴퓨터 프로그래밍 기술 발전을 주도한 여성 과학자 ‘그레이스 호퍼(1906~1992)’에서 가져왔다.
MS + 애플 = 엔비디아
엔비디아는 지금까지 준비한 모든 것을 한 번에 이용할 수 있는 클라우드 서비스(DGX)를 지난해 선보였다.
호퍼 GPU와 그레이스 CPU, 칩 간의 뛰어난 데이터 네트워크 능력, 소프트웨어 개발 플랫폼 쿠다 등 AI 개발 전반에 걸쳐 필요한 기술들을 총망라했다.
DGX 월 구독료만 내면 비싼 GPU를 사지 않고도 엔비디아의 최신 GPU와 기술들을 이용할 수 있다. H100 GPU 8개를 탑재한 DGX의 월 구독료는 서버당 3만7000달러(약 5000만 원) 수준이다.
H100 GPU의 가격은 1대당 3만 달러(약 4000만 원)로 알려져 있다.
AI 기업이 서비스 개발을 하려면 (엔비디아 GPU를 많이 사서) 데이터센터를 직접 조성하거나, (엔비디아 GPU를 많이 구매해놓은) MS 같은 클라우드 업체에 요금을 내고 데이터센터를 빌려 써야 한다.
엔비디아는 MS, 구글, 오라클 등 클라우드 회사들과 파트너십을 맺었다. AI 회사들은 MS 등을 통해서 엔비디아의 DGX 소프트웨어를 이용할 수 있다.
엔비디아는 자사 클라우드를 이용하면 AI 개발에 필요한 모든 것을 한 번에, 저렴하게 이용할 수 있다고 홍보하고 있다. 젠슨 황은 비용 이야기가 나올 때마다 “우리는 고객의 비용을 줄여주는 회사”라고 강조했다.
클라우드 업체를 이용해도 엔비디아 GPU를 사용하는 것이니, 업체에 이용료를 내지 말고 엔비디아 클라우드를 곧바로 쓰라는 의미로 보인다.
그동안 개발자들은 엔비디아를 마이크로소프트와 유사한 측면이 있다고 봤다. 엔비디아가 표면적으로는 반도체나 데이터센터 장비를 생산해왔지만, MS처럼 운영 체제나 프로그래밍 환경 등도 조성해왔기 때문이다.
애플과 비슷한 면도 있다.
엔비디아 플랫폼은 애플의 모바일 운영 체제 iOS(앱스토어)처럼 폐쇄적이다. 쿠다의 AI 개발 프레임워크나 도구, 라이브러리가 엔비디아 GPU에서만 작동한다. 쿠다를 사용하는 한, 엔비디아 칩을 써야만 한다.
애플이 아이폰을 판매하고 이후 구독 등 서비스로 이익을 거둔 점도 유사하다.
엔비디아는 현재 클라우드 서비스를 판매 중이다. 젠슨 황은 최근 여러 행사에서 “우리는 아이폰이 등장한 순간과 같은 혁명을 AI 분야에서 맞이하고 있다”고 말했다.
선택받은 ‘칩’
엔비디아는 지난해 4분기 매출 29조5000억 원, 순이익 16조4000억 원의 실적을 기록했다. 순이익률이 55.6%에 달했다. 지난해 분기 마진율(매출총이익률)이 70%가 넘게 나온 적도 있었다.
(쿠다가 등장하기 전에는 마진율이 20%대였음)
엔비디아가 AI 관련 시장에서 독점적 영역을 구축하고 놀랄 만큼 높은 이익을 거두자 빅테크들도 대응에 나서기 시작했다.
구글은 AI 연구개발에서 엔비디아 GPU를 대신할 수 있는 자체 칩(TPU)을 개발해 일부 사용하기 시작했다. 구글, 인텔, 퀄컴 등은 엔비디아 생태계에 맞서겠다며 손까지 잡았다.
로이터통신에 따르면 구글과 인텔, 퀄컴 등은 ‘UXL 재단’이라는 기술 컨소시엄을 구성해 ‘원API’라는 오픈소스 프로젝트를 추진하고 있다.
해당 프로젝트는 어떤 반도체 칩이나 하드웨어에 상관없이 모든 컴퓨터에서 작동하는 소프트웨어를 구축하는 것을 목표로 하고 있다. 반도체 분야에서 iOS와 안드로이드 싸움을 보는 듯한 느낌이다.
엔비디아를 대체할 수 있는 기업이 나올 수 있을까. 단기간에는 쉽지 않아 보인다. AMD나 구글이 엔비디아 못지않은 GPU를 ‘짠’하고 설계했다고 치자. 여기서 그쳐선 안 된다.
엔비디아가 멜라녹스를 인수하며
강화한 고속 커뮤니케이션 네트워크(NVLink)까지 갖춰야 한다. (멜라녹스만 한 회사가 아직 시장에 없다고 알려짐) 엔비디아의 DGX처럼 서버를 구축하려면 하드웨어 조립업체도 찾아야 한다.
더 큰 장벽이 있다. 쿠다 만큼 우수한 소프트웨어 플랫폼을 구축해야 한다. 쿠다 개발에는 수천 명의 전문가와 수조 원이 투입됐다. 무엇보다 쿠다에 대응하는 플랫폼을 내놓더라도 개발자들을 설득해야 한다.
개발자 400만 명의 ‘네트워크 효과’가 얼마나 강력한지 알 수 없지만, 카카오톡 대신 다른 SNS를 쓰게 만드는 것만큼 어려워 보인다.
아, 경영진도 설득해야 한다. “시장에서 증명된 엔비디아를 두고 왜 다른 회사 제품을 구매해?”라는 답변이 돌아올 수 있다. 브랜드 파워가 이렇게 무섭다.
그런데, 빅테크 기업들이 대응책을 마련하는 동안 엔비디아는 가만히 있을까. 엔비디아는 6개월마다 신제품을 내놓는 괴물 같은 회사다.
동아일보 김 성모 기자
