칩이 아니라 자물쇠를 팔았다 — 엔비디아 CUDA, 20년 묵힌 해자의 경영학

2026년 2월, 엔비디아가 회계연도 2026년(2025년 2월~2026년 1월) 실적을 공개했다. 연간 매출 2,159억 달러, 그중 데이터센터만 1,937억 달러. 1년 전 회계연도 2025년의 데이터센터 매출 1,152억 달러에서 다시 68% 늘어난 숫자다. 그 1,152억 달러도 그 전해 대비 142% 증가한 기록이었다. 2년 만에 데이터센터 사업 하나가 여섯 배 가까이 부풀었다.

그런데 같은 해, 엔비디아를 둘러싼 문장은 정반대로 바뀌고 있었다. 구글은 TPU를 외부에 팔기 시작했고, 아마존은 3nm 트레이니엄3를 내놨고, 앤스로픽은 수십만 장 규모의 트레이니엄 위에서 모델을 돌린다고 밝혔다. AMD의 ROCm 다운로드는 1년 새 열 배가 됐다. “해자가 무너진다”는 기사와 “역대 최대 실적”이라는 기사가 같은 주에 나란히 실렸다.

둘 다 사실이다. 그래서 질문을 다시 세워야 한다. 엔비디아가 20년 전에 판 것이 칩이 아니라 자물쇠였다면, 지금 그 자물쇠는 어디가 여전히 잠겨 있고 어디가 헐거워졌는가. 그리고 우리 회사는 그 구조에서 무엇을 베낄 수 있는가.

수요가 없던 시장에 6년을 먼저 깔았다

2006년 엔비디아의 주력은 게임용 그래픽카드였다. 그런 회사가 GPU를 범용 병렬연산에 쓰게 해주는 소프트웨어 계층, CUDA를 내놨다. 문제는 그 수요가 시장에 사실상 없었다는 점이다. 딥러닝은 학계 변두리였고 게이머는 CUDA에 관심이 없었다. 그럼에도 엔비디아는 이후 수년간 컴파일러·라이브러리·문서·대학 교육에 자원을 계속 밀어 넣었다.

경영학 용어로는 비대칭 베팅이다. 실패해도 손실은 감당 가능하고, 성공하면 판을 통째로 가져오는 구조. 2012년 AlexNet이 GPU로 이미지 인식 성능을 뒤집었을 때, 그 계산을 돌릴 성숙한 플랫폼은 이미 CUDA뿐이었다. 남들이 “GPU로 AI가 되는구나”를 깨달은 순간 엔비디아는 이미 6년 치를 앞서 있었다.

2025년 GTC 기조연설에서 젠슨 황은 그 20년의 결산을 숫자로 읽었다. 200개국 넘는 곳의 개발자 600만 명이 CUDA를 썼고, 그 위에 얹힌 CUDA-X 라이브러리가 900개를 넘는다는 것. 칩 스펙 이야기는 거기 없었다. 자랑한 건 사람 수와 라이브러리 수였다.

락인이 살아 있다는 증거 — 심지어 우회조차 안에서 일어난다

2025년 초, “딥시크가 CUDA를 우회했다”는 기사가 세계를 돌았다. 딥시크가 V3를 학습시키면서 CUDA C++ 대신 엔비디아의 저수준 명령어 집합인 PTX로 커널을 직접 짰다는 내용이었다. H800 GPU의 스트리밍 멀티프로세서 132개 중 20개를 통신 전용으로 떼어내는 식의 손질까지 했다.

여기서 결론이 뒤집힌다. PTX는 CUDA 바깥이 아니다. 엔비디아가 정의한, 엔비디아 GPU에서만 도는 중간 명령어 집합이다. 락인을 깨겠다며 한 일이 결과적으로는 엔비디아 하드웨어 안쪽으로 한 층 더 내려간 셈이다. 이게 성숙한 플랫폼의 특징이다. 탈출 시도조차 플랫폼이 미리 깔아 둔 계단을 밟는다.

전환비용은 코드 줄 수로 계산되지 않는다. 커널을 다시 검증하는 시간, 성능 회귀의 원인을 찾을 사람, 신입이 첫 주에 참고할 답변 글, 논문 저자가 올려둔 재현 코드. 전부 CUDA 문법으로 쓰여 있다. 칩이 20% 싸다는 이유로 이걸 한꺼번에 다시 만들 조직은 드물다.

그런데 물은 세 군데에서 새고 있다

해자가 두껍다는 말과 해자가 안전하다는 말은 다르다. 2025~2026년에 실제로 벌어진 균열은 세 갈래다.

첫째, 큰손이 직접 칩을 만든다. 구글은 7세대 TPU 아이언우드를 2025년 말 정식 공급에 올렸고, TPU를 외부 고객에게 파는 쪽으로 방향을 틀었다. 아마존은 2025년 12월 첫 3nm 칩인 트레이니엄3를 내놨다. 앤스로픽은 인디애나 데이터센터에서 트레이니엄2 수십만 장 규모로 학습을 돌린다고 공개됐고, 메타 역시 2026년부터 구글 TPU를 빌려 쓰는 계약을 논의 중인 것으로 보도됐다. 엔비디아의 데이터센터 AI 가속기 점유율은 기관마다 추정이 갈리지만 대체로 80% 안팎으로, 몇 해 전 90%대에서는 내려온 수준으로 언급된다.

둘째, 소프트웨어 층이 위로 올라갔다. 요즘 대부분의 팀은 CUDA를 직접 만지지 않는다. PyTorch를 쓰고 서빙은 vLLM에 맡긴다. vLLM은 어텐션 백엔드를 트리톤(Triton)으로 구현해 NVIDIA·AMD·인텔 GPU에서 같은 소스가 돌게 만들었다. 손으로 깎은 CUDA 커널보다 아직 느린 구간이 있지만 격차는 좁혀지는 중이다. 락인이 걸려 있던 지점이 개발자의 손끝에서 프레임워크 안쪽으로 밀려 들어갔다는 뜻이다.

셋째, 무게중심이 학습에서 추론으로 옮겨간다. 학습은 최고 성능 하나를 사는 게임이라 CUDA 생태계가 압도적으로 유리하다. 추론은 다르다. 워크로드가 고정돼 있고 승부는 토큰당 비용과 전력당 처리량에서 난다. 커스텀 칩이 파고들기 딱 좋은 자리다. 회계연도 2026년 4분기 발표에서 젠슨 황이 그레이스 블랙웰을 “오늘날 추론의 왕”이라 부르며 토큰당 비용을 앞세운 것 자체가, 전선이 어디로 옮겨갔는지를 보여준다.

해자는 층마다 다른 속도로 닳는다

세 층을 나눠 보면 지금 상황이 정리된다. 맨 위 제품 스펙 층은 가장 빨리 닳는다. AMD MI350 시리즈는 이전 세대 대비 추론 성능을 크게 끌어올렸고, AMD의 2025년 3분기 데이터센터 매출은 43억 달러로 22% 늘었다. 칩 성능만 놓고 겨루면 격차는 세대마다 좁아진다.

가운데 전환비용 층은 중간 속도로 닳는다. 트리톤과 vLLM 같은 추상화가 정확히 이 층을 갉아먹는다. 국내에서도 리벨리온·퓨리오사AI가 CUDA에 종속되지 않는 자체 SDK를 전제로 추론 시장을 노리는 이유가 여기 있다.

맨 아래 생태계 락인 층은 가장 느리게 닳는다. 600만 명의 습관, 900개가 넘는 라이브러리, 20년 치 논문과 재현 코드는 경쟁사가 돈으로 살 수 없다. 다만 이 층에도 조건이 붙는다. 개발자가 CUDA를 직접 쓰지 않게 되면, 습관은 CUDA가 아니라 PyTorch에 쌓인다. 엔비디아의 진짜 장기 리스크는 AMD의 칩이 아니라, 아무도 자기 이름을 부르지 않게 되는 상황이다.

실무 적용 — 우리 제품에 전환비용을 심는 법

엔비디아 사례를 “반도체 회사의 운 좋은 대박”으로 읽으면 남는 게 없다. 규모와 무관하게 옮겨 심을 수 있는 건 다음 다섯 가지다.

• 고객이 우리 위에 ‘자기 자산’을 쌓게 하라. 한 번 쓰고 끝나는 기능 말고, 쓸수록 고객 소유의 결과물이 누적되는 구조를 하나 만들어라. 축적된 설정·템플릿·워크플로·라벨링 데이터가 많아질수록 이탈 견적이 커진다. 지표는 ‘가입자 수’가 아니라 ‘계정당 누적 자산량’이다.
• 수출은 열어 두되, 재현은 우리 안에서만 되게 하라. 데이터를 못 빼가게 막으면 신뢰를 잃고 규제를 부른다. 대신 원본 파일이 아니라 그 위에서 도는 자동화·연동·히스토리를 우리 안에 두면, 파일은 나가도 업무는 못 나간다. CUDA가 코드는 열되 실행 하드웨어를 잠근 것과 같은 구조다.
• 도구를 무료로 뿌려 진입 마찰을 0으로 낮춰라. 락인은 비싸게 굴어서 생기지 않는다. SDK·CLI·플러그인·샘플 코드를 무료로 열고, 첫 성공까지 걸리는 시간을 분 단위로 줄여라. 엔비디아가 CUDA 툴킷을 공짜로 푼 건 자선이 아니라 유통 전략이었다.
• 학습 자료가 곧 해자다. 문서에 사람을 배치하라. 신규 사용자가 검색해서 답을 찾는 경로가 우리 문서·커뮤니티로 수렴하면, 경쟁사는 제품뿐 아니라 20년 치 Q&A를 함께 이겨야 한다. 문서 담당을 마케팅 예산이 아니라 제품 예산으로 잡아라.
• 1년에 한 번은 ‘고객이 우리를 떠나는 시나리오’를 직접 써 봐라. 경쟁사 도구로 마이그레이션을 팀 내부에서 실제로 시도해 보고, 걸린 시간과 막힌 지점을 기록한다. 그게 우리 전환비용의 실측값이다. 그 숫자가 매년 줄고 있다면 — 지금 vLLM이 CUDA에 하는 일이 우리에게도 벌어지고 있는 것이다.

마무리

20년 전 엔비디아는 아무도 사지 않는 소프트웨어에 돈을 태웠고, 그 결정이 회계연도 2026년 1,937억 달러의 데이터센터 매출로 돌아왔다. 동시에 그 해자는 위층부터 닳기 시작했다. 두 문장은 모순이 아니다. 해자는 파 놓은 순간부터 메워지고, 유지 비용을 계속 내는 쪽만 남는다.

그래서 물어볼 것은 하나다. 우리 고객이 내일 경쟁사로 옮긴다면, 그가 잃는 것은 정확히 무엇인가. 답이 “가격 할인”뿐이라면, 우리에게는 해자가 없다.

본 글은 경영 사례 해설이며, 특정 종목의 매수·매도를 권유하지 않습니다. 엔비디아 회계연도는 1월 말에 끝나므로 FY2025는 2024년 2월~2025년 1월, FY2026은 2025년 2월~2026년 1월에 해당합니다. 점유율 등 추정치는 조사기관마다 편차가 있으며, 시점 의존 수치는 열람 시점 기준으로 재확인이 필요합니다.

작성 · Inkmoat 편집팀 — 최신 경영학 논문과 비즈니스 케이스를 1차 출처 기준으로 큐레이션합니다. 본 콘텐츠는 정보·해설 목적이며 투자 권유가 아닙니다.