젠슨 황이 말한 AI의 미래는? NVIDIA(엔비디아) GTC 2026 키노트 요약
젠슨 황이 말한 AI의 미래는 무엇일까요? NVIDIA GTC 2026 키노트 요약을 통해 확인해 보세요.
Apr 07, 2026
지난 3월 17일, “인공지능이라는 5층짜리 케이크의 모든 층을 다룰 것입니다.”라는 말과 함께 시작된 젠슨 황의 NVIDIA GTC 2026 키노트(기조 연설). 약 140분 동안 그는 AI가 어디까지 왔는지, 앞으로 어디로 향할지, 그리고 그 미래를 엔비디아가 어떤 방식으로 준비하고 있는지를 큰 그림으로 보여줬습니다.
이번 키노트는 토큰, 추론, 에이전트 AI, 로보틱스처럼 앞으로의 산업을 바꿀 핵심 흐름을 한 번에 정리했는데요. 그래서 이번 아티클에서는 젠슨 황이 말한 AI의 미래를 8가지 핵심 주제로 쉽게 요약해 봤어요.
1. AI의 기본 단위가 된 토큰
이번 키노트에서 젠슨 황이 가장 자주 꺼낸 단어 중 하나는 단연 토큰이었어요. 그는 토큰을 지금의 AI를 움직이는 가장 기본적인 단위라고 설명했습니다. 우리가 챗봇에 질문을 입력하고 답을 받는 과정, 이미지나 영상을 생성하는 과정, 로봇이 주변 환경을 이해하는 과정까지 모두 토큰을 바탕으로 돌아간다는 뜻이죠. 쉽게 말해, 토큰은 AI가 세상을 읽고 이해하고 만들어내는 데 쓰는 가장 작은 재료라고 볼 수 있습니다.
여기서 더 흥미로웠던 건, 젠슨 황이 데이터 센터를 단순히 데이터를 저장하는 공간이 아니라 토큰을 생산하는 공장, 즉 AI 팩토리라고 정의했다는 점이에요. 예전 공장이 자동차나 반도체를 만들었다면, 앞으로의 공장은 지능을 만드는 재료를 생산하게 된다는 얘기죠. 그래서 앞으로 기업은 AI 시스템이 얼마나 빠르고 효율적으로 토큰을 만들어낼 수 있는지에 대해 중요하게 보게 될 가능성이 큽니다. 결국 AI 시대의 경쟁력은 모델이 돌아갈 수 있도록 받쳐주는 인프라에서도 갈린다는 것이죠.
2. 이제는 학습보다 추론이 중요한 시대
이번 발표에서 젠슨 황이 특히 강하게 밀었던 표현은 바로 추론의 변곡점이었습니다. 여기서 추론은 AI가 이미 배운 내용을 바탕으로 생각하고, 판단하고, 답을 만들고, 실제 행동으로 연결하는 과정을 말합니다. 예전에는 ’얼마나 큰 모델을 학습시킬 수 있느냐‘가 AI 업계의 핵심 질문이었다면, 이제는 ’AI가 실제 상황에서 얼마나 잘 생각하고 일할 수 있느냐‘가 더 중요해졌다는 뜻이죠.
이 변화가 중요한 이유는 AI의 역할 자체가 달라졌기 때문이에요. 과거의 AI는 분류를 하거나, 질문에 답하거나, 검색을 돕는 수준에 머무는 경우가 많았지만, 이제는 여러 단계를 나눠 문제를 풀고 실제 업무를 처리하는 쪽으로 발전하고 있습니다. 젠슨 황이 “지난 2년 동안 컴퓨팅 수요가 100만 배 증가했다”고 말했는데요. AI가 한 번 훈련하고 끝나는 기술이 아니라 계속해서 생각하고 답해야 하는 시스템이 되었기 때문이라고 이해할 수 있어요. 이 지점에서 엔비디아가 내세운 해법이 가속 컴퓨팅이고, GPU 중심 구조로 더 빠르고 효율적인 추론 환경을 만들겠다는 전략이 이번 키노트의 핵심 중 하나였습니다.
3. CUDA 20주년
이번 GTC 2026이 특별했던 이유 중 하나는 CUDA 20주년이라는 상징성 때문이었습니다. CUDA는 개발자가 엔비디아 GPU를 활용해 AI, 과학 계산, 시뮬레이션 같은 복잡한 작업을 할 수 있게 만들어 주는 소프트웨어 플랫폼입니다. 젠슨 황은 전 세계에 이미 설치된 수많은 GPU, 그 위에서 돌아가는 도구와 라이브러리, 그리고 이를 사용하는 개발자들이 엔비디아의 진짜 힘이라고 강조했습니다. 그는 이 선순환 구조를 플라이휠이라고 불렀어요. 결국 엔비디아의 경쟁력은 제품 하나가 아니라 이미 굴러가고 있는 거대한 생태계라는 것이죠.
4. Vera Rubin이 보여준 차세대 AI 시스템의 방향
이번 키노트에서 하드웨어 측면의 가장 큰 발표 중 하나는 차세대 플랫폼인 Vera Rubin이었습니다. 그런데 젠슨 황은 이걸 단순한 새 GPU로 소개하지 않았어요. 오히려 에이전트 AI 시대를 위해 설계된 풀스택 컴퓨팅 플랫폼이라고 설명했습니다. 이 말은 이제 AI 성능이 칩 하나로만 결정되는 시대가 아니라는 뜻이기도 합니다.
왜냐하면 지금의 AI 인프라는 GPU만 좋아서 해결되지 않기 때문이에요. CPU, GPU, 메모리, 네트워크, 냉각 시스템, 서버 랙까지 전부 함께 맞물려 돌아가야 진짜 성능이 나오죠. Vera Rubin은 바로 이 전체 구조를 하나의 거대한 시스템처럼 설계한 플랫폼이라고 해요.
*CPU: 컴퓨터의 전반적인 작업을 처리하고 제어하는 기본 연산 장치. 흔히 컴퓨터의 ‘두뇌’라고 불림
*GPU: 원래 그래픽 처리를 위해 만들어졌지만, 지금은 AI처럼 많은 계산을 동시에 처리하는 데 강한 연산 장치
5. 실제로 일을 하는 에이전트 AI
요즘 가장 핫한 키워드, 에이전트 AI도 빠지지 않았는데요. 에이전트 AI는 쉽게 말해 질문에 답만 하는 AI가 아니라, 스스로 여러 단계를 나눠 생각하고 필요한 도구를 사용해 실제 업무를 수행하는 AI를 뜻합니다.
다시 생각해 보자면, AI의 역할이 이제 단순한 보조 기능을 넘어 실제 생산성에 직접적으로 기여하는 쪽으로 옮겨가고 있기 때문입니다. 그는 엔비디아 내부에서도 이미 AI 에이전트를 적극적으로 활용하고 있다고 말했어요. 특히 소프트웨어 개발처럼 복잡한 업무에서 AI가 코드를 작성하고 수정하고 도와주는 역할이 커지고 있다고 했죠.
6. Open Claw, 에이전트 시대의 운영체제
에이전트 AI가 널리 퍼지려면, 개별 모델만 좋아서는 부족하고 그 위에서 돌아가는 공통된 기반도 필요합니다. 이 지점에서 등장한 것이 Open Claw예요. 젠슨 황은 이를 에이전트 컴퓨터의 운영체제라고 표현했어요. 예전 PC 시대를 넓힌 것이 운영체제였다면, 앞으로는 에이전트 시대를 여는 기반 플랫폼이 따로 필요하다는 것이죠.
*Open Claw: 여러 AI 에이전트를 만들고 연결하고 실행할 수 있게 해주는 에이전트용 공통 플랫폼
이 말은 결국 누구나 에이전트를 만들고, 연결하고, 실행하고, 활용할 수 있는 공통 환경이 있어야 시장이 제대로 열린다는 의미로도 들리는데요.동시에 기업 입장에서는 보안과 프라이버시가 훨씬 더 중요해질 수밖에 없어요. AI 에이전트는 단순한 질의응답보다 더 많은 데이터와 권한을 다루게 되기 때문입니다. 그래서 엔비디아는 기업 환경에서 안전하게 사용할 수 있도록 NemoClaw 스택과 OpenShell 런타임까지 함께 제시했고, 이 부분은 에이전트도 결국 플랫폼과 규칙 위에서 돌아가야 한다며, AI 윤리에 대한 부분도 언급했어요.
*NemoClaw 스택: 기업이 AI 에이전트를 더 안전하고 체계적으로 운영할 수 있도록 만든 NVIDIA의 소프트웨어 구성 묶음
*OpenShell 런타임: AI 에이전트가 실제 환경에서 실행되고 작동하도록 돕는 실행 기반 소프트웨어
7. 기업 AI의 성패를 가르는 데이터 인프라
이번 키노트는 칩 이야기만 한 것이 아니라, 데이터 이야기도 꽤 비중 있게 다뤘어요. 특히 구조화된 데이터가 AI의 신뢰성을 높이는 핵심이라고 강조했어요. 구조화된 데이터는 표처럼 일정한 형식으로 정리된 데이터를 말하는데, 기업의 매출 정보나 고객 정보, 재고 데이터처럼 컴퓨터가 읽기 쉬운 데이터가 대표적입니다. 결국 기업 AI가 실제로 잘 작동하려면, 이런 데이터와 AI가 제대로 연결되어야 한다는 얘기죠.
반대로 PDF, 영상, 음성처럼 형식이 일정하지 않은 비정형 데이터도 현실에서는 매우 많기 때문에, AI는 두 종류의 데이터를 모두 다룰 수 있어야 합니다. 엔비디아는 그래서 데이터 프레임을 위한 라이브러리와 벡터 스토어를 위한 기술을 강조했고, IBM이나 Dell 같은 기업들과 함께 데이터 처리 인프라를 가속하고 있다고 설명했습니다. 이 부분을 보면 엔비디아가 단순히 GPU를 파는 회사가 아니라, 기업 AI가 실제로 돌아가는 전체 데이터 흐름 안으로 들어가려 한다는 걸 알 수 있어요.
8. 디지털을 넘어 현실로 가는 피지컬 AI와 로보틱스
키노트 후반부에서는 AI가 화면 속을 넘어 현실 세계로 나아가고 있다는 메시지를 전했어요. 젠슨 황은 이를 피지컬 AI라는 흐름으로 설명했고, 자율주행차, 휴머노이드 로봇, 산업용 로봇을 대표적인 예로 들었어요. 자율주행이 이제 ’ChatGPT 모멘트‘에 도달했다고 표현하기도 했죠. 즉, AI의 다음 전장은 텍스트나 이미지 생성이 아니라 실제로 움직이고 반응하는 현실 세계라는 거예요.
여기서 Omniverse의 역할도 꽤 중요하게 보였습니다. AI 팩토리를 디지털 트윈으로 설계하는 개념도 이 흐름 안에 있고, 결국 현실 세계의 복잡한 문제를 가상 공간에서 먼저 학습하고 검증한 뒤 실제로 옮기는 방식이라고 볼 수 있어요.
*Omniverse: 공장, 로봇, 차량 같은 현실 세계를 가상 공간에 그대로 옮겨 시뮬레이션할 수 있게 해주는 NVIDIA 플랫폼
마지막에 등장한 올라프 로봇도 단순한 쇼가 아니라, AI가 물리 법칙을 이해하고 움직임을 배운 뒤 현실과 상호작용할 수 있다는 가능성을 상징적으로 보여준 장면이었습니다.
👀 엔비디아 GTC 2026 키노트가 보여준 AI의 미래
이번 키노트를 보고 나면, 엔비디아가 그리고 있는 AI의 미래가 꽤 선명하게 보입니다. AI는 더 이상 화면 안에서 답만 해주는 기술이 아니라, 토큰을 만들어내는 인프라 위에서 돌아가고, 스스로 추론하고, 실제 업무를 수행하고, 결국 현실 세계까지 확장되는 흐름으로 가고 있었어요. 이번 발표는 그 변화를 하나씩 연결해서 보여준 자리처럼 느껴졌습니다.
흥미로운 건, 이 미래가 아직 완성된 모습이라기보다는 이제 막 본격적으로 펼쳐지기 시작한 그림에 가깝다는 점입니다. 토큰, AI 팩토리, 에이전트 AI, 피지컬 AI 같은 키워드들이 앞으로 얼마나 빠르게 현실이 될지는 더 지켜봐야겠지만, 적어도 엔비디아가 어디를 향해 가고 있는지는 분명히 보였어요.
앞으로도 이렇게 빠르게 변하는 AI 흐름 속에서 꼭 짚어볼 만한 키워드와 트렌디한 소식을 쉽게 풀어 전해드릴게요.
참고 자료
Share article