AI가 답만 한 번 내놓는 시대와, 스스로 도구를 부르고 코드를 고치는 시대의 장비는 무엇이 달라야 할까요.
엔비디아의 베라 루빈 발표가 주목받는 이유도 단순히 더 빠른 칩이라는 설명에만 있지 않습니다.
이번 수치가 실제 서비스의 비용 절감으로 곧바로 이어지는지까지는 따로 살펴봐야 합니다.
3줄 요약
1. 베라 루빈은 AI 에이전트용 시스템입니다
2. 엔비디아는 전력당 처리량 30배를 제시했습니다
3. 초기 성능은 독립 검토 전입니다
답변 한 번보다 ‘작업 한 묶음’이 중요해졌습니다
베라 루빈은 엔비디아가 공개한 차세대 AI 인프라입니다. 여기서 말하는 AI 에이전트는 질문에 문장 하나를 답하는 데 그치지 않고, 코드 실행과 도구 호출, 데이터 처리처럼 여러 단계를 이어 가는 방식입니다. 작업이 길어질수록 이전 대화와 자료를 계속 붙들고 있어야 하므로, 단순 연산 속도만으로 체감 성능을 판단하기 어려워집니다.
엔비디아가 공개한 AgentX 측정도 이 점을 겨냥했습니다. 세미애널리시스의 이 벤치마크는 사전 기록된 코딩 세션을 재현해, 한 번의 질문과 답변이 아니라 긴 작업 흐름을 시험합니다. 문맥이 누적되고, 도구가 실행되는 사이에는 요청이 멈추기도 합니다. 이미 처리한 내용을 다시 쓰지 않도록 하는 KV 캐시의 활용과 여러 작업을 함께 돌리는 동시 실행도 결과에 영향을 줍니다.
그래서 “GPU가 몇 배 빨라졌나”보다 메가와트당 처리량이 앞에 놓였습니다. 데이터센터는 전력과 냉각 설비 안에서 돌아가므로, 같은 전력으로 얼마나 많은 유용한 작업을 끝내는지가 운영자에게는 더 직접적인 기준이 될 수 있습니다.
30배와 35분의 1은 무엇을 뜻하나
한국일보 보도에 따르면 엔비디아는 베라 루빈 NVL72가 블랙웰 GB300 NVL72보다 실제 에이전트 코딩 작업에서 전력당 처리량을 최대 30배 높였다고 발표했습니다. 100만 토큰을 생성하는 토큰 비용도 최대 35분의 1 수준으로 낮췄다는 설명입니다.
다만 이 숫자를 AI 서비스 이용료가 곧바로 35분의 1이 된다는 뜻으로 읽기는 어렵습니다. 발표의 기준은 설비 전력과 토큰 생성에 드는 운영 비용이며, 서비스 가격에는 소프트웨어, 데이터, 인력, 네트워크 등 다른 비용도 함께 들어갑니다. 이번 발표에서 가장 눈여겨볼 대목은 화려한 배수 자체보다, 비용을 작업 완료량과 연결해 제시했다는 점입니다.
또한 이 결과는 엔비디아가 공개한 초기 측정입니다. 한국일보은 외부 검토가 진행 중이라고 전했습니다. 같은 환경에서 다른 장비와 직접 비교한 결과인지, 실제 고객 서비스에서 어느 정도의 효율이 이어지는지는 이후 자료를 통해 확인해야 합니다. 초기 벤치마크는 가능성을 보여 주지만, 그것만으로 최종 우위를 확정하지는 않습니다.
주문과 우주 프로젝트는 아직 ‘계획’입니다
베라 루빈을 둘러싼 소식은 성능 발표에만 머물지 않습니다. 알파경제와 뉴스핌 보도에 따르면 인도 AI 인프라 기업 AM 인텔리전스는 시스템 9,000대를 주문했고, 내년부터 인도 남부에서 서버를 가동할 계획이라고 밝혔습니다. 이는 회사의 발표와 구축 계획이지, 이미 가동 중인 시설의 성과는 아닙니다.
스페이스XAI 역시 베라 루빈 NVL72를 AI 위성에 적용하는 구상을 내놓았습니다. AI타임스 보도에 따르면 첫 시스템은 2027년 4분기 궤도 투입을 목표로 하며, 전력·열 관리·통신 대역폭 제약에 맞춘 공동 설계가 진행 중입니다. 이 역시 우주용 도입 계획으로 구분해서 볼 일입니다.
베라 루빈을 읽는 핵심은 “차세대 칩이 나왔다”가 아닙니다. AI가 복잡한 일을 많이 맡을수록, 전력 안에서 끝낼 수 있는 작업량이 경쟁 기준이 된다는 변화입니다. 발표 수치는 출발점으로 보고, 실제 가동 사례와 독립적인 비교 결과가 뒤따르는지 확인하는 편이 안전합니다.