엔비디아 없이 100배 빠른 LLM, 뇌를 모방한 AI가 온다

Bopyo Park 12 Sep 2025

에코 멤버님들,

잘 지내고 계신가요? 주말이죠? 제가 있는 뉴욕은 금요일 저녁이네요. 한국에 계신 분들은 행복한 토요일 시작 하시길 바라겠습니다. 오늘도 AI 분야의 흐름 속에서 우리가 함께 깊이 생각해 볼 만한, 조금은 다른 결의 소식을 가지고 왔습니다.

최근 AI 업계의 화두는 단연 ‘규모의 경쟁’입니다. 더 많은 데이터를 학습하고, 더 많은 파라미터를 가진 거대 모델을 만드는 것이 곧 성능 향상이라는 ‘스케일링 법칙(Scaling Law)’이 마치 절대적인 진리처럼 여겨져 왔죠. 하지만 이 경쟁의 이면에는 천문학적인 훈련 비용, 엄청난 에너지 소비, 그리고 특정 기업에 대한 기술적 종속이라는 그림자가 짙게 깔려 있습니다.

우리는 지금 AI의 ‘규모의 법칙’이라는 거대한 흐름이 정말 지속 가능한 것인지 근본적인 질문을 던져야 할 시점에 와 있습니다. 더 많은 데이터, 더 큰 모델, 더 많은 에너지 소비. 이 무한 경쟁의 끝에는 무엇이 기다리고 있을까요? 바로 이 질문에 대해, 인간의 ‘뇌’에서 영감을 얻어 완전히 새로운 해답을 제시하는 연구가 등장했습니다. ‘SpikingBrain’이라는 이름의 기술 보고서가 그 주인공입니다.

오늘은 이 SpikingBrain의 등장이 단순한 새 모델의 발표를 넘어, AI 발전의 패러다임을 어떻게 근본적으로 바꾸려 하는지에 대한 통찰을 나눠보고자 합니다. 이것은 ‘더 크게(Bigger)’가 아닌 ‘더 현명하게(Smarter)’를 지향하는, AI의 다음 혁명에 대한 이야기입니다. AI의 미래가 ‘무한한 힘’이 아닌 ‘지속 가능한 효율성’에 있을 것이라고 믿는 분, 혹은 기술의 거대한 파도 속에서 새로운 가능성의 항로를 찾고 계신 분이라면, 오늘 이야기가 미래를 조망하는 새로운 창이 되어줄 것입니다.

1. 성공의 지도를 새로 그리다: ‘무에서 유’가 아닌 ‘전환’의 시대

지금까지 새로운 거대 언어 모델(LLM)을 만든다는 것은 막대한 자본과 데이터를 가진 소수 빅테크 기업만의 리그였습니다. 수십, 수백 조 개의 토큰 데이터를 처음부터 학습시키는(Train from scratch) 방식은 마치 황무지에 새로운 도시를 건설하는 것과 같아서, 엄청난 시간과 자원이 필요했죠. 하지만 SpikingBrain은 이 공식을 정면으로 반박합니다.

그들의 접근법은 ‘창조’가 아닌 ‘전환(Conversion)’입니다. 이미 세상에 존재하는, 잘 훈련된 강력한 오픈소스 모델(Qwen2.5-7B)을 기반으로 삼아, 그 구조와 작동 방식을 뇌신경망과 유사한 형태로 효율적으로 바꾸는 것입니다. 이는 마치 유창한 언어를 구사하는 성인에게 완전히 새로운 문법 체계를 가르치는 것과 같습니다. 기초부터 다시 배울 필요 없이, 기존의 지식과 능력을 그대로 유지한 채 새로운 시스템에 적응하게 하는 것이죠.

결과는 놀랍습니다. 처음부터 학습시키는 데 필요한 데이터의 단 2% (약 1,500억 토큰)만으로 기존 모델과 대등한 성능을 달성해냈습니다. 이는 ‘더 많은 데이터가 곧 더 좋은 성능’이라는 기존의 믿음에 균열을 내는 중요한 사건입니다. 이제 성공의 열쇠는 무한한 자원을 쏟아붓는 것이 아니라, 기존의 자산을 얼마나 현명하게 전환하고 최적화할 수 있느냐에 달리게 되었습니다. 이는 단순히 기술적 성취를 넘어, 소수의 거대 기업이 독점하던 거대 모델 개발의 패러다임을 바꿀 수 있는 ‘기술적 민주화’의 가능성을 시사합니다. 이제 아이디어와 기술만 있다면 누구나 거인의 어깨 위에서 더 멀리 볼 수 있는 시대의 문이 열리고 있는 것입니다.

2. 계산의 본질을 바꾸다: 뇌처럼 ‘필요할 때만’ 일하는 AI

SpikingBrain의 가장 혁신적인 부분은 AI의 가장 근본적인 작동 방식, 즉 ‘계산’의 개념을 재정의했다는 점에 있습니다. 기존 트랜스포머 모델의 가장 큰 비효율성은 모든 정보를 항상 ‘전부’ 계산해야 한다는 데 있었습니다. 문장이 길어질수록 계산량은 기하급수적으로 늘어났죠. SpikingBrain은 이 문제를 두 가지 뇌과학적 원리로 해결합니다.

첫째, 선형 어텐션(Linear Attention)을 통한 기억의 압축입니다. 인간의 뇌는 과거의 모든 경험을 하나하나 꺼내보며 현재를 판단하지 않습니다. 대신, 중요한 정보들을 압축하고 계속해서 업데이트되는 ‘기억 상태’를 활용하죠. SpikingBrain의 선형 어텐션은 이와 유사하게, 과거 정보의 핵심만을 간직한 채 현재 정보를 처리합니다. 덕분에 문장이 아무리 길어져도 계산량이 거의 늘지 않는, 경이로운 효율성을 보여줍니다. 400만 토큰이라는 초장문 맥락에서 기존 모델 대비 첫 토큰 생성 속도가 100배 이상 빨라진 것이 그 증거입니다.

둘째, 스파이킹 뉴런(Spiking Neuron)을 통한 ‘사건 중심(Event-driven)’ 계산입니다. 우리 뇌의 뉴런은 쉴 새 없이 정보를 주고받는 것이 아니라, 특정 역치(Threshold)를 넘는 중요한 신호가 있을 때만 ‘스파이크(Spike)’를 발생시켜 정보를 전달합니다. SpikingBrain은 이 원리를 적용하여, 모델의 뉴런들이 필요할 때만 활성화되게 만들었습니다. 그 결과, 전체 뉴런의 약 69%가 비활성화된 상태(Sparsity)를 유지하면서도 성능은 그대로 보존했습니다.

기존 트랜스포머 모델이 사무실의 모든 직원이 매 순간 자신의 상태를 소리치는 시끄러운 공간이라면, 스파이킹 모델은 중요한 정보가 있을 때만 발언하는 효율적인 회의실과 같습니다. 결과물은 같지만, 그 과정에 소모되는 에너지와 소음은 비교할 수 없을 정도로 적습니다. 이는 AI가 단순한 연산 기계를 넘어, 생물학적 지능의 효율성을 닮아가는 중요한 진화의 시작을 의미합니다.

3. ‘엔비디아 제국’ 너머의 가능성: 새로운 하드웨어 생태계의 서막

현재 AI 기술 생태계는 엔비디아(NVIDIA)라는 거대한 이름 위에 세워져 있다고 해도 과언이 아닙니다. 거의 모든 거대 모델의 훈련과 추론이 엔비디아 GPU에 의존하고 있어, 기술적 병목 현상과 공급망 리스크는 항상 잠재적인 문제로 지적되어 왔습니다.

SpikingBrain 프로젝트가 던지는 마지막 중요한 메시지는 바로 이 ‘하드웨어 종속성’을 극복할 수 있다는 가능성을 증명했다는 점입니다. 이 연구는 엔비디아가 아닌 ‘MetaX’라는 새로운 GPU 클러스터 위에서 수백 개의 GPU를 동원해 안정적으로 대규모 모델 훈련을 성공시켰습니다.

이는 단순히 ‘다른 GPU에서도 AI 훈련이 가능하다’는 사실을 넘어섭니다. 뇌를 닮은 스파이킹 뉴런과 같은 새로운 아키텍처는 기존 GPU보다 ‘뉴로모픽 칩(Neuromorphic Chip)’과 같은 차세대 비동기식 하드웨어에서 훨씬 더 큰 잠재력을 발휘할 수 있습니다. 즉, AI 소프트웨어의 발전이 하드웨어의 혁신을 이끌고, 다시 그 새로운 하드웨어가 더 효율적인 AI를 가능하게 하는 선순환의 고리를 만들 수 있다는 것입니다. 이는 엔비디아의 독주 체제에 균열을 내고, 더 다양하고 경쟁력 있는 AI 하드웨어 생태계가 탄생할 수 있는 신호탄과도 같습니다. 기술의 미래가 하나의 제국이 아닌, 다양한 가능성이 공존하는 다원적 우주로 나아갈 수 있음을 보여주는 희망적인 증거입니다.

blue and purple galaxy digital wallpaper — Photo by Jeremy Thomas / Unsplash

오늘 이야기, 여러분은 어떻게 생각하시나요? SpikingBrain의 등장은 단순히 또 하나의 새로운 LLM이 세상에 나온 것이 아닐지도 모릅니다. 이것은 지금까지 AI 시대를 지배해 온 세 가지 거대한 기둥—‘규모의 법칙’, ‘전체 동시 계산 모델’, 그리고 ‘단일 하드웨어 의존성’—에 정면으로 도전하는 선언과도 같습니다.

우리는 지금 인류 역사상 가장 강력한 도구를 손에 쥐었지만, 동시에 그 도구를 어떻게 더 현명하고 지속 가능하게 발전시킬 것인가라는 중대한 과제에 직면해 있습니다.

지금까지 우리는 AI를 ‘더 크게’ 만드는 데 집중해왔습니다. 이제 AI를 ‘더 현명하게’ 만드는 것에 대해 고민해야 할 때가 아닐까요? 단순히 강력함을 넘어, 본질적으로 효율적이고, 지속 가능하며, 더 많은 이들이 접근할 수 있는 AI가 열어갈 미래는 어떤 모습일까요?

이 질문에 대한 답을 찾아가는 여정, 그 자체가 우리를 더 나은 미래로 이끌 것이라 믿습니다.

저는 미국 이커머스 분야와 AI 분야에 몸담고 있습니다. 앞으로도 계속 제가 개인적으로 공부하고 경험하는 내용들을 에코 뉴스레터 구독자님들과 나눌 예정입니다. 더 많은 지식과 정보를 함께 나누고 싶으시다면 이 뉴스레터터를 계속 구독해주시고 주변에도 많이 소개해 주세요! 긴 글 읽어주셔서 감사합니다.

다음 뉴스레터에서 더욱 유익한 소식으로 찾아뵙겠습니다.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)