OpenAI가 판 거대한 함정

Cinnamomo di Moscata 05 Jul 2025

스스로 풀어야!

거대 언어 모델(LLM)이 인간 전문가 수준의 수학 실력을 과시하며 AGI의 도래를 한껏 예견하고 있어요. 그렇지만 최근 한 연구는 이 화려한 성과가 ‘편협한 과적합(narrow overfitting)’에 불과하고, 오히려 범용 능력을 훼손할 수 있다는 냉정한 분석을 내놓았어요.

연구는 수학 문제 해결 능력이 다른 추론 및 비추론 과업으로 얼마나 ‘전이’되는지를 정밀하게 측정했는데, 훈련 방식의 차이를 핵심 원인으로 지목했어요. 특정 정답 풀이 과정을 그대로 모방하도록 가르치는 지도 미세조정(Supervised Fine-Tuning, SFT) 방식은 수학 능력을 극적으로 높이지만, 코딩, 상식 질의응답, 지시 이행 등 다른 영역에서는 심각한 성능 저하, 즉 ‘파국적 망각(catastrophic forgetting)’을 초래했어요. 특정 시험에만 대비해 벼락치기한 학생이 다른 과목의 지식을 잊는 것과 같다네요.

반면, 최종 정답 여부만을 보상으로 삼아 모델 스스로 문제를 풀고 답을 찾아나가게 하는 강화학습(Reinforcement Learning, RL)으로 훈련된 모델은 달랐어요. 수학 능력을 향상시키면서도 다른 추론 영역은 물론, 일반 상식과 같은 비(非)추론 영역에서도 긍정적인 전이 효과를 보였거든요.

연구는 모델의 내부 표현(latent space)과 토큰 분포 변화를 분석해 그 원인을 규명했어요. SFT는 수학 과제에 맞춰 모델의 지식 구조를 과격하고 무분별하게 재편하지만, RL은 기존의 범용 지식 구조를 최대한 보존하면서 꼭 필요한 능력만 정교하게 강화하기 때문이라네요.

이 연구는 AI 개발 패러다임의 근본적인 재고를 요구해요. 특정 벤치마크 점수에 매몰된 개발 방식은 진정한 범용 지능으로 가는 길을 막는 족쇄가 될 수 있어요. 진정한 지능은 단일 과업의 정복이 아닌, 학습된 능력의 유연한 ‘전이’에서 발현되고, 진정한 추론 능력의 확장을 이끄는 강화학습의 잠재력에 주목해야 할 시점이에요.

맛있는 것은 나 혼자만

기술 동맹의 상징이었던 OpenAI와 MS의 파트너십에 균열이 심화되고 있어요. 130억 달러 이상을 투자한 이 거대 동맹을 흔드는 것은 신기술의 실패가 아닌, ‘AGI’이라는 단어의 ‘정의’라네요. 한때 먼 미래의 가설로 치부되던 AGI가 이제 수십억 달러의 이해관계가 걸린 계약서의 핵심 쟁점으로 부상했어요.

문제의 발단은 양사 계약서의 작은 조항 하나에요. "OpenAI 이사회가 AGI 기술 개발 성공을 공식 선언할 경우, MS는 그 시점 이후의 AGI 기술과 관련 IP, 수익에 접근할 권리를 잃는다." 이 조항은 OpenAI에게는 MS의 영향력에서 벗어날 수 있는 ‘궁극적 레버리지’인데, MS에게는 반드시 제거해야 할 ‘시한폭탄’이에요. 현재 MS는 이 조항의 삭제를 요구하며, 결렬 시 파트너십을 전면 재검토할 수 있음을 시사하고 있어요.

이러한 긴장 관계는 OpenAI 내부의 미공개 연구 보고서 논란으로까지 번졌어요. ‘범용 AI 역량 5단계’라는 제목의 이 문서는 AI의 능력을 1단계부터 5단계까지의 점진적 스펙트럼으로 분류해요. AGI를 ‘달성했다/못했다’의 이분법적 개념이 아닌 연속적 발전 과정으로 정의하려는 시도에요. 일부 내부 관계자들은 이 문서가 공개될 경우, AGI 달성 선언의 기준점을 모호하게 만들어 MS와의 협상에서 OpenAI의 입지를 복잡하게 만들 수 있었기에 공개가 보류되었다고 증언하고 있어요.

상황을 더욱 복잡하게 만드는 것은 계약서 내에 존재하는 AGI의 이중적 정의에요. 하나는 OpenAI 이사회가 단독으로 선언할 수 있는 개념이고, 다른 하나는 MS의 승인을 받아야 하는 ‘충분한 AGI(Sufficient AGI)’라는 개념이에요. 샘 알트먼 CEO조차 “AGI는 사람들이 저마다 다르게 정의하는 용어”라고 인정했듯, 바로 그 모호함이 이제는 법률적, 전략적 무기가 된 거라네요.

결국 OpenAI와 MS의 갈등은 AGI 시대의 패러다임 전환을 명징하게 보여줘요. AGI 경쟁은 더 이상 순수한 기술 개발의 영역에만 머물지 않아요. AGI를 ‘정의하는 행위’ 그 자체가 거대한 전략적 자산이 되어버렸고, 미래 기술의 통제권을 둘러싼 싸움은 연구실이 아닌 협상 테이블과 법률 자문 보고서 위에서 펼쳐지고 있어요. 과학과 비즈니스의 경계가 완전히 허물어진 새로운 전장이에요.

젠가 놀이!

AI 업계에 상반된 두 개의 신호가 동시에 감지되고 있어요. 하나는 OpenAI가 곧 공개할 오픈소스 모델이 기존의 판도를 뒤엎을 것이라는 기대감 섞인 예고에요. 다른 하나는 바로 그 OpenAI의 핵심 연구진이 경쟁사인 메타로 대거 이탈하고 있다는 냉정한 현실이에요. 이 두 현상은 별개의 사건이 아니라, AI 패권 전쟁의 본질을 드러내는 이정표에요.

먼저, 메타(Meta)의 전략은 AI 개발의 가장 근원적인 생산요소인 ‘인재’를 흡수하는 것이에요. 마크 저커버그(Mark Zuckerberg)가 직접 나서 ‘o1-미니’, ‘o3-미니’ 등 핵심 모델 개발자를 포함한 연구원들을 영입했거든요. 단순한 인재 유출을 넘어, OpenAI 출신이라는 세계 최고의 두뇌를 한곳에 집중시켜 궁극의 지능을 만들겠다는, 자본을 앞세운 고전적이고 강력한 정공법이에요.

이에 맞서는 OpenAI의 전략은 ‘생태계’ 장악이에요. 내부 인력 유출이라는 출혈을 무시하면서, 압도적 성능의 오픈소스 추론 모델을 시장에 푸는 것은 특정 기업의 울타리를 넘어 전 세계 개발자 커뮤니티를 우군으로 삼으려는 전략적 포석이에요. 최고의 기술을 독점하는 대신 공개함으로써, 자사 기술을 사실상의 표준(de facto standard)으로 만들고 그 위에서 새로운 혁신이 자생하도록 유도하는 전략인데, 개별 인재의 힘을 초월하는 거대한 네트워크 효과를 노리는 시도에요.

결국 AI 패권 경쟁의 현주소는 ‘최고의 인재를 소유하려는 전략’과 ‘가장 넓은 기술 생태계를 구축하려는 전략’의 정면충돌로 요약돼요. 단기적인 모델 성능이나 몇몇 스타 연구원의 이동으로 승패를 점치는 것은 무의미할 것이라네요. 본질은 두 거인이 채택한 근본적으로 다른 철학과 전략 중, 어느 쪽이 미래 AI 기술의 지형을 최종적으로 결정할 것인가에 있어요.

텐트촌

최근 소셜 미디어에 xAI 사무실이라며 올라온 ‘텐트촌’ 사진 한 장이 화제가 되었어요. 책상 사이사이에 즐비한 텐트 사진에 "겸허해졌다"는 풍자 섞인 감상평이 달렸거든요. 논란이 될 법한 이 장면에 xAI의 엔지니어 그렉 양(Greg Yang)은 "저긴 우리 사무실이 아니다. 우린 텐트가 훨씬 더 많다"고 유쾌하게 폭로했어요.

양의 답변은 '우리는 당신들의 상상을 초월할 만큼 미션에 헌신적인 집단'이라는 선언과도 같은데, 이 장면은 일론 머스크가 트위터 인수 후 침낭에서 자던 모습을 연상시키면서 그의 조직들이 공유하는 '하드코어' 업무 철학을 압축적으로 보여줘요.

한편으로, 이 유머러스한 대화는 '이 정도의 헌신을 감당할 수 있는 사람만 오라'는 명확한 신호를 보내서, 비전에 동조하는 최고의 인재들을 끌어들여요. 즉, 사무실의 텐트는 단순한 풍경이 아니라, 21세기 가장 야심 찬 기술 기업의 정체성이자 선전포고인 셈이라네요.

무너지지 않게

AI 패권을 둘러싼 기술적, 전략적, 법률적 논쟁은 지금 이 순간에도 숨 가쁘게 전개되고 있어요. 훈련 방법론의 철학적 대립, ‘AGI 정의’를 둘러싼 거대 기업 간의 권력 투쟁, 그리고 인재 중심주의와 생태계 중심주의의 정면충돌은 마치 거인들의 체스판 위에서 벌어지는 추상적인 게임처럼 보여요.

하지만 이 모든 논쟁의 종착지가 어디를 향하는지에 대한 가장 냉정한 현실은 바로 그 체스판 바깥에서 드러나고 있어요. 지금까지 암묵적으로 속삭여지던 ‘조용한 부분’이 마침내 CEO들의 입을 통해 공공연한 예측으로 터져 나오기 시작했어요.

포드(Ford)의 CEO가 "화이트칼라 직업의 절반이 사라질 것"이라 단언하고, 쇼피파이(Shofify)가 "AI가 할 수 없는 일임을 증명해야만 신규 채용을 하겠다"고 선언한 것은, AI가 만들어낸 변화가 단순한 예측이 아닌 기업의 운영 원리로 자리 잡기 시작했음을 명백히 보여줘요.

결국 OpenAI가 파놓은 ‘함정’과 MS가 숨기려는 ‘비밀’, 그리고 메타와 벌이는 ‘젠가 놀이’의 최종 결과물은 연구실의 성과 보고서나 벤치마크 점수가 아니에요. 이 기술적 경쟁의 논리적 귀결로서 예고된, 전 지구적 노동 시장의 구조적 재편 그 자체에요. 화려한 기술 경쟁의 막이 오르는 동안, 무대 아래에서는 에코 멤버님들 모두의 커리어와 미래를 건, 가장 거대하고 현실적인 ‘젠가 게임’이 이미 시작되었어요.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

Cinnamomo di Moscata (글쓴이) 소개

게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/

(1) arXiv:2507.00432 [cs.AI]

(2) 김형섭, Laura Baisas. (2025). 1000년간 흩어진 ‘점토판 퍼즐’, AI가 맞췄다. Popular Science. https://www.popsci.co.kr/news/articleView.html?idxno=23458

(3) Kylie Robison. (2025). OpenAI’s Unreleased AGI Paper Could Complicate Microsoft Negotiations. Wired. https://www.wired.com/story/openai-five-levels-agi-paper-microsoft-negotiations/

(4) Yuchen Jin. (2025). "Sorry to hype — but having a few friends at OpenAI makes it hard not to hear how wild their open-source model dropping next month is. It won’t run on a phone, but let’s just say it edges out one of the models in the ChatGPT dropdown. Meta’s gonna need some time to catch up.". X. https://x.com/Yuchenj_UW/status/1939462191302033757

(5) 임대준. (2025). 오픈AI, 연구원 4명 추가로 메타 이적...이탈자 8명으로 늘어. AI타임스. https://www.aitimes.com/news/articleView.html?idxno=200216

(6) Greg Yang. (2025). "That's not our office we have way more tents". X. https://x.com/TheGregYang/status/1940211923817308641

(7) Chip Cutter, Haley Zimmerman. (2025). CEOs Start Saying the Quiet Part Out Loud: AI Will Wipe Out Jobs. Wall Street Journal. https://www.wsj.com/tech/ai/ai-white-collar-job-loss-b9856259?st=92RFRU

(8) 양민효. (2025). 미 대기업 ‘포드의 경고’ “사무직 절반, AI가 대체”. KBS. https://news.kbs.co.kr/news/pc/view/view.do?ncd=8294699