무엇을 할까?

Cinnamomo di Moscata 12 Oct 2025

신기루와 레드라인 사이

2025년, AI가 IMO 보여준 성과는 '인류의 지능을 뛰어넘는 것 아니냐'는 기대를 한껏 부풀렸어요. 하지만 이런 장밋빛 전망 속에서 AI의 현주소를 냉정하게 보게 하는 연구 결과가 나와 학계의 주목을 받고 있어요.

옥스퍼드와 케임브리지 대학 연구진이 발표한 "어떤 LLM도 츠무라 유의 554번 문제를 풀지 못했다"라는 논문은 AI의 추론 능력에 근본적인 질문을 던져요. 연구진은 비교적 간단한 수학 문제를 두고 제미나이 2.5 프로, GPT-4o 같은 가장 진보한 16개의 LLM을 테스트했어요. 놀랍게도 모든 AI가 이 문제를 푸는 데 실패했어요. 문제의 답은 이미 온라인에 공개되어 AI의 학습 데이터에도 있었을 가능성이 높은데도 말이죠.

현재 AI가 특정 시험 점수를 높이는 데만 최적화되었을 뿐, 진짜 논리적인 추론 능력은 무언가 아직도 부족하다는 현실을 보여줘요. '측정치가 목표가 되는 순간 좋은 측정치가 아니게 된다'는 '굿하트의 법칙'처럼, AI는 정답을 맞히는 '척'하는 법을 배웠을지 몰라도, 문제 해결 과정을 이해하고 응용하는 능력은 아직 서툴러요.

흥미로운 점은, 이렇게 AI 기술의 한계와 가능성에 대한 논쟁이 뜨거운 가운데, 국제 사회는 이미 AI의 잠재적 위험을 통제하기 위한 구체적인 움직임을 시작했다는 거예요. 최근 열린 유엔 안전보장이사회(안보리) 회의에서는 'AI 레드라인'을 설정해야 한다는 강한 공감대가 형성됐어요.

안토니우 구테흐스 유엔 사무총장은 인간의 통제 없이 움직이는 '치명적인 자율무기체계(LAWS)'를 금지하는 법적 조치가 시급하다고 강조했고, 중국, 프랑스 등 대부분의 이사국도 AI는 인류의 통제 아래 있어야 한다는 원칙에 동의하며 레드라인 논의를 지지했어요.

AI 능력에 대한 부풀려진 기대와 그 이면의 취약한 현실, 그리고 위험을 미리 막으려는 국제 사회의 움직임은 우리에게 중요한 점을 시사해요. 수학 문제 하나에도 오류를 보이는 현재 AI에게 사람의 생명을 다루는 중대한 결정을 맡기는 건 상상할 수 없는 일이죠. AI의 발전은 거스를 수 없는 흐름이지만, 그 방향을 결정하는 건 결국 우리 인간의 몫이에요.

마인크래프트 속 GPT!

"마인크래프트에서 AI를 만들 수 있을까?" 이 엉뚱한 질문에서 시작된 개인 프로젝트가 화제예요. 유튜버 'sammyuri'가 게임 속 가상 세계에서 실제로 작동하는 인공지능 챗봇 'CraftGPT'를 만들어 전 세계를 놀라게 했거든요. 이건 단순한 재미를 넘어, 게임이라는 매체가 가진 무한한 가능성을 보여주는 놀라운 성과예요.

영상에 나오는 'CraftGPT'는 그냥 거대한 건축물이 아니에요. 화면을 가득 채운 노트북 모양 아래에는, 게임 속 전기 회로인 '레드스톤'으로 설계된 복잡하고 정교한 연산 장치가 끝없이 펼쳐져 있어요. 수개월의 계획과 노력으로 만들어진 이 인공지능은 토크나이저, 임베딩, 어텐션 메커니즘 같은 실제 언어 모델의 핵심 요소를 모두 갖췄고, 총 메모리는 6MB가 넘어요. 가상 블록으로 빚어낸 거대한 컴퓨터 내부는 그 자체로 하나의 경이로운 예술 작품 같아요.

놀라움은 여기서 그치지 않아요. 'CraftGPT'는 실제로 사용자와 대화가 가능하거든요. "오늘 기분 어때?"라고 물으면 "오늘 아주 행복해요, 물어봐 줘서 고마워요"라고 답하고, "하늘은 무슨 색이야?"라는 질문에는 "하늘은 밝은 파란색이고, 매우 아름다워 보여요"라며 기본적인 사실에 기반한 답변을 내놓아요. 심지어 "당신이 기계라는 것을 아나요?" 같은 철학적인 질문에는 "네, 저는 그것이 꽤 흥미롭다고 생각해요"라고 답했어요.

'CraftGPT' 프로젝트는 창의성이 기술적 탐구의 장이 될 수 있다는 걸 보여주는 강력한 사례예요. 한 개인의 열정과 집념이 최첨단 AI를 가상 세계에서 어떻게 할 수 있는지 증명한 거죠. 이 놀라운 창조물은 우리에게 디지털 시대의 진정한 '창작'이 무엇인지, 그리고 인간의 상상력이 어디까지 뻗어 나갈 수 있는지 다시금 생각하게 해요.

마인크래프트 안에서 만든 GPT

소라2로 롱폼!

몇 초에 불과했던 AI 생성 영상이 이제 분 단위를 훌쩍 넘어섰어요. 최근 OpenAI의 차세대 영상 생성 모델로 보이는 'Sora 2'가 이런 변화의 중심에 서 있는데요, 핵심은 바로 '길이'예요.
사실 여러 씬(scene)을 엮어 하나의 이야기로 만드는 '스토리보드' 기능 자체는 기존 소라에도 있었어요. 하지만 Sora 2는 그 길이를 무려 288초(4분 48초)까지 늘리며 차원을 달리했죠.

사용자가 타임라인 위에 각본처럼 여러 클립을 배열하고 '아이돌이 라이브 하는 모습' 같은 지시를 내리면, AI가 각 씬의 연속성과 캐릭터의 일관성을 유지하면서 거의 5분에 달하는 긴 호흡의 영상을 만들어내는 거예요.

그리고 이 288초는 시작일 뿐일지도 몰라요. 전 OpenAI 최고 연구 책임자였던 밥 맥그루(Bob McGrew)는 일찍이 '확장된 일관성 생성' 기술을 언급하며, AI의 추론 능력이 발전함에 따라 영상 길이가 수 초에서 최대 '수 시간'까지 늘어날 수 있고 비용은 거의 들지 않을 거라고 말했거든요. Sora 2가 구현한 288초는 그의 예측이 현실로 다가오고 있음을 보여주는 강력한 증거인 셈이죠.

이런 기술의 발전은 영상 제작 산업에 혁명적인 변화를 가져올 거예요. 복잡한 촬영 장비나 전문 인력 없이도 누구나 머릿속 아이디어를 구체적인 영상 콘텐츠로 만들 수 있게 되니까요. 단편 영화, 광고, 교육용 콘텐츠 등 다양한 분야에서 개인 창작자들의 역할이 더욱 커질 거고, 기존 제작 방식도 훨씬 효율적으로 바뀔 거예요. AI가 그려낼 영상 콘텐츠의 미래가 더욱 기대되는 이유예요.

농부를 꿈꾸는 샘 알트만

OpenAI의 수장들이 최근 세상에 던진 메시지는 마치 SF 영화의 한 장면 같아요. 샘 알트만(Sam Altman) CEO와 그렉 브록만(Greg Brockman) 공동창업자는 인공지능(AI)이 인간을 뛰어넘는 특이점이 예상보다 훨씬 가까이 와 있고, 그 변화의 속도에 자신들조차 숨 가빠하고 있음을 솔직하게 드러냈어요.

그렉 브록만은 소셜 미디어를 통해 "향후 몇 년간 최대한 빨리, 최대한 많은 컴퓨팅 자원을 구축하는 데 총력을 기울이고 있다"고 밝혔어요. 그는 세상이 여전히 AI에 대한 수요를 과소평가하고 있고, 이미 새로운 기능을 출시하는 것조차 컴퓨팅 자원 부족에 부딪혔다고 털어놓았죠. 모델 성능이 기하급수적으로 발전하는 상황에서, 창조자들조차 그 속도를 따라가기 벅찬 현실을 고백한 거예요.

샘 알트만은 한발 더 나아가 구체적인 시간표를 제시해요. 그는 2030년까지 AI가 인간의 지능을 넘어서지 못하면 오히려 놀랄 거라고 단언했어요. 심지어 "2026년 말까지, 만약 지금 우리가 본다면 매우 놀라울 만한 수준의 모델이 등장할 것"이라고 예측했어요. AI 혁명의 최전선에 있는 그들이 느끼는 변화의 속도는 우리의 상상을 초월해요.

이런 거대한 변화의 중심에 선 알트만에게 "AI가 당신보다 더 나은 CEO가 된다면 무엇을 할 건가요?"라는 질문이 주어졌어요. 그의 대답은 의외로 소박했어요. 주저 없이 "농부가 될 것"이라고 답했거든요. 실제로 샌프란시스코와 나파, 하와이에 거처를 둔 알트만은 ChatGPT가 세상에 나오기 전, 농장에서 트랙터를 몰고 수확물을 거두며 시간을 보냈다고 해요.

그의 대답은 단순한 은퇴 계획이 아니에요. AI가 단기적으로 많은 일자리를 없애겠지만, 장기적으로는 모든 기술 혁명이 그랬듯 인류가 완전히 새로운 할 일을 찾게 될 거라는 믿음이 담겨 있죠. 그가 주목하는 새로운 일의 본질은 '서로를 돌보는 것'이에요. 인간의 고유함이 지적 능력이 아니라 서로를 보살피는 마음에 있다고 강조해요. 기계가 이미 여러 영역에서 우리보다 똑똑해진 시대, 인간은 역설적으로 가장 인간적인 가치에서 자신의 자리를 찾게 될 거라는 통찰이죠.

OpenAI가 벌이는 컴퓨팅 자원 확보 전쟁은 결국 인간 지능을 뛰어넘는 존재를 만들기 위한 경주예요. 하지만 그 경주의 끝에서 리더가 꿈꾸는 미래가 땅을 일구는 '농부의 삶'이라는 점은 많은 것을 생각하게 해요. 가장 첨단의 기술이 우리를 가장 근원적인 삶의 모습으로 이끌고 있는지도 몰라요. 초지능의 시대, 우리는 비로소 무엇이 인간을 인간답게 만드는지에 대한 답을 찾게 될까요? 기술의 정점에서 던져진 이 철학적 질문이 우리 앞에 놓여 있어요.

손을 놓고

최근 한 OpenAI 직원의 소셜 미디어 게시물이 업계에 큰 파장을 일으켰어요. 새로 출시한 '드래그 앤 드롭 에이전트 빌더'를 단 6주 만에 완성했고, 그 과정에서 AI 코딩 도구인 코덱스(Codex)가 전체 코드의 80%를 작성했다는 내용이었거든요. 이건 더 이상 AI가 단순한 보조 도구가 아니라는 강력한 증거예요.

이 놀라운 현실은 'AI-2027 리포트'가 예측한 2026년의 미래와 정확히 일치해요. 보고서는 '코딩 자동화'가 본격화되면서 AI가 AI 연구개발(R&D) 속도를 50% 이상 끌어올릴 거라고 전망했거든요. 중요한 건 이 발전이 단순히 컴퓨팅 파워 증가가 아니라, 알고리즘의 진보에서 비롯된다는 점이에요. 즉, AI가 스스로를 더 빠르게 발전시키는 선순환 구조가 만들어지고 있다는 의미죠.

과거 개발자들이 밤샘하며 코드를 짜던 풍경은 이제 AI와 협업하는 모습으로 바뀌고 있어요. AI는 동료 개발자처럼 복잡한 코드 생성을 돕고, 문제 해결 아이디어를 제안하며, 개발 과정 전체의 효율을 극대화해요. 6주 만에 새로운 제품을 만드는 게 가능해진 것처럼, 기업의 혁신 속도 역시 이전과는 비교할 수 없을 정도로 빨라질 거예요.

AI가 인간 개발자를 대체할 거라는 우려도 있지만, 현재로서는 인간의 창의성과 AI의 생산성이 결합해 시너지를 내는 '협업' 모델에 더 가까워 보여요. 개발자는 이제 힘들고 반복적인 코딩 작업에서 벗어나 더 창의적이고 전략적인 문제 해결에 집중할 수 있게 됐어요. AI라는 강력한 동료와 함께 만들어갈 기술의 미래가 더욱 기대되는 이유예요.

메타 붕괴의 서막?

최근 메타(Meta)의 AI 연구 부서에서 불거진 갈등은 AI 기술 패권 경쟁의이면을 보여주는 단적인 예시예요. AI 분야의 세계적 석학인 얀 르쿤(Yann LeCun) 수석 과학자가 연구 통제에 대한 불만으로 퇴사를 고민하고 있다는 소식은 단순한 개인의 거취 문제를 넘어, 혁신을 위한 최적의 조직 구조가 무엇인지 근본적인 질문을 던져요.

르쿤이 이끌어온 FAIR(Fundamental AI Research)는 학계 수준의 자유로운 연구 환경을 바탕으로 메타의 AI 기술을 선도해왔어요. 하지만 '라마 4'의 부진 이후, 마크 저커버그 CEO는 더 눈에 띄는 성과를 내기 위해 알렉산드르 왕(Alexandr Wang) 최고 AI 책임자(CAIO)를 중심으로 MSL(Meta Superintelligence Lab)을 신설하고 FAIR를 그 아래로 편입시켰어요. 이 과정에서 연구 결과에 대한 사전 검토 같은 통제 장치가 도입되자, 자유로운 연구 문화를 중시하던 르쿤과 FAIR 연구원들의 반발은 어쩌면 예견된 수순이었을지 몰라요.

메타의 사례는 AI 기술 경쟁이 심화될수록 기업들이 '속도'와 '성과'라는 압박에 얼마나 취약해질 수 있는지를 보여줘요. 일론 머스크(Elon Musk)가 "기술 경쟁에서는 가장 빠르게 혁신하는 기업이 승리한다"라고 말했듯, AI 분야는 이제 조 단위의 투자가 오가는 거대한 전쟁터가 되었거든요. 이런 상황에서 CEO가 단기 성과에 집착하고 연구의 자율성을 침해하기 시작하면, 오히려 혁신의 동력을 잃는 모순에 빠질 수 있어요.

물론 막대한 자원이 투입되는 AI 개발에서 기업의 통제는 필수적이에요. 하지만 기초 연구의 자유를 억압하고 단기 제품 개발에만 몰두하게 하는 건 장기적으로 기업의 경쟁력을 갉아먹는 일이 될 수 있죠. 특히 르쿤처럼 상징적인 인물이 떠나는 것은 단순히 뛰어난 인재 한 명을 잃는 것을 넘어, 회사의 평판과 다른 연구원들의 사기에도 치명적인 영향을 미칠 수 있고요.

메타가 야심 차게 선보인 AI 영상 생성 앱 '바이브'가 내부에서조차 부정적인 평가를 받았다는 사실은 현재 MSL이 처한 상황을 압축적으로 보여줘요. 거액을 들여 외부 인재를 영입하고 조직을 개편했지만, 정작 내부 구성원들의 지지를 얻지 못하고 시장의 외면을 받는다면 그 혁신은 공허한 메아리에 그칠 뿐이에요.

새로운 시대의 문

AI는 이제 먼 미래의 이야기가 아니라 우리 삶의 근간을 바꾸는 일상 그 자체가 되었어요. 한쪽에서는 인간의 지능을 넘보는 놀라운 성과가 쏟아지는가 하면, 다른 한쪽에서는 간단한 논리 문제 하나 풀지 못하는 명백한 한계가 드러나고 있죠. 신기루와 같은 기대감과 냉정한 현실 사이에서 우리는 지금껏 경험하지 못한 지각 변동의 한복판에 서 있어요.

구글, OpenAI, 메타, xAI 같은 거대 기업들은 저마다의 방식으로 미래를 그리며 숨 가쁜 기술 패권 경쟁을 벌이고 있어요. 이 경쟁은 단순히 더 빠른 모델을 만드는 것을 넘어, 저작권의 개념을 뿌리부터 뒤흔들고, 일의 미래를 다시 생각하게 하며, 심지어 인류를 지킬 ‘레드라인’은 어디에 그어야 하는지 근본적인 질문을 던져요.

AI가 가져올 변화의 파도는 때로는 기회로, 때로는 위기로 다가올 거예요. 분명한 것은 이 거대한 물결을 거스를 수는 없다는 사실이에요. 기술의 현주소를 냉철하게 직시하고, 인간 고유의 가치를 지키며 AI와 공존하는 지혜를 모아야 할 때에요.

기술의 발전 속에서 우리는 역설적으로 ‘무엇이 인간을 인간답게 만드는가’라는 가장 근원적인 질문과 마주하고 있어요. 그 해답을 찾아가는 에코 멤버님들의 여정은 이제 막 시작되었을 뿐이에요.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

Cinnamomo di Moscata (글쓴이) 소개

게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/

(1) Charbel-Raphael. (2025). "Huge: Almost all members of the un Security Council are in favor of AI regulation or setting red lines. Never before had the principle of red lines for AI been discussed so openly and at such a high diplomatic level. Un Secretary-General Antonio Guterres opened the session with https://t.co/0SGhidoeJi". X. https://x.com/CRSegerie/status/1975529083674181860

(2) arXiv:2508.03685 [cs.LG]

(3) sammyuri. (2025). I built ChatGPT with Minecraft redstone!. YouTube. https://www.youtube.com/watch?v=VaeI9YgE1o8

(4) CHOI. (2025). "Sora2 may provide consistent extensions up to 288 seconds (16 scenes of 15 seconds each). It seems that a storyboard feature will be included in Sora 2. Bob McGrew, former Chief Research Officer at OpenAI, once mentioned that through “extended coherent generations, videohttps://t.co/ax3k2qXKqO". X. https://x.com/arrakis_ai/status/1974061469085151667

(5) Greg Brockman. (2025). "We’re working to build as much compute as we can, as quickly as we can, over the next few years. We believe that the world continues to underestimate AI demand: We’re already compute bottlenecked on launching new features, and exponential progress of model capability continues.". X. https://x.com/gdb/status/1975211078964723792

(6) Lakshmi Varanasi. (2025). The Job OpenAI CEO Sam Altman Says He'd Do If AI Ever Replaces Him. Business Insider. https://www.businessinsider.com/openai-ceo-sam-altman-new-job-ai-replace-him-farming-2025-10

(7) Haider. (2025). "OpenAI employee: "The agent builder we released today was built end-to-end in under six weeks, with Codex writing 80% of the PRs" this matches the AI-2027 report's 2026 forecast: - coding automation goes mainstream - agents work like teammates - AI R&D is 50% faster from https://t.co/35bIO14Iz4". X. https://x.com/slow_developer/status/1975518969193783638

(8) 임대준. (2025). "얀 르쿤, MSL의 연구 통제로 메타 퇴사 고민". AI타임스. https://www.aitimes.com/news/articleView.html?idxno=202956

(9) Elon Musk. (2025). "In a technology race, the company that innovates fastest wins. All you need are a billion AI chips, a terawatt of power and 100M robots.". X. https://x.com/elonmusk/status/1976176068223742016

화제의 AI 이미지 생성 모델 '나노바나나' 이커머스에 활용사례가 궁금하시다면 아래 자료를 참고해주세요!