OpenAI의 조용한 격차 벌리기!
새로운 지평을 열 '딸기'
ChatGPT로 인공지능 열풍을 일으킨 OpenAI가 '추론 능력'에 베팅했어요. 최근 로이터 통신(Reuters)은 오픈AI가 '스트로베리(Strawberry)'라는 코드명의 차세대 인공지능 모델을 개발 중이라고 보도했어요.
스트로베리는 단순히 질문에 답하는 것을 넘어 스스로 인터넷을 탐색하며 '심층 연구'를 수행하는 것을 목표로 해요. 마치 인간처럼 정보를 수집하고 분석하여 복잡한 문제에 대한 해결책을 제시한다고 해요.
지금까지 AI는 방대한 데이터 학습을 통해 놀라운 창작 능력을 보여주었어요. 하지만 논리적 오류를 구분하거나 간단한 게임에서 최적의 수를 찾는 등 인간에게는 쉬운 '상식적 추론'에서 취약점을 드러냈어요.
OpenAI는 스트로베리 프로젝트를 통해 이러한 한계를 극복하고자 해요. 스트로베리는 인공지능 모델이 장기적인 계획을 세우고 물리적 세계의 작동 방식을 이해하며 복잡한 문제를 단계별로 해결하도록 훈련된다고 해요.
전문가들은 스트로베리가 인공지능 분야의 게임 체인저가 될 수 있다고 평가하고 있어요. 특히 스탠포드 대학교(Stanford University)에서 개발한 '자가 학습 추론 모델(STaR)'과 유사한 방식으로, 인공지능이 스스로 학습 데이터를 생성하며 지능 수준을 향상시킬 수 있다는 점에 주목하고 있어요.
물론, 일각에서는 인공지능의 급격한 발전에 대한 우려의 목소리도 나와요. 스트로베리가 인간의 통제를 벗어난 '초지능'으로 이어질 가능성도 배제할 수 없기 때문이에요.
OpenAI의 '스트로베리' 프로젝트는 인공지능의 미래를 엿볼 수 있는 창이에요. AI가 스스로 생각하면서 인간의 지능을 뛰어넘는 미래, 과연 우리는 어떤 세상을 마주하게 될까요?
저렴한 가격이 이끈 성공
OpenAI는 최근 GPT-4o 뿐만 아니라 보다 저렴하고 빠르면서 GPT-3.5를 완전히 대체할 목적으로 GPT-4o Mini를 출시했어요. OpenAI의 API 제품 책임자인 올리비에 고드망(Olivier Godement)은 GPT-4o가 출시 직후 사용자들의 폭발적인 반응을 얻으며 대규모 채택으로 이어졌다고 밝혔어요.
그는 이러한 성공의 핵심 요인으로 '더욱 강력하고 저렴한 모델'에 대한 연구 개발 노력을 꼽았어요. 특히, 저렴한 가격은 기존에는 비용 문제로 고려하지 못했던 새로운 활용 사례들을 가능하게 하면서 AI 기술의 대중화를 앞당기고 있어요.
고드망은 OpenAI가 하드웨어 및 추론 수준에서 비용 최적화를 위해 지속적으로 노력하고 있으며, 이는 스마트폰이나 TV 가격 하락 추세처럼 AI 모델 운영 비용 감소로 이어질 것이라고 전망했어요.
또한, 경쟁사들의 발전에 대해서는 AI 분야의 발전과 혁신을 기쁘게 생각한다면서도, 고객과의 관계 및 신뢰를 더욱 강화하는 계기로 삼겠다는 의지를 피력했어요.
샘 알트만의 야심찬 원자력 계획
AI 시대를 선도하는 OpenAI의 수장 샘 알트만(Sam Altman). 그의 손이 뻗치지 않는 곳은 어디일까요? 놀랍게도 그는 AI뿐만 아니라 AI를 사용하기 위해 필요한 막대한 전기를 만들 수 있는 최첨단 핵분열 기술에도 깊은 관심을 보이고 있어요. 그 중심에는 바로 샘 알트만이 의장을 맡고 있는 스타트업 '오클로(Oklo)'가 있어요.
오클로는 기존의 방식을 뛰어넘어 소형 모듈형 원자로(SMR) 개발에 박차를 가하고 있어요. 2027년 가동을 목표로 아이다호 국립 연구소(Idaho National Laboratory)에서 건설 중인 오클로의 첫 번째 원자로는 기존 원자력 발전의 단점으로 지적되던 안전성, 경제성, 환경 문제를 해결하는 데 집중하고 있다고 해요.
특히 주목할 점은 오클로가 냉각수로 물을 사용하지 않는다고 해요. 이는 건설 비용을 크게 절감할 뿐 아니라 지속가능성을 높이는 데에도 기여해요. 또한, 기존 원자로에 비해 우라늄 연료의 에너지 효율을 획기적으로 높여 연료 공급 문제에서도 자유로워요.
오클로는 단순히 원자로를 판매하는 것이 아니라, 장기 에너지 공급 계약을 통해 고객에게 안정적인 에너지를 제공하는 비즈니스 모델을 구축하고 있어요. 이는 NVIDIA, MS, 구글, 아마존과 같이 막대한 에너지를 필요로 하는 AI 기업들에게 매력적인 제안이에요. 실제로 오클로는 다이아몬드백 에너지(Diamondback Energy), 와이오밍 하이퍼스케일(Wyoming Hyperscale) 등과 전력 구매 계약을 체결하며 사업 확장에 속도를 내고 있다고 해요.
물론 아직 넘어야 할 산은 많아요. 높은 수준의 우라늄 농축 기술은 AI에 쓸 전기를 만들 수도 있지만 동시에 핵무기 개발에 악용될 수 있다는 우려를 불식시켜야 해요. 또한, 실제로 오클로가 계획대로 2027년까지 원자로를 완공하고 안전하게 운영할 수 있을지도 지켜봐야 할 문제에요.
LLM의 효율성을 또 혁신하다
최근 대형 언어 모델(LLM)의 성능은 놀라운 발전을 이루었지만, 실제 응용에서의 높은 계산 비용과 메모리 사용량은 여전히 큰 도전 과제에요. 이를 해결하기 위해 다양한 접근법이 연구되고 있으며, 그 중 하나가 큐스파스(Q-Sparse)에요.
큐스파스는 활성화된 요소의 수를 줄여 효율성을 극대화하는 방법으로, 특히 추론 단계에서의 효율성을 크게 향상시켜요. 이 방법은 top-K 희소화를 통해 활성화 요소를 선택하고, 직접 추정기(STE)를 사용해 활성화 요소의 그래디언트를 계산하는 등 여러 기법을 적용했다고 해요. 이를 통해 모델의 성능을 유지하면서도 훨씬 싸고 가벼운 AI를 만들 수 있어요.
또한, 큐스파스는 다양한 설정에서 효과적입니다. 처음부터 훈련하는 경우, 기존 모델을 계속 훈련하는 경우, 그리고 미세 조정하는 경우 모두에서 우수한 성능을 보여줘요. 특히, 비트넷(BitNet) b1.58과의 시너지는 미래의 LLM 효율성을 혁신할 수 있는 중요한 기반이 돼요.
큐스파스는 풀사이즈 모델과 경량화 모델 모두에서 사용할 수 있으며, 통칭 비트넷(BitNet)이라고 불리는 1.58비트 LLM에서도 효과적이에요. 이를 통해 스마트폰에서 고성능 AI를 돌릴 정도로 비용과 에너지 소비를 줄이면서도 높은 성능을 유지할 수 있어요.
오늘도 두 걸음 더
AI와 관련된 다양한 혁신과 도전은 우리의 일상과 미래를 빠르게 변화시키고 있어요. OpenAI의 ‘스트로베리’ 프로젝트부터 저렴한 가격으로 대중화된 GPT-4o Mini, 그리고 샘 알트만의 원자력 계획과 큐스파스의 효율성 혁신까지, AI 기술은 끊임없이 진화하고 있어요. 이러한 발전은 우리에게 새로운 가능성을 열어주지만, 동시에 신중한 접근과 윤리적 고려가 필요해요. 에코 멤버님들도 AI가 가져올 변화와 그에 따른 책임을 함께 고민하며, 더 나은 미래를 만들어 나가야 할 거에요.
같이 읽어보면 좋은 글
Cinnamomo di Moscata
Cinnamomo di Moscata (글쓴이) 소개
게임 기획자입니다. AI 아티스트로도 활동 중입니다. https://www.instagram.com/cinnamomo_di_moscata/
(1) Anna Tong, Katie Paul. (2024). Exclusive: OpenAI working on new reasoning technology under code name ‘Strawberry’. Reuters. https://www.reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12/
(2) Shubham Sharma. (2024). OpenAI anticipates decrease in AI model costs amid adoption surge. VentureBeat. https://venturebeat.com/ai/openai-anticipates-decrease-in-ai-model-costs-amid-adoption-surge/
(3) 남혁우. (2024). 오픈AI "최신 AI일수록 에너지 사용량 줄어들 것". ZDNet Korea. https://zdnet.co.kr/view/?no=20240714092133
(4) Monica Sager. (2024). Sam Altman's OpenAI Could Be Entirely Powered by Nuclear Energy in 2027. Newsweek. https://www.newsweek.com/sam-altman-openai-nuclear-energy-reactor-1924427
(5) 김태종. (2024). "오픈AI, 2027년 원전 에너지 공급받아 AI 구동 가능성". 연합뉴스. https://n.news.naver.com/mnews/article/001/0014805266
(6) arXiv:2407.10969 [cs.CL]
뉴스레터 광고 공간 (광고주를 모집합니다)
For newsletter banner advertising inquiries, please contact: Bopyo@aikoreacommunity.com
이곳에 서비스를 소개하세요!
뉴스레터 배너 광고 문의: Bopyo@aikoreacommunity.com
뉴스레터 편집장 소개
- 보표 홈페이지
- https://amzbopyo.com/
- 보표 SNS
- 보표 레터: https://www.bopyoletters.com/
- X(트위터): https://twitter.com/AIBopyo
- 스레드: https://www.threads.net/@bopyo.amz
- 링크드인: https://www.linkedin.com/in/bopyo-park-848631231/
- 인스타그램: https://www.instagram.com/bopyo.amz/
- AI 코리아 커뮤니티 아카데미
- https://academy.aikoreacommunity.com/
