오리온자리 constellation with stars shaped like strawberries in a cartoon style

딸기가 정말로 다가온다!

Cinnamomo di Moscata 01 Sep 2024

코드만 바꿨는데 2배 빠르게!

최근 xAI가 발표한 '그록-2(Grok-2)’는 인공지능(AI) 분야에서 큰 주목을 받고 있어요. 이 모델은 코드 전면 수정을 통해 추론 속도와 정확도를 크게 향상시켰으며, 그 결과 챗봇 아레나 리더보드에서 상위권에 올랐어요.

하지만 xAI는 여기서 만족하지 않고 SG랭(SGLang)을 활용하여 추론 스택을 처음부터 다시 작성했어요. 이를 통해 기존 AI보다 최대 6.4배 높은 처리량을 달성할 수 있었으며, 대형 AI에서도 속도가 빨라졌다고 해요. 특히, 그록-2 미니는 2배 더 빨라졌으며, 정확도도 약간 향상되는 좋은 효과도 얻었어요.

xAI의 이고르 바부슈킨(Igor Babushkin) 개발자는 "계산 부담을 줄이면서도 높은 성능을 원하는 사용자들이 그록-2 미니를 그록-2보다 선호한다"며 앞으로도 그록-2 미니의 처리 속도를 추가로 향상할 계획이라고 밝혔어요.

인간에 집중하다

최근 메타 리얼리티 랩스(Meta Reality Labs)와 연구진들이 발표한 사피엔스(Sapiens) 모델은 인간 중심의 비전 작업에서 획기적인 성과를 보여주고 있다고 해요. 이 모델은 스테이블 디퓨전(Stable Diffusion)의 컨트롤넷(ControlNet)처럼 2D 포즈 추정, 신체 부위 분할, 깊이 추정, 표면 노멀 예측 등 네 가지 주요 작업을 수행하며, 고해상도 이미지를 자연스럽게 처리할 수 있는 능력을 갖추고 있어요.

이런 사피엔스의 특징은 다음과 같다고 해요.

고해상도 지원: Sapiens 모델은 1K 해상도의 이미지를 처리할 수 있어tj, 세밀한 디테일까지 정확하게 분석할 수 있어요.
대규모 사전 학습: 3억 개 이상의 인간 이미지를 사용해 사전 학습된 이 모델은 다양한 인간 중심 작업에 적합해요.
간단한 모델 설계: 미세 조정만으로도 다양한 작업에 쉽게 적응할 수 있어 사용이 간편해요.
확장성: 모델의 성능은 파라미터 수에 따라 더욱 향상되고, 0.3억에서 2억 파라미터까지 확장할 수 있어요.

Sapiens 모델은 기존의 최첨단 기술보다 훨씬 더 우수한 성능을 자랑해요. 예를 들어, 깊이 추정에서는 오차를 22.4%, 표면 노멀맵 예측에서는 오차를 53.5% 줄였어요.

이러한 성능 향상은 다양한 실제 응용 분야에서 큰 잠재력을 가지고 있어요. 예를 들어, 가상 현실(VR) 및 증강 현실(AR) 환경에서의 인간 인터랙션 개선, 의료 영상 분석, 스포츠 분석 등 다양한 분야에서 활용될 수 있다고 해요.

0:00

/0:06

'사피엔스'의 실제 샘플 영상

AI 에이전트 제작도 AI 스스로!

최근 인공지능(AI) 연구 분야에서 주목할 만한 발전이 있었어요. 바로 자동 설계 에이전트 시스템(ADAS)의 등장이에요. 이 시스템은 AI가 AI 에이전트를 자동으로 설계하고, 새로운 빌딩 블록을 발명하거나 이를 새로운 방식으로 결합하는 것을 목표로 한다고 해요.

ADAS는 메타 에이전트 검색(Meta Agent Search)이라는 알고리즘을 통해 작동하는데, 이 알고리즘은 메타 에이전트가 반복적으로 새로운 에이전트를 프로그래밍하고, 이들의 성능을 테스트하며, 발견된 에이전트를 아카이브에 추가하는 과정을 거친다고 해요. 이를 통해 메타 에이전트는 점점 더 나은 에이전트를 자동으로 발견할 수 있어요.

ADAS의 장점은 다음 3가지라고 해요.

자동화된 설계: ADAS는 인간의 개입 없이도 밤낮을 가리지 않고 새로운 에이전트를 설계할 수 있어요. 이는 기존의 수작업 설계 방식보다 훨씬 효율적이에요.
범용성: ADAS는 다양한 도메인에서 높은 성능을 유지하며, 도메인 간 전이 학습에서도 우수한 성과를 보여준다고 해요.
혁신적인 접근: ADAS는 새로운 빌딩 블록을 발명하거나 기존의 빌딩 블록을 새로운 방식으로 결합하여, 기존의 수작업 설계 에이전트를 능가하는 성능을 발휘해요.

ADAS는 AI 연구의 새로운 지평을 열고 있어요. 이 시스템은 더욱 강력한 에이전트를 자동으로 설계하여, 다양한 분야에서 인간의 삶을 개선할 수 있는 잠재력을 가지고 있어요. 앞으로 ADAS의 발전이 어떻게 이루어질지 기대되네요.

ADAS의 개념도. AI가 새로운 에이전트를 만들고 향상시키기를 반복해서 인간 전문가처럼 일처리를 한다.

OpenAI의 안전 전문가 엑소더스

최근 몇 달 동안 OpenAI의 AGI(인공지능 일반) 안전 연구진의 절반 가까이가 회사를 떠났어요. 이들은 AGI가 인간 통제를 벗어나 존재론적 위협을 초래할 가능성에 대비하는 연구를 담당했다고 해요. 그러나 OpenAI가 제품 및 상업적 초점으로 전환하면서 연구진의 이탈이 가속화되었어요.

이탈한 주요 인물로는 공동 창립자인 존 슐만(John Schulman), 수석 과학자인 일리야 수츠케버(Ilyy Sutskever)를 비롯해 여러 연구자들이 포함된다고 해요. 이들은 OpenAI가 AGI 안전보다 제품 개발에 더 집중하고 있다고 비판했어요.

OpenAI는 AGI 안전 연구를 지속하고 있다고 주장하지만, 내부에서는 상업적 압력이 연구의 우선순위를 바꾸고 있다는 우려가 제기되고 있어요. 아쉽게도 이러한 경향은 AGI 개발 경쟁에서 승리하려는 대형 AI 기업들의 경향과 맞물려 있어요.

AGI 안전 연구의 중요성은 여전히 강조되고 있으며, OpenAI는 새로운 안전 및 보안 위원회를 구성해 이 문제를 다루고자 해요. 그러나 내부 갈등과 상업적 압력은 앞으로의 도전에 대한 끊임 없는 우려를 낳을 거에요.

'딸기'가 진짜로 온다!

최근 OpenAI는 새로운 인공지능 제품 '딸기(Strawberry)’를 출시하기 위해 박차를 가하고 있어요. 유명 언론인 '디 인포메이션(The Information)'에 따르면, 이 AI는 기존의 AI와는 달리 복잡한 문제를 해결하는 능력이 뛰어나며, 특히 수학 문제와 프로그래밍 문제를 해결하는 데 탁월한 성능을 보여줘요.

'딸기'는 이전에 본 적 없는 수학 문제를 해결할 수 있는 능력을 갖추고 있어요. 이는 알파프루프(AlphaProof)처럼 현재의 챗봇들이 신뢰할 수 없었던 부분을 보완하며, 기술적 질문뿐만 아니라 다양한 문제를 해결하는 데 도움을 줄 수 있어.

OpenAI는 빠른 시일 안에 '딸기'를 ChatGPT와 통합하여 사용자들에게 더욱 향상된 경험을 제공할 계획이에요. 이를 통해 사용자들은 더 복잡하고 다양한 질문에 대한 답변을 받을 수 있게 될 거에요.

또한 궁극적으로, OpenAI는 '딸기'를 사용해서 만든 합성 데이터셋으로 더욱 더 훨씬 뛰어난 모델인 '오라이언(Orion)'을 학습할 예정이라고 해요.

이번 Strawberry의 출시는 OpenAI가 AI 기술의 한계를 넘어서는 중요한 발걸음이 될 것이에요. 앞으로도 OpenAI의 혁신적인 연구와 개발이 기대 돼요.

다가올 '오라이언'과 특이점

이처럼 인공지능(AI) 분야는 끊임없는 혁신과 발전을 거듭하고 있습니다. xAI의 '그록-2’와 메타 리얼리티 랩스의 ‘사피엔스’ 모델은 AI의 성능과 효율성을 극대화하며, 다양한 실제 응용 분야에서 큰 잠재력을 보여주고 있어요. 또한, 자동 설계 에이전트 시스템(ADAS)의 등장과 OpenAI의 ‘딸기’ 출시 계획은 AI 연구와 개발의 새로운 지평을 열고 있어요.

이러한 발전들은 우리의 일상과 산업 전반에 걸쳐 큰 변화를 가져올 것이며, 앞으로도 AI 기술의 무한한 가능성을 기대하게 만들어요. AI의 미래는 이제 막 시작되었으며, 에코 멤버님들은 그 여정의 중요한 순간을 함께하고 있어요.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

같이 읽어보면 좋은 글

Cinnamomo di Moscata (글쓴이) 소개

게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/

(1) ibab. (2024). "Grok 2 mini is now 2x faster than it was yesterday. In the last three days @lm_zheng and @MalekiSaeed rewrote our inference stack from scratch using SGLang (https://t.co/M1M8BlXosH). This has also allowed us to serve the big Grok 2 model, which requires multi-host inference, at a https://t.co/G9iXTV8o0z". X. https://x.com/ibab/status/1827047684714463603

(2) 박찬. (2024). xAI, '그록-2' 코드 수정 후 속도 2배 향상..."챗봇 선호도 세계 2위". AI타임스. https://www.aitimes.com/news/articleView.html?idxno=162792

(3) arXiv:2408.12569 [cs.CV]

(4) Reality Labs. (2024). Sapiens. Meta. https://about.meta.com/realitylabs/codecavatars/sapiens/

(5) arXiv:2408.08435 [cs.AI]

(6) Jeff Clune. (2024). "Researchers invest substantial effort in powerful agents, but the history of ML teaches us that manual solutions are eventually replaced by learned solutions. In ADAS, agents are automatically designed, including inventing new building blocks and/or combining them in new ways. https://t.co/WaUmMGxIrt". X. https://x.com/jeffclune/status/1825551355311968617

(7) Sharon Goldman. (2024). Exodus at OpenAI: Nearly half of AGI safety staffers have left, says former researcher. Fortune. https://fortune.com/2024/08/26/openai-agi-safety-researchers-exodus/

(8) Erin Woo, Stephanie Palazzolo, Amir Efrati. (2024). OpenAI Races to Launch ‘Strawberry’ Reasoning AI to Boost Chatbot Business. The Information. https://www.theinformation.com/articles/openai-races-to-launch-strawberry-reasoning-ai-to-boost-chatbot-business