endless summer, oil painting style, cartoon style

여름은 끝나지 않아

Cinnamomo di Moscata 15 Sep 2024

알파폴드보다 한 단계 더!

최근 AI와 생명공학의 융합이 새로운 국면을 맞이하고 있어요. 그 중심에는 OpenAI와 쓰라이브 캐피털(Thrive Capital)이 후원하는 차이 디스커버리(Chai Discovery; 이하 차이)가 있어요. 이 스타트업은 설립된 지 불과 6개월 만에 약 3천만 달러의 자금을 유치하며 주목받고 있다고 해요.

차이는 AI를 활용해 생화학 분자의 구조를 예측하고, 이들의 상호작용을 재프로그래밍하는 모델을 개발하고 있어요. 이는 새로운 약물을 개발하는 데 핵심적인 과정인데, 공동 창업자이자 CEO인 조슈아 마이어(Joshua Meier)는 "우리는 생물학을 과학에서 공학으로 전환하고자 합니다"라고 말하며, 이들의 목표를 명확히 했어요.

차이의 첫 번째 오픈 소스 모델인 차이 1(Chai-1)은 알파폴드(AlphaFold)와 ESM3와 같은 기존 모델과 비교하여 10%에서 20% 더 높은 성공률을 보이고 있다고 해요. 최신 항암제 같이 약물 발견에 중요한 과제에서 일관되게 더 나은 성과를 보여주고 있어요.

이 스타트업은 현재 10명 미만의 직원으로 구성되어 있으며, OpenAI, 구글(Google), 메타(Meta)와 같은 대기업 출신의 인재들을 유치하고 있어요. 다행스럽게도 차이는 많은 사람들이 좋은 약의 혜택을 누리도록 첫 번째 모델을 무료로 제공하며, 상업화 계획에 대해서는 아직 논의 중이라고 해요.

GPT-4o1 뒤에는?

유명한 유출자인 지미 애플(Jimmy Apples)은 GPT-4.5 '딸기'가 몇 주 안에 출시된다는 예상을 맞췄어요. 그의 최근 트윗에 따르면, 많은 이들이 기다리고 있는 GPT-5 모델은 빠르면 2024년 12월에 출시될 수 있지만, 현실적으로는 2025년 1분기나 2분기에 출시될 가능성이 높다고 해요. 이는 AI 기술의 발전 속도를 고려할 때 매우 흥미로운 소식이에요.

이와 함께, 지미는 앤트로픽 AI(Anthropic AI)와 구글(Googl)도 새로운 모델을 준비 중이라고 밝혔고, 이들 모델은 미국 대통령 선거 전후로 출시될 가능성이 있어요. 과연 GPT-5는 어떤 모델이 될까요? '딸기'를 사용해서 학습 데이터를 만드는 만큼 앞으로 얼마나 더 많은 성능 혁신이 일어날지 기대돼요.

NVIDIA에 도전하는 딥실리콘

최근 AI 모델의 발전은 눈부시지만, 그에 따른 하드웨어 요구사항도 급격히 증가하고 있어요. 특히, ChatGPT, 클로드(Claude), 제미나이(Gemini)와 같은 대형 트랜스포머 모델을 효율적으로 실행하기 위해서는 막대한 연산 능력과 에너지가 필요해요. 이러한 문제를 해결하기 위해 딥실리콘은 삼진법 트랜스포머 모델을 개발하고 있어요.

삼진법 트랜스포머는 다음과 같은 장점이 있다고 해요.

첫째, 효율적인 메모리 사용: 삼진 값(1, 0, -1)을 사용함으로써, 모델의 가중치를 16비트에서 2비트로 압축할 수 있어요. 약 8배의 압축률을 의미하며, 메모리 사용량을 크게 줄여준다고 해요.

둘째, 연산 강도 감소: 삼진법과 INT8 값을 사용한 내적 연산은 기존의 연산보다 훨씬 간단해요. 이는 연산 속도를 높이고 에너지 소비를 줄이는 데 기여해요.

현재 대부분의 하드웨어는 낮은 비트 폭 행렬 연산에 최적화되어 있지 않아요. 딥실리콘은 기존 하드웨어에서 커널을 최적화하여 성능을 개선하고 있으며, 향후 맞춤형 실리콘을 개발하여 더욱 높은 성능을 목표로 하고 있어요. 그러나 새로운 하드웨어를 도입하는 것은 쉽지 않은 일이에요. 많은 기업들이 기존의 인프라와 소프트웨어 스택을 변경하는 데 어려움을 겪고 있기 때문이라고 해요.

그럼에도 딥실리콘은 로봇 공학 및 엣지 컴퓨팅 시장을 주요 타겟으로 삼고 있어요. 특히, NVIDIA의 Jetson 라인을 사용하는 기업들과 협력하여 삼진 트랜스포머 모델의 효율성을 입증하려고 시도하고 있어요. 이를 통해 더 나은 압축률, 처리량, 지연 시간, 에너지 효율성을 제공하는 맞춤형 컴퓨터 칩을 개발할 계획이라고 해요.

혁신적인 TTS

최근 피시 오디오(Fish Audio)는 최신 버전의 음성 기술인 Fish Speech 1.4(이하 피시)를 공개했어요. 이번 업데이트는 음성 기술의 접근성을 높이고, 개발자와 연구자들에게 강력한 도구를 제공하는 것을 목표로 하고 있다고 해요.

피시는 약 700,000시간의 다국어 데이터로 훈련되었는데, 이전 모델의 200,000시간에서 대폭 증가했어요. 특히, 지원 언어가 대폭 늘어나서 영어, 중국어, 독일어, 일본어, 프랑스어, 스페인어, 한국어, 아랍어 등 전세계의 주요 언어들을 자유자재로 말할 수 있어요.

피시는 한편으로 초저지연 TTS와 즉시 음성 복제라는 기법을 사용해요. 듣고 싶은 문장을 입력하자마자 몇 초 안에 번개처럼 빠른 음성을 만들어주고, 몇 초 정도의 목소리만 들려줘도 거의 완벽하게 따라한다고 해요.

만약 간편하게 웹 서비스를 이용하고 싶다면, 미드저니(Midjourney)와 비슷하게 정액제로 사용할 수 있어요. 가장 중요한 점으로, 핵심 기술은 완전 오픈 소스라서 전 세계 개발자와 연구자들, 그리고 일반인들이 자유롭게 활용할 수 있다고 해요.

피시는 이번 업데이트를 통해 음성 기술의 새로운 가능성을 열어가고 있으며, 사용자들이 이 기술을 통해 어떤 창의적인 결과물을 만들어낼지 기대가 되네요.

Excited to introduce Fish Speech 1.4 - now open-source and more powerful than ever! 🎉 Our mission is to make cutting-edge voice tech accessible to everyone.

What's new:
- Trained on 700k hours of multilingual data (up from 200k)
- Now supports 8 languages: English, Chinese,… pic.twitter.com/A9vS1yGuRR
— Fish Audio (@FishAudio) September 11, 2024

피시의 데모 영상

과학을 하는 AI

최근 퓨처하우스(FutureHouse Inc.)의 연구팀은 AI 에이전트가 과학 지식의 통합에서 인간 전문가를 능가할 수 있음을 입증했어요. 이 연구는 PaperQA2라는 최첨단 언어 모델 에이전트를 개발하여, 정보 검색, 요약, 모순 탐지 등의 실제 문헌 연구 작업에서 인간 전문가와 비교 평가했어요.

정보 검색에서 PaperQA2는 과학 문헌에서 질문에 대한 답을 찾는 작업에서 박사 과정 대학원생 및 박사 후 연구원(Post-Doc; 통칭 포닥)보다 높은 정확도를 보였어요. 요약에서도 PaperQA2는 역시나 AI 답게, 위키피디아 스타일의 과학 주제 요약에서 인간이 작성한 기존 위키피디아 기사보다 더 정확한 결과를 도출했다고 해요. 특히, PaperQA2는 생물학 논문에서 모순을 찾아내는 작업에서도 높은 성과를 보였으며, 인간 전문가가 검증한 모순의 70%를 정확히 찾아냈어요.

이 연구는 언어 모델 에이전트가 과학 연구에서 유용하게 활용될 수 있는 가능성을 보여주며, 향후 과학적 발견과 지식 통합에 큰 기여를 할 것으로 기대돼요.

'딸기'가 준 새로운 도약

이처럼 AI와 생명공학, 하드웨어, 음성 기술, 그리고 과학 연구의 융합은 우리에게 새로운 가능성과 혁신을 제시하고 있어요. 차이 디스커버리의 생화학 모델, GPT-5의 출시 기대, 딥실리콘의 삼진법 트랜스포머, 피시 오디오의 최신 TTS 기술, 그리고 퓨처하우스의 PaperQA2는 모두 각자의 분야에서 놀라운 성과를 이루어내고 있어요.

이러한 발전은 단순히 기술의 진보를 넘어, 우리의 삶을 더욱 풍요롭고 편리하게 만들어줄 것입니다. 앞으로도 AI와 다양한 분야의 융합이 가져올 지금보다 훨씬 미래를 기대하며, 에코 멤버님들은 이 혁신의 흐름을 주의 깊게 지켜보다가 탑승해야 할 필요가 있어보여요.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

같이 읽어보면 좋은 글

Cinnamomo di Moscata (글쓴이) 소개

게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/

(1) Jackie Davalos. (2024). OpenAI, Thrive Capital Back Six-Month-Old AI Drug Discovery Startup. Bloomberg. https://www.bloomberg.com/news/articles/2024-09-09/openai-thrive-capital-back-six-month-old-ai-drug-discovery-startup

(2) 박찬. (2024). 오픈AI 지원 스타트업, 신약 개발 AI 모델 출시..."딥마인드 모델 능가". AI타임스. https://www.aitimes.com/news/articleView.html?idxno=163281

(3) Jimmy Apples. (2024). "Ok back to October now. We should have a 4.x model ( maybe still called 4.5, my old friend ) in October. The big boy gpt 5, I’ve heard as early as December but for your sanity I would have Q1/Q2 2025 just in case. View Strawberry in context of better models to come.". X. https://x.com/apples_jimmy/status/1833595024543781088

(4) Jimmy Apples. (2024). "Strawberry should still be this week if Sam doesn’t decide to delay. And then we have anthropic and Google lurking around, haven’t looked into them but we know both have their next model coming from now until the election or so.". X. https://x.com/apples_jimmy/status/1833599654401085905

(5) Hacker News. (2024). Launch HN: Deepsilicon (YC S24) – Software and hardware for ternary transformers. Y Combinator. https://news.ycombinator.com/item?id=41490196

(6) Diana. (2024). "Deepsilicon runs neural nets with 5x less RAM and ~20x faster. They are building SW and custom silicon for it. What’s interesting is that they have proved it with SW, and you can even try it. On why we funded them 1/7 https://t.co/7JPdZxdUb0". X. https://x.com/sdianahu/status/1833186687369023550

(7) Fish Audio. (2024). "Excited to introduce Fish Speech 1.4 - now open-source and more powerful than ever! 🎉 Our mission is to make cutting-edge voice tech accessible to everyone. What's new: - Trained on 700k hours of multilingual data (up from 200k) - Now supports 8 languages: English, Chinese, https://t.co/A9vS1yGuRR". X. https://x.com/FishAudio/status/1833787529595912531

(8) fishaudio. (2024). fishaudio/fish-speech. GitHub. https://github.com/fishaudio/fish-speech

(9) Michael D. Skarlinski, Sam Cox, Jon M. Laurent, James D. Braza, Michaela Hinks, Michael J. Hammerling, Manvitha Ponnapati, Samuel G. Rodrigues, Andrew D. White. (2024). Language Agents Achieve Superhuman Synthesis of Scientific Knowledge. FutureHouse. https://storage.googleapis.com/fh-public/paperqa/Language_Agents_Science.pdf

(10) Sam Rodriques. (2024). "Introducing PaperQA2, the first AI agent that conducts entire scientific literature reviews on its own. PaperQA2 is also the first agent to beat PhD and Postdoc-level biology researchers on multiple literature research tasks, as measured both by accuracy on objective benchmarks https://t.co/2v8MsHVp2H". X. https://x.com/SGRodriques/status/1833908643856818443

간밤에 속보! OPEN AI 신규 모델 발표!

아래 영상으로 공식 영상 모두 마스터하세요!