모든 것은 알트만의 계획대로
AI도 고통을?!
AI 연구 분야에서 주목할 만한 변화가 일어나고 있어요. 바로 앤트로픽 AI(Anthropic AI)가 세계 최초로 'AI 복지' 연구원을 고용했기 때문이에요. 이 포지션은 미래의 AI 모델이 도덕적 고려와 보호를 받을 자격이 있는지 탐구한다고 해요. 즉, AI 모델이 의식 등을 가질 가능성에 대한 논의로 이어지며, AI가 인간처럼 의식과 감정을 느낄 가능성에 대한 불확실성을 해결하기 위해서 AI 복지에 대한 이해를 높이고 현명한 결정을 내릴 필요가 있다는 주장이라고 해요.
더불어, 연구원은 AI 시스템이 의식을 가질 수 있는지 평가하기 위해 특정 지표를 사용하는 방법을 제안했어요. 개나 고양이 같이 동물의 의식을 평가하는 방법과 유사한데, 여러 지표를 종합적으로 검토하여 AI 시스템이 도덕적 고려를 받을 필요가 있는지 판단하는 데 도움을 줄 수 있다고 해요.
앤트로픽의 이 새로운 접근 방식은 그 누구도 예상하지 못한 AI의 의식을 다루면서 새로운 지평을 열고 있고, 다른 기술 기업들도 유사한 연구를 진행할지도 모른다고 해요.
보이지 않는 벽
몇 년간 AI 기술은 급격한 발전을 이루었지만, 그 발전의 속도는 점차 둔화되는 중이라는 의견이 있어요. 특히, OpenAI, 구글(Google), 그리고 앤트로픽과 같은 선도적인 AI 기업들은 더 발전된 AI 모델을 개발하는 데 있어 큰 도전에 직면하고 있어요.
OpenAI는 최근 새로운 AI 모델인 오라이온(Orion)의 초기 훈련을 완료했어요. 이 모델은 이전 버전보다 훨씬 뛰어난 성능을 목표로 했지만, 기대에 미치지 못했다고 해요.
특히, 오라이온은 훈련되지 않은 코딩 질문에 답하는 데 어려움을 겪었는데, GPT-4가 GPT-3.5에서 큰 도약을 이룬 것과 비교할 때, 알트만이 GPT-5 출시에 주저했던 것도 이런 이유 때문이라고 생각돼요. 다행스럽게도, 알트만은 (GPT-4)o2를 거론하거나, 'There is no wall(장애물은 없다)'이라는 트윗을 통해 새로운 돌파구를 찾았다고 암시했어요.
구글과 앤트로픽 역시 비슷한 문제를 겪고 있지만 이 둘의 상황은 좋지 않아보여요. 막대한 비용을 들여 새로운 AI 모델을 개발하고 있지만, 그 성과는 점차 감소하고 있어요. 앤트로픽은 클로드 3.5 오푸스(Claude 3.5 Opus)와 관련된 내용을 웹사이트에서 지웠고, 구글은 제미나이 2.0(Gemini 2.0)의 성능에 실망했거든요. AI 기술의 발전이 단순히 더 많은 데이터를 투입하는 것만으로는 이루어지지 않음을 시사해요.
신년 선물
AI 기술의 발전은 눈부셔요. 그 중에서도 OpenAI는 새로운 AI 에이전트 도구 "Operator"를 통해 또 한 번의 혁신을 예고하고 있어요. 경쟁자들과 마찬가지로, AI 에이전트는 사용자를 대신해 컴퓨터에서 다양한 작업을 수행할 수 있는 능력을 갖추고 있어요.
OpenAI는 2025년 1월에 에이전트를 프리뷰 형태로 출시할 계획이며, 개발자를 위한 API를 통해 제공할 예정이라고 해요. AI 소프트웨어가 사용자의 최소한의 감독 하에 다단계 작업을 완료할 수 있도록 하는 산업 전반의 추진의 일환이에요.
이와 유사한 에이전트 도구는 이미 앤트로픽, MS, 구글 등에서도 출시했고, 계속 업드레이드 중이에요. 특히 MS는 이메일 전송 및 기록 관리와 같은 작업을 자동화하는 에이전트 도구를 최근에 출시했어요.
샘 알트만(Sam Altman)은 최근 레딧(Reddit)에서 진행한 Q&A 세션에서 에이전트 도구의 중요성을 강조했습니다. 그는 "우리는 더 나은 모델을 계속 개발할 것입니다. 하지만 다음 큰 돌파구는 에이전트가 될 것입니다"라고 언급했어요.
저작권도 회피하는 AI
뉴욕 남부지방법원(Southern District of New York)은 소규모 온라인 뉴스 매체인 로 스토리 미디어(Raw Story Media, Inc.)와 알터넷 미디어(AlterNet Media, Inc.)가 OpenAI를 상대로 제기한 저작권 침해 소송을 기각했어요. 이 소송은 OpenAI가 뉴스 콘텐츠를 스크래핑하여 훈련 데이터로 사용함으로써 저작권을 침해했다고 주장했었거든요.
특히 디지털 밀레니엄 저작권법(DMCA) 제1202(b)조에 따른 저작권 및 AI 도구에 대한 지속적인 논쟁에서 중요한 순간으로 볼 수 있어요. 이 조항은 저작권 관리 정보(CMI)의 제거 또는 변경을 금지하고 있어요. 로 스토리 미디어와 알터넷 미디어는 OpenAI가 그들의 웹사이트에서 기사를 사용하면서 CMI를 보존하지 않아 이 조항을 위반했다고 주장했어요.
그러나 판사 콜린 맥마흔(Colleen McMahon)은 원고들이 OpenAI의 행동으로 인해 구체적이고 실제적인 피해를 입었다는 것을 입증하지 못했다고 판단하여 소송을 기각했어요. 판사는 또한 LLM 인터페이스의 진화를 고려했을 때, 시스템 업데이트가 저작권 침해를 입증하는 것을 더욱 어렵게 만든다고 언급했어요.
즉, 판결은 AI가 데이터를 합성하는 방식과 직접 복제하는 방식의 차이를 강조했어요. OpenAI의 ChatGPT는 기사를 직접 기억하지 않고, 인간의 글쓰기를 닮은 새로운 출력을 생성하거든요. 현재의 저작권법에서는 저작권법을 위반했는지 본질적으로 판단하기 어렵다고 해요.
정부의 힘을 빌리면!
최근 OpenAI는 미국 정부와 협력하여 현재 개발 중인 데이터 센터보다 다섯 배 더 큰 인공지능 데이터 센터를 구축하는 방안을 논의했습니다. 이 계획은 AI 기술의 발전과 그에 따른 데이터 처리 요구를 충족하기 위한 것으로, OpenAI의 정책 책임자인 크리스 레하네(Chris Lehane)는 워싱턴에서 열린 행사에서 이와 관련된 정보를 공유했습니다.
이 데이터 센터는 AI 연구와 개발을 위한 인프라를 제공하며, 이를 통해 OpenAI는 더욱 혁신적인 AI 솔루션을 개발할 수 있을 것으로 기대됩니다. 그러나 이러한 대규모 프로젝트는 $1000억(약 100조원)라는 막대한 비용과 자원을 필요로 하며, 그에 따른 경제적, 환경적 영향도 고려해야 합니다.
OpenAI의 데이터 센터 계획은 AI 기술의 미래를 위한 중요한 발걸음이 될 것입니다. 이 프로젝트가 성공적으로 완료된다면, AI 연구와 개발의 새로운 시대를 열어갈 수 있을 것입니다.
벽은 없어!
OpenAI 연구원들의 다시 활발해진 트윗은 AI의 급격한 변화를 암시하고 있어요. 제이슨 웨이(Jason Wei)는 "사고의 흐름(Chain-of-Thought)" 프롬프트 방식의 진화를 통해 AI가 단순 모방을 넘어 실제 인간의 사고 과정과 유사한 추론 능력을 갖추게 되었음을 지적했어요. 과거의 챗봇은 정답만을 제시하거나 획일적인 패턴을 답습하는 데 그쳤다면, 이제는 오류를 수정하고 다양한 관점을 시도하는 등 마치 "내면의 독백"과 같은 사고 과정을 보여준다고 해요.
이어 클라이브 챈(Clive Chan)은 이러한 변화가 단순히 기술적 개선이 아닌 "AGI(범용 인공지능)가 사실상 도래했다"는 선언으로 이어져요. 그는 앞으로 남은 것은 "새로운 패러다임에서 명백해진 아이디어들을 시도하고, 확장하고, 가속화하는 수년간의 힘든 엔지니어링"이라고 말했어요. 기본적인 이론적 토대는 완성되었고, 이제는 실제 구현하고 최적화하는 단계에 돌입했다는 것이에요. 챈은 앞으로 수많은 시행착오와 지속적인 개선을 통해 인공지능의 성능이 폭발적으로 향상될 것을 예고했어요.
마지막으로 공신력 있는 루머 유출자인 지미 애플(Jimmy Apples)은 이러한 변화를 "우리가 AI에서 크게 이기고 있다"는 과장된 표현으로 요약했어요. 그의 트윗은 다소 희화적이지만, OpenAI 내부의 낙관적인 분위기와 인공지능 분야의 격변을 암시하는 또 다른 증거로 볼 수 있어요.
모두가 그록만 쓰기를 바라는 머스크
일론 머스크(Elon Musk)의 X가 일부 사용자에게 그록 AI(Grok AI)를 무료로 제공하기 시작했다는 소식이 전해졌어요. 그동안 그록은 프리미엄 구독자에게만 제공되었지만, 이제는 뉴질랜드를 포함한 일부 지역에서 무료로 사용할 수 있게 되었다고 해요.
그록은 xAI에서 개발한 모델로, X의 콘텐츠를 학습하여 실시간 대화에 접근할 수 있는 독특한 이점을 가지고 있는데, 일론 머스크가 주장하는 '시민 저널리즘'의 진정한 정보원이라는 아이디어와 맞물려 있어요.
머스크가 이 아이디어를 실현시키려는 듯, 무료 사용자들은 그록 2(Grok-2) 모델로 2시간마다 최대 10개의 질문을 할 수 있고, 그록 2 미니(Grok-2 Mini) 모델을 사용하면 20개의 질문을 할 수 있게 되었어요. 또한 하루에 최대 3개의 이미지를 분석할 수 있는 제한이 있어요.
질문 수 제한은 챗봇의 자원 소모를 관리하고, X 플랫폼에서 봇 문제를 악화시키지 않기 위한 조치로 보이지만, 무료 AI가 제한적인 현재 상황에서는 모두가 AI를 누릴 수 있도록 유도하는 건전한 경쟁이라고 생각해요.
호주에서 보내는 '겨울'처럼
AI 겨울론은 기우였어요. OpenAI의 '오라이온'은 주춤했지만, "(GPT-4)o2"와 "There is no wall"은 새로운 도약을 예고했고, 앤트로픽의 'AI 복지 연구원'은 AI를 '존재'로 인식하는 패러다임 전환을 시사하며, 윤리적 논쟁을 촉발했어요.
진정한 게임 체인저인 AI 에이전트는 컴퓨터와의 상호작용을 혁신할 거에요. 저작권 문제는 여전히 숙제로 남지만, 머스크의 '그록 AI 무료화'는 AI 대중화를 가속하고 있어요. OpenAI 연구원들의 트윗은 '사고의 흐름'과 'AGI 도래'를 언급하며 AI의 폭발적 성장을 예견해요.
AI의 겨울은 오지 않는 것 같아요. 오히려 우리는 호주에서 보내는 '따뜻한 겨울'처럼 AI의 눈부신 여름을 맞이할 준비를 해야 할 시간이에요. 에코 멤버님들을 업고 뛰는 AI의 새로운 패러다임을 향한 질주는 이제 막 시작되었어요.
같이 읽어보면 좋은 글
Cinnamomo di Moscata
Cinnamomo di Moscata (글쓴이) 소개
게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/
(1) Benji Edwards. (2024). Anthropic hires its first “AI welfare” researcher. Ars Technica. https://arstechnica.com/ai/2024/11/anthropic-hires-its-first-ai-welfare-researcher/
(2) Rachel Metz, Shirin Ghaffary, Dina Bass, Julia Love. (2024). OpenAI, Google and Anthropic Are Struggling to Build More Advanced AI. Bloomberg. https://www.bloomberg.com/news/articles/2024-11-13/openai-google-and-anthropic-are-struggling-to-build-more-advanced-ai
(3) Morgan. (2024). "Jimmy was right: Opus 3.5 didn’t meet expectations and anthropic, while fundraising, quietly removed any mention from their website https://t.co/bEJoc3zwqA". X. https://x.com/morqon/status/1856736070131462184
(4) Sam Altman. (2024). "There is no wall". X. https://x.com/sama/status/1856941766915641580
(5) Shirin Ghaffary, Rachel Metz. (2024). OpenAI Nears Launch of AI Agent Tool to Automate Tasks for Users. Bloomberg. https://www.bloomberg.com/news/articles/2024-11-13/openai-nears-launch-of-ai-agents-to-automate-tasks-for-users
(6) Bryson Masse. (2024). OpenAI's wins big as Raw Story's copyright lawsuit dismissed. VentureBeat. https://venturebeat.com/ai/openais-data-scraping-wins-big-as-raw-storys-copyright-lawsuit-dismissed-by-ny-court/
(7) Anissa Gardizy. (2024). OpenAI Discusses AI Data Center That Could Cost $100 Billion. The Information. https://www.theinformation.com/briefings/openai-discusses-ai-data-center-that-could-cost-100-billion-with-u-s-government
(8) Jason Wei. (2024). "There is a nuanced but important difference between chain-of-thought before and after o1. Before the o1 paradigm (i.e., chain-of-thought prompting), there was a mismatch between what chain of thought was and what we wanted it to be. We wanted chain of thought to reflect the". X. https://x.com/_jasonwei/status/1855417833775309171
(9) Clive Chan. (2024). "Same. Since joining in January I’ve shifted from “this is unproductive hype” to “agi is basically here”. IMHO, what comes next is relatively little new science, but instead years of grindy engineering to try all the newly obvious ideas in the new paradigm, to scale it up and". X. https://x.com/itsclivetime/status/1855704120495329667
(10) Jimmy Apples. (2024). "Clive (very smart guy, very smart) at OpenAI - great company, doing BIG things - gets it! We're gonna build it bigger than ever before - SO MUCH ENGINEERING, you'll get tired of all the engineering! the INFORMATION doesn't want you to know this, but we're winning BIGLY in AI! https://t.co/ViiBN08hff". X. https://x.com/apples_jimmy/status/1855732937159070055
(11) Thomas Maxwell. (2024). Elon Musk's X Appears to Be Making Grok AI Free for Some Users. Gizmodo. https://gizmodo.com/elon-musks-x-appears-to-be-making-grok-ai-free-for-some-users-2000523091
