의외의 장애물을 마주한 AI?!
승승장구, 하지만...?
최근에 있었던 2023년 2분기 실적발표(컨퍼런스 콜; Conference Call)에서 가장 화두가 되었던 건 단연 빅테크의 AI 사업이에요. 클라우드 사업은 계속 성장하고, 광고 사업은 오히려 수익이 늘어나는 등 긍정적인 영향이 컸어요1. 이를 반영하듯 알파벳(구글 모회사), 마이크로소프트(MS), 메타(페이스북 모회사) 등등 수많은 빅테크의 CEO들은 실적발표 연설에서 AI를 적게는 42회, 많게는 66회 언급했다고 해요2.
이렇듯 엄청난 스포트라이트를 받는 AI는 승승장구하는 중이지만, 점점 의외의 장애물을 마주하게 되어서 연구자들의 고민이 이만저만이 아니에요. 과연 어떤 장애물이길래 대 AI 시대에 영향을 주는 것일까요?
엔비디아 의존으로 인해 부족한 칩셋
첫번째로 부족한 칩셋이에요3. AI는 그동안 GPU라고도 불리는 그래픽카드를 써서 학습과 추론(이용)을 했는데 절대 다수가 성능이 좋은 NVIDIA(엔비디아) 제품만 고집하면서 만드는 속도보다 파는 속도가 빨라지니까4 점점 가격이 비싸지고 있어요.
만약 AI를 쓰고 싶은 사람들이 지금보다 훨씬 더 늘어나서 기업 빼고 그 누구도 NVIDIA의 그래픽카드를 구할 수 없다면 AI시대임에도 AI의 혜택을 누리기 힘들어질 거에요.
너무 많은 전력 소모와 탄소 배출
두번째로 전력 소모와 탄소 배출이에요. 급속도로 발전하는 AI는 성능과 함께 전력 소모도 증가하게 되었는데, Bing AI 기준으로 AI 모델을 제작하는 것에만 7,200MWh의 전력을 사용했을 것이라고 추측된다고 해요. 이 정도면 화력발전소 2개 규모에 해당해요5.
GPT-3는 Bing AI보다는 낫지만 1,200MWh로 여전히 높다고 해요.
더욱이, AI를 만드는데 필요한 수많은 전자부품(CPU, GPU 등)과 전력 발전 과정에서 배출되는 탄소는 추산해보건대 연간 2,000만톤에 육박할 것이라고 해요.
AI가 분명 인류에게 도움이 되는 것은 맞지만 지구온난화를 꾸준히 가속화한다면 매 여름과 겨울이 힘들어질거에요.
해결책은?
그래서 수많은 개발자, 학자들이 모여서 해결책을 연구하는 중이에요. AI 제작과 이용에 필요하고 또 더욱 최적화된 칩셋을 대량으로 만들기 위해 구글은 TPU를 계속 연구중이고, 이외에도 KAIST가 새로운 설계를 발명해내는 등6, 이곳저곳에서 끊임없이 새로운 방식을 테스트 중이에요7.
또, 전력 소모와 탄소 배출에 있어서는 AI 전문가들이 밤을 지새워가면서 훨씬 가벼워서 누구나 쓸 수 있고, 더욱 정확하면서, 전력 소모는 압도적으로 낮은 친환경적인 AI 모델을 계속 만들고 있어요.
예를 들어, LLaMA-2 같은 경우 ChatGPT (GPT-3.5 Turbo)와 비슷한 성능을 내면서 AI 모델의 용량이나 요구 사양은 훨씬 가볍기 때문에 전력을 덜 소모할 수 있어요.
그리고 ChatGPT(GPT-4)가 사용하는 '믹스처 오브 익스퍼츠(MoE; Mixture of Experts)'는 엄청난 전력과 많은 GPU가 필요하지만, AI 전문가들은 훨씬 가벼우면서 성능은 비슷한 '믹스처 오브 로라(MoL; Mixture of LoRA)'라는 아이디어를 연구 중이에요8.
그럼에도 답을 찾아낼 것이다
사실, AI의 장애물은 과거에도 이미 있었다고 해요. 2010년대 이전까지만 해도, 컴퓨터의 성능과 AI 이론이 그렇게 발달하지 못했고, 성능을 높이거나 혹은 전력 소모를 줄일 수가 없어서 수많은 연구자들이 좌절하는 일이 빈번했어요.
하지만, 시간이 흐르고 흐르면서 결국 2020년대에 들어서면서 AI는 미드저니, ChatGPT, 스테이블 디퓨전과 같이 일상생활 속에 녹아들 정도로 가벼워졌듯이, 인류를 위한 AI 개발에 힘쓰는 전문가들의 마음이 모여 지금 이 순간에도 이미 다가온 AI 시대가 두 번 다시 멈추지 않도록 기여하고 있어요.
뉴스레터를 보는 에코 멤버님들도 이런 전문가들의 간절함에 부응하듯 AI를 적극적으로 배우고 응용하면서 새로운 시대에서 앞서 나가시길 바래요.