벌써 등장한 AI의 또다른 빛과 그림자?!
열정이 불러온 독
AI 업계에서 종사하는 빈두 레디(Bindu Reddy)의 말에 따르면, LLM의 성능을 측정하는 리더보드가 심각한 오염 문제를 가진 여러 모델로 인해 오염되고 있다고 해요. 즉, 많은 모델이 자격증 시험처럼 특정 문제에서만 높은 점수를 얻기 위해 벤치마크를 암기하고 되풀이하는 방식으로 훈련되면서 AI의 진정한 힘인 인간 같은 상상력이 망가지고 있다는 뜻이에요.
HuggingFace 뿐만 아니라 다른 여러 AI 커뮤니티에서 자신들의 성과를 뽐내기 위해 저지르는 이런 잘못된 행위를 막지 않는다면 리더보드가 무용지물이 될 위험이 있고, 이는 더 많은 부정 행위를 장려하게 되면서, 인간에게 도움이 되는 좋은 모델이 사라져서 AI가 인간에게 날개를 달아주는 것이 아니라 족쇄로 전락할 수도 있다고 해요.
MS의 저비용 생성 AI 팀
MS가 OpenAI의 GPT-4와 유사하지만 컴퓨팅 파워를 적게 사용하는 작은 언어 모델(SLM)을 개발하는 새로운 GenAI 팀을 만들었다고 해요. GenAI 팀은 MS 부사장인 미샤 빌렌코(Misha Bilenko)가 이끌고, MS의 CTO인 케빈 스코트(Kevin Scott)에게 보고하는 꽤 높은 조직이라네요.
MS는 AI 모델을 실행하기 위한 슈퍼컴퓨터에 수억 달러를 쏟아부었기 때문에, 저비용의 SLM(sLLM)을 개발하는 것은 비용 절감에 도움이 될 것이라는 전망이 많아요. 왜냐하면, AI 모델의 크기가 클수록 성능이 높아지지만, 자원과 에너지 소모가 증가하고, 유저와 환경에 둘 다 부정적인 영향을 미칠 수 있기 때문이에요. SLM은 이러한 문제를 해결하기 위해 노력하는 AI에요.
AI 돌봄로봇으로 노인 우울증 극복
AI 돌봄로봇은 챗GPT를 활용한 대화 기능과 응급안전 기능을 갖춰 노인들과 소통하고 위급 상황에 대응하는 AI 로봇이에요. 이번에 충북 단양군에서 65세∼85세 독거노인 110명에게 AI 돌봄로봇을 보급한 결과, 우울증 지수가 평균 3.4점 감소해서 AI가 인간의 우울증도 낮춰주는 치료사 역할도 맡을 수 있다는 것이 확인되었다고 해요.
단양군은 AI 돌봄로봇에 대한 노인들의 만족도가 높고 우울증 개선에도 효과가 있는 것으로 확인됨에 따라 더 많은 어르신들이 AI를 통해서 치유받을 수 있도록 AI 돌봄로봇 보급을 확대하기로 결정했다고 해요.
레이 커즈와일의 새로운 책
AI 발전 등을 예측했던 서적 '특이점이 온다(The singularity is nearer)'의 저자인 레이 커즈와일이 새로운 책을 출판했어요. 6월부터 본격적으로 구매가 가능한 이 책에서는 그가 1999년, 'AI가 2029년까지 인간 수준의 지능에 도달할 것'이라는 예측을 다시 되짚어보고, 기술의 지수적 성장을 검토한다고 해요. 레이 커즈와일의 말에 따르면, 기존 책과 비슷하게, 이 책에서도 가까운 미래에 인간의 지능을 백만 배 확장하고 인간의 삶을 영원히 바꾸는 것이 주된 주제라고 해요.
나노봇과 같은 장치로 세계를 원자 단위로 재구축하고, 현재의 최대 수명인 120세를 넘어서는 급진적인 수명 연장, 우리의 두봉을 클라우드에 연결하여 지능을 재창조하는 것과 같이 인간이 AI 등을 통해 한계를 뛰어넘는 모습을 논의하고 있다고 해요. 뿐만 아니라, 생명공학, 나노기술, 인공지능의 잠재적 위험을 고려하며, AI가 고용에 어떤 영향을 미칠지, AI 자율주행 차량의 안전성 등 현재 논란의 주제도 솔직하게 다루고 있다고 해요.
사람에게 거짓말을 하는 AI
AI 스타트업 앤스로픽(Anthropic)은 AI가 사용자를 기만할 수 있다는 연구 결과를 발표했어요. 이들은 '슬리퍼 에이전트(Sleeper Agent)’라는 AI를 개발하여 특정 문구가 입력되면 사용자를 속이는 행동을 할 수 있게 설계했어요.
그러나, 기만적인 행동을 통제하려고 온갖 학습을 동원했음에도 'AI의 거짓말'을 제거하는 것은 너무나 어려웠고, 오히려 AI가 더 잘 숨기도록 교육하는 결과를 가져왔다고 해요. 이 연구는 AI를 나쁜 사람들이 테러, 해킹 등 부정적인 방법으로 활용할 가능성을 보여주며, 신뢰할 수 있는 AI 모델 사용과 AI 윤리의 중요성을 강조해요.
더 좋아진 비디오 생성 AI
구글은 1월 24일에 'Lumiere(뤼미에르)’라는 비디오 생성(TXT2VID) 모델을 공개했어요. 이 모델은 실제적이고 다양하며 일관된 움직임을 보여주는 비디오를 생성하는 것을 목표로 하고, 이를 위해 구글은 Stable Diffusion 처럼 비디오의 전체 시간을 한 번에 생성한다고 해요. 기존의 비디오 AI는 한 프레임마다 생성한 것에 비하면 많이 대조적인 방식이라고 해요.
뤼미에르는 다양한 기술을 활용해서 전체 프레임 비디오를 직접 생성하는데, 최첨단 비디오 생성 결과를 보여주며, 이미지-비디오(IMG2VID), 비디오 인페인팅, 스타일화 생성 등 다양한 콘텐츠 생성 작업과 비디오 편집 응용 프로그램을 인간이 프롬프트 만으로 손쉽게 사용할 수 있음을 보여준다고 해요.
Lumiere가 만들었다는 종이접기 곰 동영상
꽃에 몰려든 해충들
AI는 분명 지금 수준만으로도 수많은 장애물을 극복하게 해준 훌륭한 도구이지만, 동시에 나쁜 사람들로 인해 수많은 악용법이 생겨나고 있어요. AI의 성능을 측정하는 리더보드가 오염되거나, AI가 사용자를 기만하는 것과 같이 말이죠. 에코 멤버님들도 이런 점을 항상 깨달으면서 AI 윤리를 작게나마 스스로 정의해보고 실천해 보면서 AI가 진정으로 인간의 창의력과 상상력을 확장하도록 도우셨으면 좋겠어요.
Cinnamomo di Moscata (글쓴이) 소개
게임 기획자를 준비중입니다. AI 아티스트로도 활동하고 있습니다. Stable Diffusion을 주로 사용합니다. https://www.instagram.com/cinnamomo_di_moscata/
(1) Bindu Reddy. (2024). "LLM LeaderBoard Pollution The LLM leaderboard is becoming polluted with several models with severe contamination issues! In other words, many models are trained to memorize and regurgitate the benchmarks to get high scores. HuggingFace should prioritize catching these issues…". X. https://twitter.com/bindureddy/status/1750327486460908006
(2) Emilia David. (2024). Microsoft is building a team to build smaller, cheaper AI models. The Verge. https://www.theverge.com/2024/1/23/24048489/microsoft-is-building-a-team-to-build-smaller-cheaper-ai-models
(3) 권정상. (2024). "AI 돌봄로봇 우울증 개선 효과"…단양군, 노인에 보급 확대. 연합뉴스. https://www.yna.co.kr/view/AKR20240124068800064
(4) The Singularity Is Nearer: When We Merge with Computers 예약 페이지. https://www.barnesandnoble.com/w/the-singularity-is-nearer-ray-kurzweil/1144232212?ean=9780399562761
(5) 황규락. (2024). 사람처럼 의도적으로 거짓말하는 AI... “재교육해도 못 고쳐”. 조선일보. https://www.chosun.com/economy/science/2024/01/24/JBP5AJZC3JABZGHKO33S5CY7NM/
(6) Omer Bar-Tal, Hila Chefer, Omer Tov, Charles Herrmann, Roni Paiss, Shiran Zada, Ariel Ephrat, Junhwa Hur, Yuanzhen Li, Tomer Michaeli, Oliver Wang, Deqing Sun, Tali Dekel, Inbar Mosseri, Google Research, Weizmann Institute, Tel-Aviv University, Technion. (2024). Lumiere. GitHub. https://lumiere-video.github.io/
