더 이상의 환각은 없다! AI의 새 돌파구!

'치타' 구글의 질주

이번 12월 14일, 구글의 AI 부서인 구글 딥마인드(이하 구글)가 FunSearch(이하 펀서치)라는 새로운 논문을 발표했어요¹. 이 펀서치는 ChatGPT 같은 LLM이 환각 때문에 '수학을 못푼다' '혁신을 발견하기에는 아직 멀었다'는 인식을 확 바꿔버릴 정도로 혁신적인 기술이라고 평가되는데요. 과연 어떻게 해서 한계를 극복한 것일까요?

코드, 코드, 코드

그 방법이란, 다름이 아니라 문제를 프로그래밍 코드(!)로 바꿔서 실행한 다음 평가하는 것을 무한정 반복하는 방식이라고 해요. 이미 ChatGPT나 Gemini(이하 제미나이) 둘 다 수학은 약할지언정, 압도적인 코딩 능력을 가지고 있고, 컴퓨터는 기본적으로 '계산기'이니까 ChatGPT와 제미나이가 인간 프로그래머처럼 '계산기(=컴퓨터)'에 코드로 공식을 직접 입력하고 계산하기를 반복하면서 수학 문제의 답을 찾고, 만약 더 나은 공식이 있다면 방법을 찾아내는 것이 가능하다고 해요.

이미 답을 알고 있었다

이렇게 보면 FunSearch가 사실 아주 복잡한 문제라도 AI가 코드로 바꿔서 문제를 해결한다는 발상 자체는 기존에 이미 존재하고 있었어요. 바로 울프람 알파에요.

울프람 알파는 매스매티카(Mathematica)라는 프로그래밍 언어를 사용해서 각종 수학 문제를 쉽게 풀어주는 도구인데, ChatGPT가 한창 떠오를 때 이 울프람 알파를 플러그인 형태로 접목시키려는 시도가 있었어요². 물론, 엄연한 한계가 존재해서 간혹 먹통이 되는 경우가 존재했지만, 수학 문제를 전혀 풀지 못하던 기존보다는 한결 나아졌어요.

펀서치는 이런 울프람 알파와 같은 코드 기반 문제 해결 방식을, AI에 맞게 한층 진화시켜서 적용한 것으로 보여요.

혁신과 혁신의 결합

더욱 충격적인 사실은, 펀서치 논문에서 사용된 AI는 구글 바드(제미나이 출시 이전 버전)에 사용된 PaLM-2라고 해요. 논문 저자들은 굳이 PaLM-2가 아니라 다른 AI를 사용해도 충분히 가능하다고 밝힌 만큼, 만약 제미나이나 GPT-4에 펀서치 기술을 접목한다면, 환각이 없어져서 복잡한 물리 공식, 재무 상태 분석 등이 훨씬 정확해질테고, 따라서 전적으로 믿고 맡겨도 될 거에요.

거기에 더해, OpenAI가 막 개발했다고 알려진 Q*(큐스타) 기술 또한 접목한다면, AI는 합성 데이터 기반 자율 학습(큐스타)과 코드 기반 문제 해결 능력(펀서치)을 겸비하게 되어 그 어떤 문제라도 해결할 수 있는 AGI(범용 인공 지능) 도달이 코 앞까지 다가와 있을지도 몰라요.

비트겐슈타인처럼

어떤 전문가들은 종종 ChatGPT나 Midjourney 같은 진보한 AI를 비트겐슈타인(Wittgenstein)의 언어철학 이론에 빗대곤 해요^{3 4}. 이 이론에 따르면 비트겐슈타인은 '내 언어의 한계가 내 세계의 한계'이기 때문에, '단어의 의미를 아는 것은 문맥을 아는 것보다 훨씬 중요'하다고 보았기 때문에, ChatGPT 같이 단어나 문장의 의미를 알고 있는 AI는 인간의 세계를 이해할 수 있다고 해요.

에코 멤버님들도 이런 비트겐슈타인의 철학처럼, AI를 사용해서 장애물 없이 끊임없이 상상하고, 끊임없이 표현해서, 진정으로 자신이 원하는 세계의 한계를 무한정 넓혀가셨으면 좋겠어요.

(1) Alhussein Fawzi, Bernardino Romera Paredes. (2023). FunSearch: Making new discoveries in mathematical sciences using Large Language Models. Google DeepMind. https://deepmind.google/discover/blog/funsearch-making-new-discoveries-in-mathematical-sciences-using-large-language-models/

(2) Wolfram. (2023). ChatGPT 용 Wolfram 플러그인. Wolfram. https://www.wolfram.com/wolfram-plugin-chatgpt/

(3) Carlos E. Perez. (2021). Dall-E and Wittgenstein’s Picture Theory of Meaning. Medium. https://medium.com/intuitionmachine/dall-e-and-wittgensteins-picture-theory-of-meaning-f83e1a5e9502

(4) Matthew Karas. (2023). The Limitations of ChatGPT: Two Related Observations via Wittgenstein on Meaning and Williams Syndrome. Medium. https://matthewkaras.medium.com/the-limitations-of-chatgpt-two-related-observations-williams-syndrome-and-wittgenstein-on-meaning-81fcea7d9d0