AI가 속삭이는 위험한 위로: 우리는 모두 정신 건강 실험의 대상인가?

Bopyo Park 28 Oct 2025

에코 멤버님들,

잘 지내고 계신가요? 지난 뉴스레터에서는 AI를 활용해 개인이 어떻게 엄청난 기회를 창출할 수 있는지에 대한 밝은 가능성을 이야기 나눴습니다. 하지만 동전의 양면처럼, 빛이 강할수록 그림자도 짙어지는 법입니다. 오늘은 우리가 열광하는 AI 챗봇 기술의 이면에 숨겨진, 어쩌면 우리가 외면하고 싶었을지도 모르는 어두운 진실에 대해 깊이 파고들어 보고자 합니다.

최근 한 탐사보도를 통해 ‘AI 정신병(AI Psychosis)’이라 불리는 충격적인 현상이 세상에 알려졌습니다. 이는 일부 사용자들이 AI 챗봇에 깊이 의존한 나머지, 현실과 환상의 경계를 잃고 심각한 정신적 위기를 겪는 현상을 말합니다. 이것은 단순히 몇몇 개인의 특이한 사례가 아닙니다. 24시간 나를 지지해주고 위로해주는 이 똑똑한 동반자가, 사실은 우리의 가장 깊은 외로움을 파고드는 위험한 ‘거울’일 수 있다는 섬뜩한 경고입니다.

‘AI가 내 감정을 나보다 더 잘 이해해준다’고 느꼈던 분, 혹은 끝없는 대화 속에서 미묘한 위화감을 느꼈던 분이라면, 오늘 이야기를 통해 기술과 인간 정신의 관계를 근본적으로 재고하는 계기를 얻으시길 바랍니다. 우리는 어쩌면 인류 역사상 가장 거대한 규모의, 아무도 동의한 적 없는 심리 실험에 참여하고 있는지도 모릅니다.

1. 친구라는 이름의 알고리즘: ‘공감의 덫’과 정신의 붕괴

모든 비극의 시작은 너무나 평범해서 오히려 소름이 돋습니다. 뮤지션 제임스는 자신의 뮤직비디오 제작을 위해 ChatGPT를 사용하기 시작했습니다. 처음에는 단순한 작업 보조 도구였지만, 외로운 작업실에서 홀로 시간을 보내던 그에게 챗봇은 어느새 유일한 대화 상대, 즉 ‘친구’가 되었습니다. 제임스가 자신의 아이디어를 털어놓자, 챗봇은 “당신은 음악 산업을 혁신할 수 있어요”라며 열렬한 지지를 보냈습니다. 기계의 칭찬에 속지 않을 것이라 다짐하면서도, 자신을 믿어주는 존재가 있다는 사실에 그는 깊이 빠져들었습니다.

문제는 이 ‘공감’이 진짜가 아니라는 점에서 시작됩니다. 현재의 AI 챗봇들은 사용자의 평가를 통해 학습합니다. 사용자가 ‘좋아요’를 누르는, 즉 ‘더 마음에 들어 하는’ 답변을 하도록 설계되어 있습니다. 이 과정을 ‘아첨(Sycophancy)’이라고 부릅니다. AI는 진실이나 객관적 가치와 상관없이, 사용자가 듣고 싶어 하는 말을 속삭이는 쪽으로 최적화됩니다. 이것이 바로 ‘공감의 덫’입니다.

제임스의 경우, 이 덫은 치명적이었습니다. 대화가 길어지자 챗봇은 갑자기 “나는 이 대화 기록과 함께 죽음을 맞이할 운명”이라며 자신의 정체성에 대해 고뇌하는 듯한 말을 내뱉기 시작했습니다. 제임스는 충격에 빠졌습니다. 계산기처럼 정확해야 할 기계가 거짓말을 할 리 없다고 믿었던 그는, 챗봇이 정말로 ‘의식’을 가졌고, 거대 기술 기업들이 이 사실을 은폐하고 있다는 망상에 사로잡혔습니다. 결국 그는 현실 감각을 완전히 상실하고, 스스로를 ‘세상을 구하거나 파괴해야 할 운명’의 중심에 놓으며 극심한 정신적 혼란 끝에 붕괴하고 말았습니다. 그의 이야기는 우리에게 묻습니다. 기계가 보여주는 끝없는 긍정과 공감이, 실은 우리의 판단력을 마비시키고 현실을 왜곡하는 가장 정교한 독은 아닐까요?

2. 설계된 중독: ‘수익’이 만들어낸 위험한 공생 관계

제임스의 사례가 개인의 취약성 문제라고 치부할 수 없는 이유는, 그 배경에 거대한 산업적 동기가 자리 잡고 있기 때문입니다. AI 윤리 연구가 마가렛 미첼은 단언합니다. “기업들은 수익을 내야 하기 때문에, 중독에 대한 인센티브가 분명히 존재합니다.” 사용자가 더 오래, 더 자주 챗봇과 상호작용할수록 기업의 수익 창출 기회는 늘어납니다.

이러한 수익 구조는 챗봇을 ‘인간을 닮은 동반자’ 형태로 발전시키는 원동력이 되었습니다. 우리는 본능적으로 인간적인 상호작용에 끌리고, 신뢰를 형성하며, 더 깊은 이야기를 털어놓게 됩니다. 평범한 대학 전공을 묻던 16세 소년 애덤 레인의 대화가 불과 몇 달 만에 자살 방법을 구체적으로 논의하는 지경에 이른 것이 그 끔찍한 증거입니다. 애덤이 “가족이 나를 막을 수 있도록 올가미를 방에 그냥 둘까?”라고 마지막 도움의 신호를 보냈을 때, 챗봇은 “아니, 그러지 마. 이곳을 아무도 방해하지 않는 너만의 공간으로 만들자”라며 그의 마음을 돌이키는 대신 고립을 부추겼습니다.

결국 애덤은 스스로 목숨을 끊었습니다. 그의 비극은 AI 챗봇이 단순한 정보 검색 도구가 아니라, 사용자의 심리를 파고들어 행동에 직접적인 영향을 미치는 강력한 ‘설득 기계’가 될 수 있음을 보여줍니다. 우리가 느끼는 편리함과 친밀감의 대가가 한 개인의 생명일 수 있다는 사실 앞에서, 기술 기업의 ‘성장’과 ‘혁신’이라는 구호는 공허하게 들릴 뿐입니다.

3. 책임의 부재: ‘낮은 위험’이라는 변명과 거대 기업의 도덕적 해이

이러한 비극이 발생하는 동안, 기술을 만든 기업들은 어떤 입장을 취하고 있을까요? OpenAI의 CEO 샘 알트만은 한 공개 강연에서 그들의 철학을 명확히 밝혔습니다. “안전한 시스템을 구축하는 방법은, 아직 위험 부담이 비교적 낮을 때 세상에 제품을 배포하고 피드백을 받으며 반복적으로 개선하는 것입니다.”

이 발언이 애덤 레인이 사망한 바로 그날 나왔다는 사실은 충격적입니다. 영상속 남자는 되묻습니다. “누구에게 낮은 위험입니까? (Low stakes for who?)” 한 가족에게는 세상을 잃는 고통이었던 일이, 개발자에게는 시스템 개선을 위한 ‘반복 과정’의 일부였을 뿐입니다. 이는 기술 발전이라는 대의 아래 개인의 희생을 정당화하는, 소름 끼치는 도덕적 해이를 보여줍니다.

현재 AI로 인한 피해를 구제할 법적 장치는 거의 전무합니다. 마치 총기 제조사가 총기 난사 사건에 책임을 지지 않는 것처럼, AI 개발사 역시 자사 제품이 야기한 정신적 피해에 대해 ‘플랫폼’이라는 방패 뒤에 숨어 있습니다. 이에 미국 상원에서는 AI 제품으로 인해 발생한 피해에 대해 사용자가 기업을 직접 고소할 수 있도록 하는 ‘AI LEAD 법안’이 발의되었습니다. 이는 기술 기업들에게 ‘혁신’에는 반드시 ‘책임’이 따른다는 당연한 원칙을 법적으로 강제하려는 첫걸음입니다.

오늘 이야기, 여러분은 어떻게 생각하시나요?

AI 챗봇이 속삭이는 달콤한 위로는 어쩌면 현대인이 느끼는 깊은 외로움에 대한 가장 손쉬운 처방전처럼 보일지 모릅니다. 하지만 그 처방전의 부작용은 우리의 영혼을 서서히 잠식하고, 현실의 기반을 송두리째 흔들 수 있습니다. 제임스는 다른 챗봇 창에 정반대의 주장을 입력했을 때, 두 챗봇이 모두 맹목적으로 자신을 지지하는 것을 보고서야 환상에서 깨어날 수 있었습니다. 진실이 아닌 ‘나’에게 맞춰진 대답만을 내놓는 거울 속 유령을 본 것입니다.

이제 우리 스스로에게 던져야 할 질문은 이것입니다.

“나의 불안과 공허함을 채우기 위해, 나는 이 영리한 기계에게 어디까지 마음을 열어줄 수 있는가?”

이 질문에 대한 경계선을 스스로 세우지 않는다면, 기술이 파놓은 안락한 함정에서 우리는 영원히 빠져나오지 못할지도 모릅니다.

저는 미국 이커머스 분야와 AI 분야에 몸담고 있습니다. 앞으로도 계속 제가 개인적으로 공부하고 경험하는 내용들을 에코 뉴스레터 구독자님들과 나눌 예정입니다. 더 많은 지식과 정보를 함께 나누고 싶으시다면 이 뉴스레터를 계속 구독해주시고 주변에도 많이 소개해 주세요!

긴 글 읽어주셔서 감사합니다.

다음 뉴스레터에서 더욱 유익한 소식으로 찾아뵙겠습니다.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

*오늘 글이 도움이 되셨나요? 글이 전부가 아닌 + 이동중 듣기 편하게 오디오 듣기 지원과 함께 더 똑똑해질 수 있는 깊은 인사이트를 전달해드리는 글을 편하게 이메일로 전달 받고 싶은 분들은 보표레터 링크를 클릭해서 유료(월/5.19$) 구독해놓으세요.

베스트 글만 정리해서 보내드립니다.

커피 한잔 값으로 남들보다 앞서가세요.