미디엄 CEO가 밝힌 AI의 결정적 약점: 왜 챗GPT는 특정 '기호'를 남발할까?

Bopyo Park 31 Oct 2025

에코 멤버님들,

잘 지내고 계신가요? 오늘도 AI와 기술의 최전선에서 우리가 함께 고민해볼 만한 깊이 있는 이야기를 가져왔습니다. 인터넷을 사용하시면서, 어딘지 모르게 영혼이 느껴지지 않는, 그저 유창하기만 한 AI 생성 콘텐츠들(소위 ‘AI Slop’)이 넘쳐난다고 느끼신 적 없으신가요?

최근 ‘Big Technology Podcast’에 출연한 글쓰기 플랫폼 ‘미디엄(Medium)’의 CEO, 토니 스터블(Tony Stubble)의 인터뷰는 바로 이 문제의 핵심을 꿰뚫고 있습니다. 우리는 지금 ‘AI가 생성한 저품질 콘텐츠’와의 전면전을 치르고 있습니다.

오늘은 토니 스터블의 통찰을 바탕으로, 이 무한 복제의 시대에 ‘진짜 인간의 글’이 갖는 가치는 무엇인지, 그리고 AI가 결코 대체할 수 없는 인간 고유의 영역은 어디에 있는지 함께 탐구해보고자 합니다. 이것은 단순히 스팸을 걸러내는 기술에 대한 이야기가 아닙니다. AI라는 거대한 파도 앞에서 ‘진정성’과 ‘사고’의 가치가 어떻게 재편되고 있는지, 그 안에서 우리는 무엇을 지키고 무엇을 발전시켜야 하는지에 대한 근본적인 성찰입니다.

‘AI가 쓴 글과 사람이 쓴 글을 구분하기 어렵다’고 느꼈던 분, 혹은 이 정보의 홍수 속에서 ‘진짜’를 찾는 것에 피로감을 느꼈던 분이라면, 그의 시선을 통해 인터넷의 미래와 인간 고유의 가치를 다시 한번 생각해보는 계기가 되시길 바랍니다.

1. 전쟁의 서막: 인터넷을 점령한 ‘AI 슬롭(Slop)’

우리는 인터넷이 인류의 지식과 경험을 공유하는 거대한 도서관이 되기를 꿈꿨습니다. 하지만 지금 그 도서관은 원본을 무한히 복제하는 ‘복제 공장’의 위협을 받고 있습니다. 토니 스터블은 이 저품질의 AI 생성 콘텐츠를 ‘AI 슬롭(AI Slop)’이라 부르며, 이를 “새로운 형태의 스팸”이라고 단언합니다.

그에 따르면, 미디엄에서 AI 슬롭을 게시하려는 시도는 무려 10배나 증가했습니다. 하지만 그는 중요한 구분을 제시합니다. 플랫폼에 게시되는 콘텐츠의 양과, 독자들에게 보여지는 콘텐츠의 질은 다르다는 것입니다. 미디엄은 이 ‘슬롭’을 독자의 눈에 띄지 않게 걸러내기 위해 총력을 기울이고 있습니다.

이는 단순한 기술적 대응을 넘어섭니다. 과거의 스팸이 노골적인 광고나 사기였다면, 지금의 ‘AI 슬롭’은 교묘하게 인간의 글을 흉내 내며 검색 엔진 순위나 사람들의 관심을 해킹(Engagement Hacking)하려 합니다.

이것이 의미하는 바는 명확합니다. 인터넷의 가치가 ‘얼마나 많은 정보가 있는가’에서 ‘얼마나 가치 있는 정보가 있는가’로 이동하고 있으며, ‘진짜’와 ‘가짜’를 구분하는 큐레이션(Curation) 능력이 플랫폼의 핵심 생존 전략이 되었음을 의미합니다.

2. AI는 ‘글쓰기’를 대체할 수 없다. 단지 ‘생각하기’를 도울 뿐.

그렇다면 AI가 인간처럼, 혹은 인간보다 더 유창하게 글을 쓰는 시대에 ‘인간의 글쓰기’는 어떤 의미가 있을까요? 토니 스터블의 대답은 놀랍도록 명확합니다.

“저는 글쓰기의 미래에 대해 전혀 걱정하지 않습니다. 왜냐하면, 글쓰기는 곧 생각하기(Writing is thinking)이기 때문입니다.”

똑똑한 사람들은 자신의 생각을 명료하게 정리하기 위해 글을 씁니다. 머릿속의 모호한 개념을 문장으로 옮기는 과정에서 비로소 자신의 생각을 직면하고, 논리의 빈틈을 채우게 됩니다. AI는 이 ‘사고’의 과정을 대체할 수 없습니다.

그는 훌륭한 비유를 듭니다. 과거 ‘클리프노트(CliffNotes, 핵심 요약집)’가 등장했을 때 사람들은 책이 사라질 것이라 걱정했지만, 그렇지 않았습니다. 우리는 사실의 집합을 배우는 것이 아니라, 그 안에 담긴 ‘인간적인 요소’와 이야기(Story)를 통해 세상을 이해하기 때문입니다.

AI는 훌륭한 요약 도구이자 조수가 될 수 있습니다. 스터블은 AI가 ‘복잡한 정리 시스템’을 대체할 것이라 말합니다. 마치 모든 것을 던져 넣어도 AI가 알아서 찾아주는 ‘마법의 버킷(Bucket)’처럼 말입니다. AI는 우리가 ‘생각’에만 집중할 수 있도록 도와주는 파트너이지, 우리의 ‘생각’ 그 자체가 될 수는 없는 것입니다.

3. AI의 치명적 증거: 왜 챗GPT는 ‘M-대시(—)’를 남발할까?

이번 인터뷰에서 가장 흥미롭고 소름 돋는 통찰은 바로 ‘M-대시(—)’에 관한 이야기였습니다. 챗GPT에게 글을 쓰게 하면 유독 이 M-대시 기호를 남발하는 경향이 있는데, 그 이유가 밝혀졌습니다.

미디엄의 창립자 에반 윌리엄스(Evan Williams)는 개인적으로 M-대시를 매우 선호했습니다. 그래서 그는 10년 전, 미디엄 편집기에 하이픈 두 개(--)를 입력하면 자동으로 M-대시(—)로 변환되는 기능을 넣었습니다. 그 결과, 지난 10년간 미디엄의 방대한 데이터베이스(Corpus)는 다른 어떤 곳보다 이 M-대시 기호가 과포화 상태가 되었습니다.

그리고 AI는 이 데이터를 무단으로 학습했습니다. AI가 M-대시를 남발하는 것은 그것이 ‘훌륭한 글쓰기’의 표본이라서가 아니라, 그저 미디엄의 데이터 속에 특정 인간의 개인적 취향이 흔적으로 남아있었기 때문입니다.

AI는 ‘생각’하는 것이 아니라, 방대한 데이터를 흉내 내고 있을 뿐이라는 강력한 증거입니다. 토니 스터블은 이것이 AI 기업들의 ‘반사회적(antisocial)’인 행태였다고 비판합니다. 그들은 인간이 쌓아 올린 지적 자산과 고유한 흔적들을 동의나 보상 없이 가져갔습니다. 미디엄이 AI 크롤러를 차단하고, 데이터에 의도적으로 ‘독(poison)’을 타서라도 저항하겠다고 말하는 것은, 바로 이 인간 창작물의 가치를 지키기 위한 처절한 방어입니다.

4. 가치의 대역전: ‘프로’가 아닌 ‘진짜’의 시대

AI가 평범한 글을 대량 생산할 수 있게 되자, 역설적으로 ‘프로 콘텐츠 크리에이터’의 가치가 위협받고 있습니다. 매일같이 콘텐츠를 생산해야 하는 ‘콘텐츠 쳇바퀴(Content Treadmill)’는 이제 AI가 더 잘할 수 있는 영역이 될지 모릅니다.

여기서 토니 스터블은 미디엄의 방향성을 명확히 합니다. 미디엄은 서브스택(Substack) 같은 ‘프로 크리에이터’를 위한 플랫폼이 아니라고 선을 긋습니다.

미디엄이 집중하는 것은 ‘진짜 사람들(Real people)’입니다. 매일 글을 써야 하는 프로 작가가 아니라, 자신의 분야에서 깊은 전문성을 가진 프로그래머가 공유하는 단 하나의 완벽한 통찰, 혹은 평범한 사람이 자신의 삶을 통해 깨달은 ‘진짜 삶의 교훈(Real life lessons)’입니다.

이것이 바로 AI 시대에 ‘가치의 대역전’입니다. AI가 복제할 수 없는 것은 화려한 글쓰기 기술이 아니라, 그 글을 쓴 사람의 고유한 경험과 철학입니다. 당신의 글은 당신의 직업, 당신의 생각을 증명하는 ‘보편적인 포트폴리오(Universal portfolio)’가 됩니다.

Calm lake reflecting mountains and trees at sunrise — Photo by Deep Doshi / Unsplash

오늘 이야기, 여러분은 어떻게 생각하시나요?

토니 스터블의 메시지는 명확합니다. AI가 아무리 발전하더라도, 그것은 인간의 ‘생각’과 ‘경험’을 흉내 낸 복제품에 불과할 수 있습니다. ‘AI 슬롭’의 홍수 속에서 우리가 찾아야 할 것은 더 유창한 글이 아니라, 더 ‘진실한’ 글입니다.

우리는 지금 무한한 복제품의 시대에, 유일한 ‘원본’으로서의 가치를 증명해야 하는 기로에 서 있습니다. 이제 우리 스스로에게 던져야 할 질문은 "AI보다 글을 더 잘 쓰려면 어떻게 해야 할까?"가 아닙니다.

“AI는 결코 쓸 수 없는, ‘나’만이 쓸 수 있는 단 하나의 생각, 단 하나의 경험은 무엇인가?”

이 질문에 대한 답을 찾는 여정, 즉 치열하게 ‘생각’하고 고유하게 ‘경험’하는 것만이 우리를 AI와 구분 짓는 유일한 길이 될 것입니다.

저는 AI와 테크놀로지 분야의 최신 동향과 그것이 우리 삶에 미칠 영향에 대해 계속 공부하고 경험하고 있습니다. 앞으로도 이 깊이 있는 통찰들을 에코 뉴스레터 구독자님들과 나눌 예정입니다. 더 많은 지식과 정보를 함께 나누고 싶으시다면 이 뉴스레터를 계속 구독해주시고 주변에도 많이 소개해 주세요!

긴 글 읽어주셔서 감사합니다.

다음 뉴스레터에서 더욱 유익한 소식으로 찾아뵙겠습니다.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

*오늘 글이 도움이 되셨나요? 글이 전부가 아닌 + 이동중 듣기 편하게 오디오 듣기 지원과 함께 더 똑똑해질 수 있는 깊은 인사이트를 전달해드리는 글을 편하게 이메일로 전달 받고 싶은 분들은 보표레터 링크를 클릭해서 유료(월/5.19$) 구독해놓으세요.

베스트 글만 정리해서 보내드립니다.

커피 한잔 값으로 남들보다 앞서가세요.