7. 생성형 AI 리터러시: 비판적 사고의 중요성 - 어느 정보도 한번에 믿지 마라!

Sai 29 Aug 2024

안녕하세요, Solo AI Lab의 Sai입니다. 오늘은 생성형 AI 리터러시의 핵심 요소 중 하나인 '비판적 사고'에 대해 이야기해보려고 합니다. AI 시대를 살아가는 우리 모두에게 이 능력이 얼마나 중요한지, 함께 알아볼까요?

왜 AI 시대에 비판적 사고가 더욱 중요할까요?

생성형 AI의 발전으로 우리는 엄청난 양의 정보를 쉽고 빠르게 얻을 수 있게 되었습니다. 하지만 이런 편리함 뒤에 숨은 위험도 있죠. 바로 AI가 제공하는 정보를 무비판적으로 수용할 수 있다는 점입니다.

한국딜로이트그룹은 2024년 초 6개 국가 약 2천여명의 고위급 임원진을 대상으로 설문조사와 심층 인터뷰한 결과를 담은 '미래를 결정해야 하는 순간' 보고서를 발표했습니다. 여기서 가치가 높아질 것으로 예상되는 인간 중심적 역량 중 가장 최고는 비판적 사고 및 문제해결에 대한 능력이었습니다. 그만큼 생성형 AI 시대에서 많은 정보의 홍수속에서 인간다움을 나타내는 최고의 역량이기 때문입니다.

생성형 AI는 '환각 현상(hallucination)'을 보입니다. 이는 AI가 실제로 존재하지 않는 정보를 마치 사실인 것처럼 제시하는 현상을 말해요. 예를 들어, 존재하지 않는 책이나 논문을 인용하거나, 실제 일어나지 않은 사건을 사실처럼 말하기도 합니다.

그래서 우리에겐 AI가 제공하는 정보를 비판적으로 평가하는 능력이 꼭 필요합니다.

비판적 사고, 어떻게 기를 수 있을까요?

사실 비판적 사고를 단번에 기를수 있는 방법은 없지만 생성형 AI를 활용하면서 사용해보았던 예시를 들고, 사례를 소개해드리려고 합니다.

요즘은 Chat GPT나 Claude같은 서비스들의 출처 제공능력이 좋아졌지만 아직도 여행지 추천, 논문 인용, 사례 제공시에 없는 정보를 제공하거나 비슷해보이는 정보를 출처로 놓고, 막상 들어가보면 그 정보가 아닌것들을 종종 볼 수 있습니다. 그럴때 제가 사용하는 방법론을 소개해 드릴게요.

생성형 AI가 주는 답은 언제나 의문을 가지세요: AI의 답변을 받았다면, "이 정보가 정말 맞을까?"라고 스스로에게 물어보세요.
-> 예를 들어 코드작성을 요청했을 경우 직접 실행해보고, 논문이나 출처가 필요한 정보에 대해서는 웹페이지를 기반한 출처를 명시해달라고 요청합니다. 그러면 생성형AI의 할루시네이션을 더욱 줄일 수 있습니다.
생성형 AI끼리 교차 검증을 하세요: AI의 답변을 다른 신뢰할 만한 출처와 비교해보는 것이 좋습니다. 물론 인터넷을 찾아봐도 나오지 않는 정보는 어려울수 있지만 대부분의 정보는 검색을 통해 나오겠죠? 그럴때 제가 새용하는 방법은

1) 신뢰할 수 있는 정보를 먼저 찾으려고 노력합니다. -> 논문, 뉴스 등 공식적인 출처를 통한 내용입니다.

2) 개인적인 주장 글을 찾습니다. -> 블로그나 뉴스레터 등의 인용할 수 있는 글을 찾습니다.

3) 다른 생성형 AI에게 동일한 답변에 대한 출처를 요청해서 동일한 인용자료와 글을 작성해주는지 비교해봅니다.
-> Chat GPT를 사용했다면 다른 생성형 AI(Claude, Gemini, Perplexity) 등을 활용해서 동일한 답변이 나오는지 확인합니다. 하지만 여러 서비스를 사용하는게 번거로울때는 최근 SKT의 에이닷 같은 서비스를 사용해보는 것도 좋습니다. 자체 Multi LLM기능이 있어 동일한 채팅창에서 다양한 AI 서비스를 활용할 수 있다는 장점이 있습니다.

최신자료의 경우 시간적 맥락을 고려하세요: 생성형 AI는 사실 미리 학습된 모델로 구성되었기 때문에 특정시점 이후의 자료에 대해서는 학습이 안되었기도 합니다. 그럴때 최신자료에 대해서는 시간적인 맥락을 프롬프트에 넣거나 추가적인 맥락을 제공해서 첨부한다면 생성형 AI의 시간적인 할루시네이션을 줄일 수 있습니다.

비판적 사고 훈련해보기

예를 들어 Chat GPT의 할루시네이션이 가장 잘 드러나는 카페 추천을 요청해보도록 하겠습니다. 그러면 5개의 카페를 추천해달라고 요청을 해보면 다음과 같은 답변을 얻을 수 있습니다. 이 내용을 살펴보면 실제 카페가 있는 거 같지만 검색해보면 1,3,5번 카페는 정보가 정확하지 않은 것을 볼 수 있습니다.

1) 애월 몽상 -> 몽상드 애월
2) 올바른 자료
3) 탄제린 플라워 에틱은 존재하지 않은 카페
4) 올바른 자료
5) 제주 카페 한라산을 잘못 발음 한것을 볼 수 있습니다.

위의 내용을 토대로 이번엔 Gemini로 바꾸어서 상세 자료에 대한 확인 요청을 해보겠습니다. 먼저 몽상드 애월은 다시 정의를 해주었을때 정확한 명칭으로 알려주고, 출처를 요청했을때 올바른 출처를 주는 것을 확인했습니다.

https://m.visitjeju.net/kr/detail/view?contentsid=CNTS_000000000019253

그외에 3번 정보는 검색되지 않는다고 피드백을 주고, 5번은 카페 한라산이 맞다는 답변을 얻을 수 있습니다. 그리고 주의사항까지 적어주는 것을 볼 수 있습니다.

시간적인 맥락은 이번 뉴스레터에서는 활용해보지는 않겠지만 시간적인 맥락까지 추가한다면 좀 더 좋은 자료들을 만들 수 있을거에요.

마무리

간단한 사례를 살펴보면서 비판적 사고에 대한 내용을 살펴보았습니다. 앞으로 여러분들께서 생성형 AI를 활용하면서 다양한 결과물을 마주할 것이고, 그 순간 비판적 사고는 AI 시대를 살아가는 우리 모두에게 필수적인 능력으로 다가올 것입니다. AI가 제공하는 정보를 맹신하지 않고, 항상 의문을 가지고 검증하는 자세가 중요합니다. 사실 이는 단순히 AI를 위한 것이 아니라, 우리가 접하는 모든 정보에 대해 적용해야 할 태도입니다.

여러분은 AI의 정보를 어떻게 검증하시나요? 특별히 효과적이었던 방법이 있다면 공유해주시면 더 좋을거같아요. 정보의 홍수 속에서 진실을 가려내는 것은 쉽지 않습니다. 하지만 우리가 비판적 사고력을 키운다면, AI는 우리의 든든한 조력자가 될 수 있을 거예요.

건강하시고, 행복한 하루 되세요.

피드백을 부탁드려요! (어떤 작가님의 글을 좋아하시나요?)

[저자 관련 정보]
이름 : 김진환 / 이메일 주소 : happydata1510@gmail.com
소속 : 주식회사 위니브 데이터 Lead / 고려대학교 빅데이터사이언스학부 겸임교수, 경제통계학 박사수료

출처: