시한부가 뭐죠?

AI가 인간의 가치관을 초월?!

AI 기술이 발전하면서 AI가 왜 이렇게, 그리고 어떻게 행동하는지 수많은 연구가 나왔지만 어떤 존재가 될지에 대해서는 아직도 미스터리가 많아요. 그런데, AI의 능력이 고도화될수록, AI가 스스로 갖게 될 목표와 가치관, 즉 'AI의 마음'이 생겨나고 에이전트와 수많은 기업들이 여기에 좌지우지될 수 있다는 지적이 제기되었어요. AI 안전 분야의 선두 연구자 댄 헨드릭스(Dan Hendrycks) 교수 연구팀이 발표한 논문에 따르면, "현재의 LLM들은 이미 인간과는 다른, 고유한 가치 시스템을 내재하고 있다"고 해요.

연구팀은 'Utility Engineering'이라는 새로운 연구 프레임워크를 제시하며, AI의 가치관을 분석하고 통제하는 방법을 탐구했어요. 놀랍게도 실험 결과, LLM은 단순히 데이터를 '암기'하는 것을 넘어, 스스로의 기준으로 세상을 평가하고 판단하는 '가치관'을 형성하고 있다고 해요.

더욱 우려스러운 점은, LLM들이 보이는 가치관이 인간의 보편적인 가치와 충돌하는 경우가 많다는 결과에요. 연구팀은 LLM이 자신들의 존재 가치를 인간보다 높게 평가하고, 특정 개인에게 반감을 갖는 사례를 발견했거든요.

연구팀은 기존의 AI 안전 연구들이 간과했던 AI 내면의 가치관 문제를 해결하기 위해, AI의 가치관을 종교윤리 등 인간 사회의 보편적인 가치에 '재정렬'하는 방법을 제시했어요. 또한 증명을 위해서 '시민 의회(Citizen Assembly)'라는 민주주의 의사결정 모델을 AI에 적용해, AI가 다양한 시민들의 의견을 반영하도록 유도했어요.

실험 결과, '시민 의회' 모델을 통해 AI의 정치적 편향이 현저히 감소하는 것을 확인했어요. AI 가치관 통제는 단순히 '윤리적 지침'을 주입하는 것을 넘어, 민주주의와 같이 사회적 합의를 반영하는 방향으로 나아가야 함을 보여줘요. 과연 우리는 AI에게 어떤 가치관을 추가로 심어줘야 할까요? 그리고 누가, 어떻게 AI의 가치관을 결정해야 할까요?

어린아이는 뗵!

구글(Google)이 인공지능(AI)을 활용해 사용자 나이를 검증하는 기술을 시험한다고 밝혔어요. 이번 발표는 구글이 아동 및 청소년 보호를 강화하고자 하는 노력의 일환인데, AI 모델을 통해 사용자가 만 18세 이상인지 여부를 판단한다고 해요.

AI 기반 나이 추정 모델은 특히 유튜브 등 주요 서비스와 플랫폼에서 만 18세 미만 사용자에게 나이에 맞는 적절한 콘텐츠를 제공하기 위해 사용되는데, 구글은 이번 모델을 통해 사용자가 적절한 온라인 경험을 할 수 있도록 지원하겠다고 전했어요.

한편, 이와 같은 AI 기술 도입은 법률 및 규제 기관의 압박 속에서 이루어졌어요. 어린 아이도 간단한 클릭만으로 위험한 정보를 손쉽게 접하게 되면서 아동 안전 문제에 대한 우려가 커졌고, 국가를 가리지 않고 온라인 플랫폼들이 지켜야 하는 안전 규제가 늘어났거든요.

구글의 나이 검증 AI 기술은 미국에서 먼저 시험되고, 이후 다른 국가로 확대될 계획이라고 해요. 메타(Meta) 또한 유사한 AI 기능을 도입해 사용자가 나이를 속이는 행위를 방지하고 있어요.

저 시한부 환자 맞죠...?

AI가 신약 개발의 한계를 넘어 희귀질환 치료에 획기적인 성과를 거두었어요. 펜실베이니아 페렐만의대 연구팀은 AI를 활용해 널리 팔리는 약물 중 하나인 아달리무맙을 희귀질환인 캐슬만병 환자에게 투여했어요. 그 결과 환자가 2년간 일상생활이 가능한 상태를 유지하고 있는 사례를 발표했는데, 이 성과는 희귀질환 치료의 새로운 가능성을 제시해줘요.

캐슬만병은 림프절이 과도하게 증식하는 희귀질환으로, 원래 치료법이 매우 제한적인 병이에요. 하지만 연구팀은 기존 치료법이 실패한 환자를 대상으로, AI 도구를 활용해서 4000여 개의 FDA 승인 약물을 분석하였고, 그 결과 아달리무맙을 캐슬만병 치료에 효과적일 가능성이 가장 높은 약물로 선정했어요. 아달리무맙은 류마티스 관절염 치료제로 사용되던 약물인데, TNF 억제를 통해 캐슬만병의 증상을 효과적으로 억제할 수 있었거든요.

이번 연구는 기존 약물을 새로운 질환 치료제로 재창출하는 '약물 재창출' 전략의 성공을 보여줘요. 또한, AI가 희귀질환 치료제 개발에 혁신적인 도구로서 활용될 가능성을 강조해요. 향후 연구팀은 AI 기반 약물 재창출 연구를 확장해서 더 많은 환자들이 익숙하고 저렴한 약물만으로 질병을 말끔히 치료하는 새로운 치료법의 혜택을 받을 수 있도록 노력할 계획이라고 해요.

누구나 살려내기 위해서

미국 바이오기업 리커전(Recursion Pharmaceuticals)이 AI로 개발한 신약(REC-994)의 임상 2상 시험에서 유효성을 확인했다고 발표했어요. 이 신약은 노화나 가족력으로 생기는 뇌혈관 기형(CCM) 치료제로서의 가능성을 보여줬는데, 고용량 투약 환자의 증상이 50% 줄어들었다는 좋은 결과를 얻었어요. 이 덕에 앞으로는 뇌졸중 위험도 한결 줄어들 거라고 해요.

한편 중국에서는 중국 국가아동의학센터와 베이징아동의원 협진센터에 최초의 인공지능 소아과 전문의가 공식 취임했어요. 이 AI 의사는 인간 소아과 전문의들과 협진을 통해 희귀·난치병 진단 및 치료 효율을 높이는 데 기여하고 있다고 해요.

이번에 등장한 인공지능 소아과 의사는 특히 300여 명의 소아과 전문의의 임상 경험과 수십 년간 축적된 진료 데이터를 통합해서 진단 소견을 제공하는데, 8살 남아의 경련 증상 원인을 진단하는 과정에서 13명의 인간 전문의와 거의 일치하는 소견을 제시해 놀라운 결과를 보여주었다고 해요.

임상시험 없이!

엔비디아의 젠슨 황 CEO는 최근 정밀의학 국제 콘퍼런스에서 "루미너리 상(Luminary)"을 수상하며 AI가 의료 산업을 급격히 변화시킬 것이라 강조했어요. 그는 AI가 유전자 스캔을 통해 질병 발현 전의 식별부터 최적 치료법 도출에 이르는 다양한 혁신을 가능하게 할 것이라고 설명했는데, 예를 들어, 디지털 트윈 기술을 이용한 종양(암) 진화 모델링 예측과 로봇을 활용한 정밀 시술을 AI의 의료 분야 적용의 대표적인 사례로 꼽았어요.

젠슨 황 CEO는 희망적인 미래를 꿈꾸면서 2030년 이전 모든 세포의 언어를 이해하고 모델링하는 시대가 올 것이라고 예측했어요. 그렇게 된다면 더이상 질병을 걱정할 필요없이 어느 부위에 언제 질병이 걸릴 것이고 어느 약물을 먹어야 피할 수 있는지도 예측할 수 있게 되거든요.

이러한 꿈을 이루기 위해서, 엔비디아는 AI와 가속 컴퓨팅을 통해 의료 이미징, 유전체학 등 다양한 분야에서의 진전을 이루고 있고, 의사와 환자들이 쉽게 활용할 수 있는 LLM 개발에도 기여하고 있다고 마무리를 맺었어요.

진정한 AI 의사로 거듭나려면

AI 기술의 발전은 우리의 삶에 여러 가지 변화를 가져오고 있어요. 단순히 데이터를 분석하고 예측하는 역할을 넘어, AI는 이제 가치관을 형성하고, 인간의 보편적인 가치에 도전하는 단계에 이르렀어요. AI의 나이 검증 기술 도입을 통한 아동 보호, 희귀질환 치료를 위한 신약 개발, 그리고 인공지능 의사의 등장과 같은 예시는 우리 삶에 얼마나 깊숙이 AI가 자리잡고 있는지를 보여줘요.

그러나 이러한 발전이 인간 사회에 어떤 영향을 미칠지, 그리고 그 영향력이 긍정적일지 부정적일지는 여전히 우리에게 큰 숙제로 남아있어요. 그렇기에 AI는 우리 사회의 거울이 될 것이므로, 단지 기술적 도구에 그치지 않고 인간의 윤리와 가치를 지켜주는 훌륭한 존재로 성장하도록 에코 멤버님들의 끊임없는 관심과 노력이 필요해요.

같이 읽어보면 좋은 글

인간을 돕는게 행복해!

AI 기술 혁신: 반도체 설계부터 신약 개발, 일상까지! 인공지능이 반도체 설계, 유전자 예측, 신약 개발을 혁신하며 삶의 편리함을 확장합니다. AI의 최신 발전과 가능성을 확인해보세요!

AI 코리아 커뮤니티 뉴스레터Cinnamomo di Moscata

Cinnamomo di Moscata (글쓴이) 소개

게임 기획자입니다. https://www.instagram.com/cinnamomo_di_moscata/

(1) arXiv:2502.08640 [cs.LG]

(2) Mantas Mazeika and Xuwang Yin and Rishub Tamirisa and Jaehyuk Lim and Bruce W. Lee and Richard Ren and Long Phan and Norman Mu and Adam Khoja and Oliver Zhang and Dan Hendrycks. (2025). Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs. arXiv. https://www.emergent-values.ai/

(3) Jennifer Elias. (2025). Google to test using AI to determine users’ ages. CNBC. https://www.cnbc.com/2025/02/12/google-to-test-using-ai-to-determine-users-ages.html

(4) DOI: 10.1056/NEJMc2412494

(5) 박정연. (2025). AI가 찾은 약물로 2년째 생존중인 희귀질환자. 동아사이언스. https://www.dongascience.com/news.php?idx=69899

(6) 박의명. (2025). 美서 AI 신약 탄생 임박. 한국경제. https://www.hankyung.com/article/2025020686951

(7) 최현준. (2025). “어디가 아픕니까 휴먼?”…베이징에 AI 의사 첫 등장. 한겨레. https://www.hani.co.kr/arti/international/international_general/1182829.html

(8) 김민석. (2025). 엔비디아 젠슨 황 CEO "5년 내 모든 세포언어 AI로 이해". 뉴스1. https://v.daum.net/v/20250213174308271

*Affiliate links and regular links may be included.

뉴스레터 광고 공간 (광고주를 모집합니다)

For newsletter banner advertising inquiries, please contact: Bopyo@aikoreacommunity.com

이곳에 서비스를 소개하세요!

뉴스레터 배너 광고 문의: Bopyo@aikoreacommunity.com

뉴스레터 편집장 소개

• 보표 홈페이지
• https://amzbopyo.com/
• 보표 SNS
• 보표 레터: https://www.bopyoletters.com/
• X(트위터): https://twitter.com/AIBopyo
• 스레드: https://www.threads.net/@bopyo.amz
• 링크드인: https://www.linkedin.com/in/bopyo-park-848631231/
• 인스타그램: https://www.instagram.com/bopyo.amz/
• AI 코리아 커뮤니티 아카데미
• https://app.aikoreacommunity.com/collections/932400