AI 의료 조언 위험성 현실화: AI 챗봇 처방 따른 자가 투약, 생명 위협하는 약물 반응 초래
인공지능(AI) 챗봇의 조언을 맹신하고 HIV 예방 약물을 복용한 남성이 생명을 위협하는 중증 약물 반응으로 입원하는 충격적인 사건이 발생했다. 2월 2일(현지시각) 외신 보도에 따르면, 인도 뉴델리에 거주하는 45세 남성이 AI 챗봇이 추천한 HIV 예방 약물을 약국에서 구매해 복용한 후 위독한 상태로 병원에 실려 갔다.
이 남성은 임상 평가 없이 AI의 지시만을 따랐고, 그 결과 치명적인 피부 반응인 스티븐스-존슨 증후군(Stevens-Johnson syndrome)을 앓게 됐다. 이는 AI 도구가 제공하는 일반적인 건강 정보와 전문적인 임상 평가 사이의 간극이 얼마나 위험한 결과를 초래할 수 있는지 극명하게 보여주는 사례로, AI에 대한 무분별한 의존이 심각한 건강 위기를 초래할 수 있다는 우려가 제기된다.
AI가 유도한 28일간의 자가 투약, 치명적 부작용으로 이어져
델리의 닥터 람 마노하르 로히아 병원(Dr. Ram Manohar Lohia Hospital) 의료진에 따르면, 이 남성은 AI 챗봇의 조언을 듣고 HIV 노출 후 예방 요법(Post-Exposure Prophylaxis, PEP)에 사용되는 항레트로바이러스제를 28일 과정으로 복용했다. 그는 약물 복용을 시작한 지 일주일 만에 스티븐스-존슨 증후군이 발병하며 중태에 빠졌다. 스티븐스-존슨 증후군은 피부와 점막에 심각한 손상을 일으키는 희귀하지만 잠재적으로 치명적인 약물 반응이다. 의사들은 이 사건이 전문적인 감독 없이 강력한 약물을 자가 투약할 때 발생할 수 있는 위험을 강조한다. 특히 항레트로바이러스제와 같은 강력한 약물은 임상 평가와 지속적인 모니터링이 필수적이다.
이와 유사하게 앞서 뉴욕에서는 60대 남성이 AI 챗봇의 다이어트 조언을 따라 소금 대신 온라인에서 구매한 브롬화나트륨(sodium bromide)을 3개월간 섭취했다가 희귀한 독성 반응으로 입원한 사례도 있었다. 이러한 연이은 사건들은 AI 챗봇이 일반적인 정보를 넘어 구체적인 의학적 ‘처방’을 내릴 때 발생하는 위험이 단순한 오보 수준을 넘어 생명을 위협하는 수준에 이르렀음을 시사한다.
PrEP와 PEP의 올바른 사용법: 임상 평가가 필수인 이유
HIV 감염 위험을 줄이는 합법적인 예방 치료법으로는 노출 전 예방 요법(Pre-Exposure Prophylaxis, PrEP)이 있다. PrEP는 HIV 음성인 개인이 노출 위험이 높을 때 특정 항레트로바이러스제를 복용하여 감염 위험을 99%까지 줄이는 효과적인 방법이다. 하지만 PrEP나 PEP와 같은 항레트로바이러스제 요법은 반드시 HIV 검사, 위험 평가, 그리고 처방 전과 복용 중 지속적인 임상 모니터링을 필요로 한다. 이 약물들은 기존 HIV 치료제가 아니며, 오용할 경우 심각한 부작용과 합병증을 유발할 수 있다.
특히 PrEP는 HIV 양성 파트너가 있거나, 콘돔 사용이 일관적이지 않거나, 최근 다른 성병에 걸린 경우, 또는 약물 사용을 위해 주사기를 공유하는 등 지속적인 위험 요소를 가진 사람들에게 권장된다. 복용을 시작하기 전 HIV 검사가 의무이며, 안전을 위해 정기적인 추적 검사가 요구된다. 의사들은 이러한 복잡하고 개인화된 과정을 AI 챗봇이 절대 대체할 수 없다고 강조한다.
이 혁 힘내라 내과의원 원장은 “HIV 예방 약물(PrEP/PEP)은 반드시 환자의 간 기능, 신장 기능 및 병력을 고려한 정밀한 임상 모니터링 하에 처방되어야 한다”며, “스티븐스-존슨 증후군은 생명을 위협하는 심각한 부작용으로, 전문의의 감독 없는 강력한 약물 자가 투약이 얼마나 치명적인 결과를 낳을 수 있는지 경고한다”고 강조했다.
AI 기반 자가 투약의 다중 위험 요소: 내성 및 독성 문제
델리 사례는 감독 없는 약물 사용의 위험성을 명확히 보여준다. 이 남성은 AI 챗봇의 지시에 따라 처방전 없이 약물을 구매해 복용했지만, PrEP나 PEP에 사용되는 항레트로바이러스제는 개인의 위험과 병력에 맞춰 요법이 조정되어야 하는 특수 약물이다. 세계보건기구(WHO)와 미국 질병통제예방센터(CDC)의 지침은 이러한 요법이 반드시 임상의에 의해 맞춤화되어야 함을 강조한다.
임상 감독 없이 HIV 약물을 사용하는 것은 스티븐스-존슨 증후군과 같은 심각한 약물 부작용, 장기 독성을 유발할 수 있다. 또한, 일관성 없는 복용은 잠재적인 약물 내성을 초래하여 향후 실제 HIV 치료가 필요할 경우 치료 효과를 떨어뜨릴 위험이 있다. 더 나아가, AI 조언에 대한 맹신은 콘돔 사용 등 다른 예방 조치를 포기하게 만드는 잘못된 안도감을 심어줄 수 있다는 지적도 나온다.
AI가 임상적 판단을 대체할 수 없는 근본적 이유
AI 도구는 일반적인 건강 정보를 제공하는 데 유용하지만, 심각한 한계를 지닌다. AI는 개인의 임상적 맥락을 이해할 수 없고, 개인 의료 기록에 접근할 수 없으며, 신체 검사나 진단 테스트를 수행할 수 없다. 특히 처방약과 관련된 복잡한 사례의 경우, 훈련된 의사만이 검사 결과를 해석하고, 금기 사항을 파악하며, 적절한 치료법을 결정할 수 있다. AI에 전적으로 의존하여 의료 결정을 내리는 것은 부적절하며 잠재적으로 해롭다.
이는 법적 선례와도 일치한다. 대법원 판례에 따르면 승인된 임상 시험 외의 입증되지 않은 치료법은 비윤리적이며 의료 과실을 구성할 수 있다. 이는 신뢰할 만한 과학적 증거와 적절한 맥락 없는 동의는 무효하며 위험하다는 점을 강조한다. 이처럼 AI 챗봇이 건강 오보나 편향된 조언을 유포할 수 있다는 연구진의 경고도 계속되고 있다.
결론적으로, PrEP는 의사의 처방과 모니터링 하에 사용될 때 안전하고 효과적인 HIV 예방 도구이지만, 델리에서 발생한 이번 사건은 AI 조언에 기반한 자가 투약이 생명을 위협하는 합병증으로 이어질 수 있음을 극명하게 보여준다. AI가 의료 분야를 혁신하는 것은 맞지만, 이는 의사의 의사 결정을 향상시키고 환자 관리를 개선하는 보조 도구일 뿐, 절대 임상적 판단을 대체할 수 없다는 인식이 중요하다.
정재화 서울 민병원 내과 진료원장은 “AI 챗봇은 일반적인 건강 정보 제공에는 유용하지만, 개인의 복잡한 병력, 약물 상호작용, 또는 금기 사항을 고려하는 임상적 판단 능력은 전무하다”며, “AI의 조언을 맹신하고 자가 투약을 할 경우, 잘못된 안전감에 취해 필수 예방 조치를 소홀히 하거나 심각한 약물 내성을 유발할 수 있다”고 지적했다.
