AI가 병원 정책을 잘못 안내하면? 도입 전 반드시 알아야 할 것

AI 챗봇 도입에서 가장 과소평가되는 리스크는 “잘못된 확정 답변”입니다.

실제 사례 — Air Canada

캐나다의 한 항공사는 자사 챗봇이 존재하지 않는 환불 정책을 안내했고, 이용자가 그 답을 믿고 행동한 뒤 법정 다툼이 벌어졌습니다. 결과는 “챗봇의 답도 회사의 답”이라는 판결이었습니다. 병원도 예외가 아닙니다 — 챗봇이 없는 할인·시술 가능 여부를 단정하면 병원이 그 말에 책임지게 됩니다.

왜 이런 일이 생기나 — 근거 없는 답변(환각)

범용 AI는 모르는 질문에도 그럴듯한 답을 지어내는 경향(환각)이 있습니다. 이를 줄이는 방법이 RAG(검색증강생성)입니다 — 병원이 실제로 발행한 콘텐츠에서 근거를 찾아 그 범위 안에서만 답하게 만드는 구조입니다.

병원이 갖춰야 할 3가지 안전장치

① 사이트 콘텐츠 기반 RAG(근거 없는 질문엔 답변 보류) ② 가격·시술 확정 답변 금지 → “담당자 확인” 유도 ③ 눈에 띄는 “담당자 연결” 버튼(불만의 가장 큰 원인이 이 버튼이 안 보이는 것입니다).

정리

AI 챗봇은 잘 만들면 신뢰를 높이지만, 잘못 만들면 법적 책임까지 이어질 수 있는 채널입니다. 안전장치를 갖춘 도입 전략은 병원 AI 챗봇 완벽 가이드에서 전체적으로 정리했습니다.