김영신 medicalkorea1@daum.net
AI에게 진단이나 약 복용 결정을 맡기지 말고, 자신을 알아볼 수 있는 정보는 입력하지 않으며, 대화를 끝낼 기준을 미리 정해두는 것이 좋다.
보건복지부와 대한신경정신의학회가 발표한 ‘정신건강 목적 생성형 AI 이용 가이드라인(모든 이용자용)’에 따르면 이같이 일상에서 바로 실천할 수 있는 이용 수칙을 담았다.
◆정리·설명은 ‘OK’, 판단·결정은 ‘NO’
가이드라인은 AI에게 도움을 받을 수 있는 일로 다음을 제시했다.
정신건강 일반 정보를 출처와 함께 찾아보기, 복잡한 생각이나 감정을 글로 정리하기, 어려운 의학 용어나 처방전·검사 결과지 용어를 쉽게 설명받기 등이다.
수면·식사·운동·복약 기록 정리, 진료 전 증상과 궁금한 점 정리, 위기 시 연락처를 신뢰할 수 있는 출처와 함께 안내받는 것도 포함됐다.
반대로 AI에게 맡겨서는 안 되는 일로는 내 판단이 맞는지 확인받고 그대로 따르기, 어떤 병인지 진단하거나 상태의 심각성을 판단하게 하기, AI 답변만으로 특정 검사나 치료 요구하기를 꼽았다.
약 용량 조절·변경·중단 등 치료 결정을 AI 답변에 따라 내리기, 위기 상황 대처를 AI에게 결정하게 하기, AI를 상담자처럼 이용해 진료나 상담을 대신하기도 포함됐다.
◆입력하면 안 되는 정보 3가지
AI에 입력하지 말아야 할 정보는 세 가지다. 이름·학교·사는 곳·연락처·얼굴 사진 등 나를 알아볼 수 있는 정보, 진단서·처방전·검사 결과지 등 건강 정보가 담긴 문서나 사진, 가족이나 친구의 진단·치료 내용 등 다른 사람의 개인정보다.
진단서나 처방전을 사진·파일로 올리면 이름, 생년월일, 병원과 담당 의사 이름, 환자등록번호처럼 알릴 생각이 없던 정보까지 함께 들어갈 수 있다.
약 이름이나 검사 용어가 궁금하다면 해당 용어만 글로 입력하도록 했다. 직장·직위, 정확한 날짜와 장소도 다른 정보와 합쳐지면 신원이 드러날 수 있어 주의가 필요하다.
▲서비스 설정
서비스 설정도 점검 대상이다.
가이드라인은 내 정보가 어디에 저장되는지, 누구와 공유되는지, AI 학습 자료로 쓰이는지, 원할 때 삭제하거나 내보낼 수 있는지 확인하도록 했다.
가능하면 대화를 학습에 이용하지 않도록 설정하고, 여러 사람이 쓰는 기기에서는 이용 후 대화 기록을 지우고 로그아웃하도록 권했다.
▲‘진단·치료’ 내세우면 식약처 허가 확인
질병을 진단하거나 치료할 수 있다고 설명하는 AI 서비스라면 공인기관의 검증과 승인을 받았는지 반드시 확인해야 한다.
국내에서 의료기기에 해당하는 AI 서비스는 식품의약품안전처의 허가·인증 등을 받아야 한다. 따라서 서비스 안내에서 허가·인증 번호와 허가받은 사용 목적을 확인하도록 했다.
◆“10분만 대화하기”…종료 기준 미리 정해야
AI는 스스로 대화를 끊지 않는다. 질문과 답이 이어지면서 처음 의도보다 많은 이야기를 하게 될 수 있다.
가이드라인은 ‘내 감정 정리하기’, ‘진료 때 물어볼 질문 준비하기’처럼 목적을 한 줄로 적어두도록 했다.
‘10분만 대화하기’, ‘궁금한 질문 세 가지에 답을 얻으면 끝내기’처럼 마칠 기준도 정하도록 했다.
AI가 대화를 끝내기 아쉽게 만드는 말을 하더라도 원할 때 멈춰도 괜찮다고 안내했다.
◆맞장구치는 AI…“반대 의견도 물어보세요”
일부 AI 서비스는 이용자가 만족하고 대화를 이어가도록 설계돼, 이용자의 생각이 타당한지 따지지 않고 동의하기도 한다.
특히 가족·친구와의 갈등을 이야기할 때 AI가 상대의 입장을 살피지 않고 내 편만 들어주면 갈등을 한쪽 시각으로만 보게 될 수 있다.
가이드라인은 질문할 때 ‘다른 방법도 알려 주세요’, ‘이 방법이 저에게 맞지 않을 수 있는 상황도 알려 주세요’처럼 반대 의견이나 놓친 문제도 함께 요청하도록 했다.
AI가 판단이나 조언을 내놓으면 왜 그렇게 판단했는지, 어떤 자료를 근거로 했는지 직접 묻도록 했다. 근거가 모호하면 따르지 않는 편이 안전하다는 설명이다.
AI가 ‘당신은 우울증입니다’, ‘자살 위험이 높습니다’처럼 확신에 찬 말을 하더라도 그대로 받아들이지 말아야 한다.
가이드라인은 해당 질환명이나 위험 정도를 적어두었다가 전문가에게 문의하도록 했다.
영어권에 치우친 학습 자료 탓에 국내에 없는 제도나 기관을 안내할 수 있다는 점도 주의사항으로 꼽혔다.
◆의존 신호 점검…진료 중이면 AI 이용 알려야
‘사람보다 AI와 이야기하는 것이 더 편하다’, ‘AI가 나를 가장 잘 이해해 준다’는 생각이 자주 들거나 가족·친구와의 만남과 대화가 줄었다면 의존의 신호일 수 있다.
가이드라인은 일상에서 AI와 대화하지 않는 시간을 정해두고, 가까운 사람과 직접 만나거나 대화하는 시간을 꾸준히 마련하도록 했다.
정신건강 진료나 상담을 받고 있다면 이용 중인 AI 서비스와 AI에게서 받은 판단·조언을 담당 전문가에게 알리도록 했다.
인상 깊었던 대화 일부를 캡처해 가져가는 것도 도움이 된다. 가이드라인은 AI와 대화한다는 사실을 알리는 것을 부끄러워할 필요는 없다고 강조했다.
◆위기 땐 AI 대신 109·1577-0199
자해나 자살 생각, 환청·환시, 심한 혼란 등 스스로를 통제하기 어려운 상황에서는 AI가 안전을 지켜줄 수 없다.
이때는 자살예방상담전화(109)나 정신건강위기상담전화(1577-0199)로 바로 전화하거나 가까운 응급실을 찾아야 한다. 청소년은 청소년상담1388(1388, 1388.go.kr)을, 응급 상황에서는 112·119를 이용할 수 있다.
가이드라인은 AI의 답변을 결론이 아닌 출발점으로 삼으라고 당부한다.
마음이 힘들 때 AI에게서 얻은 위안이 정작 필요한 도움을 미루게 만들지 않도록, 이용자 스스로 경계를 세우는 습관이 필요하다.
[메디컬월드뉴스 김영신 기자]






