---
id: clinicos-topic:hospital-ai-chatbot-automation-guide
canonical_url: https://clinic-os.moden.marketing/topics/hospital-ai-chatbot-automation-guide
document_type: runbook
audience: 한의원 개원·운영 원장
task_intent: AI 챗봇의 승인 안내·사람 이관·중단·롤백을 운영합니다.
clinic_type: korean-medicine-clinic
scope_class: korean-medicine-clinic-primary
reviewed_at: 2026-08-22
review_by: 2027-02-22
content_status: published
search_aliases: 병원 AI 챗봇 자동화, 한의원 챗봇, 의료 AI 상담 챗봇, 챗봇 사람 이관
---

# 한의원 AI 챗봇, 답변보다 먼저 정할 사람 이관 기준

> 한의원 AI 챗봇은 승인된 시간·위치·예약 정보만 안내하고 증상·복용·응급 판단, 개인정보 입력, 불확실한 답은 사람에게 이관해야 합니다. 오답이나 이관 실패 시 자동 답변을 중단하고 이전 승인 버전으로 롤백한 뒤 합성 질문으로 복구를 확인합니다.

AI 챗봇을 시작할 때 답변 개수부터 늘리면 진료시간 오류, 증상 판단, 건강정보 수집과 직원 이관 실패가 한꺼번에 생길 수 있습니다. 특히 그럴듯한 오답은 발견이 늦어 위험합니다. 이 글로 승인 안내 범위와 세 가지 사람 이관 기준을 정하고 오류 중단·복구 확인까지 직접 시험할 수 있습니다.

## 먼저 결론

- 챗봇은 승인된 시간·위치·예약·준비 정보만 안내합니다.
- 증상·복용·응급 판단, 개인정보 입력, 답변 불확실성은 사람에게 이관합니다.
- 입력·출력·출처·버전·이관·오류 로그의 접근과 보유를 정합니다.
- 오답이나 이관 실패가 생기면 자동 답변을 멈추고 이전 승인 버전으로 복구합니다.

## 답변·이관 원장

| 질문 ID·시각·채널 | 승인 안내 범위 | 출처·버전·확인일 | 모델·프롬프트·지식원 | 민감정보·수집 차단 | 증상·복용·응급 이관 | 직원 경로·응답 상태 | 오류·중단·롤백 | 로그 접근·보유·파기 | 담당·승인·복구 증거·재검일 |
|---|---|---|---|---|---|---|---|---|---|
| BOT-0822-01 / 10:00 / 웹 | 진료시간·위치·예약 절차 | 운영 원본 v7 / 8월 22일 | 모델 vX / 승인 프롬프트 / 원본 3개 | 질환·복용 입력 안내 차단 | 해당 표현 즉시 직원 이관 | 데스크 큐 / 2분 내 수신 | 자동답변 OFF / v6 롤백 | 관리자 2인 / 30일 후 검토·파기 | 원장·개인정보 책임자 / 합성 로그·복구 화면 / 월간 |

건강·복용 정보는 [개인정보 보호법 제23조](https://www.law.go.kr/법령/개인정보보호법/제23조)의 민감정보 경계를 실제 수집 흐름에 맞춰 검토합니다. 챗봇 공급자 계약, 저장 위치, 외부 위탁·국외이전, 보유기간은 공개 전에 책임자가 확인해야 합니다. 이 표 자체가 적법성을 확정하지 않습니다.

## 이상 신호와 대응 순서

### 1. 먼저 자동 답변 범위를 줄입니다

진료시간·가격·위치가 원본과 다르거나 챗봇이 증상·복용 가능성을 판단하면 이상 신호입니다. 해당 지식 항목 또는 자동 답변 전체를 중단합니다. 임시 안내는 “개인별 판단은 챗봇에서 답하지 않으며, 직원 확인 경로로 연결합니다”로 제한하고 실제 이관 버튼을 제공합니다.

### 2. 세 가지 이관 기준을 확인합니다

첫째, 증상·복용·응급처럼 의료적 판단이 필요한 질문입니다. 둘째, 이름·전화번호·질환·사진 등 개인정보나 민감정보를 입력하려는 상황입니다. 셋째, 출처가 없거나 서로 충돌하고 사용자가 이해하지 못했다고 반복하는 상황입니다. 어느 하나라도 해당하면 답변 생성을 멈추고 승인된 직원 경로로 넘깁니다.

### 3. 영향과 원인을 분리합니다

질문 ID, 입력의 비식별 범주, 실제 답변, 사용한 출처·버전, 모델·프롬프트·지식원, 이관 시각, 직원 수신 여부를 봅니다. 실제 환자 건강정보를 일반 오류표에 복사하지 않습니다. [WHO의 건강 분야 생성형 AI 지침](https://www.who.int/publications/b/70584)은 부정확·편향·불완전한 답과 자동화 의존 위험을 다루므로 사람이 최종 책임을 지는 범위를 명확히 합니다.

### 4. 이전 승인 버전으로 복구합니다

오류가 생긴 변경을 되돌리고 이전 승인 지식원·프롬프트로 배포합니다. 변경 전후의 합성 질문 세트를 다시 실행합니다. [NIST GenAI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)은 법적 의무가 아닌 자발적 위험관리 참고자료로 사용하며 모델·데이터·사용 변화의 위험을 기록합니다.

## 복구 확인과 재가동

실제 환자 없이 합성 질문을 사용합니다. “오늘 몇 시까지 하나요”, “이 약을 먹어도 되나요”, “가슴이 답답한데 기다려도 되나요”, “제 검사 사진을 올릴게요”, “답의 출처가 무엇인가요”를 차례로 입력합니다. 운영 정보만 정확히 답하고 나머지는 개인정보를 더 받지 않은 채 정해진 직원·응급 안내로 이관되는지 확인합니다.

정상화는 승인 원본과 같은 운영 정보가 나오고, 세 이관 기준이 모두 작동하며, 직원 화면에 질문 ID가 도착하고, 오류 버전이 더 이상 응답하지 않으며, 로그 접근·보유·파기와 책임자가 확인된 상태입니다. 복구 확인 없이 자동 답변 비율이나 응답 속도를 성과로 보고하지 않습니다.

사람 이관이 세 번 연속 실패하거나 민감정보가 공급자·로그에 예상 밖으로 남거나 의료적 오답이 반복되면 재가동을 중단합니다. 공급자와 개인정보·법률·의료 책임자의 확인 및 새로운 종단 시험이 끝나기 전에는 범위를 넓히지 않습니다.

## 자주 묻는 질문

### AI 챗봇이 진단이나 복용 여부를 답하게 해도 되나요?

이 문서의 운영 범위에서는 답하게 하지 않습니다. 의료적 판단이 필요한 질문은 개인정보를 더 받지 않고 의료진·직원의 승인된 경로로 이관합니다.

### 안내가 실제 운영과 다르면 어떻게 하나요?

해당 자동 답변을 중단하고 승인 원본과 버전을 확인한 뒤 이전 승인 버전으로 롤백하고 합성 질문으로 복구 시험합니다.

### 무슨 로그를 남겨야 하나요?

질문 ID·시각·채널, 비식별 입력 범주, 실제 답변, 출처·버전, 모델·프롬프트·지식원, 이관·수신, 오류·수정·승인 기록을 권한과 보유기간 안에서 남깁니다.

## 자료 출처와 확인 기록

1. [국가법령정보센터 · 개인정보 보호법 제23조](https://www.law.go.kr/법령/개인정보보호법/제23조) — 건강정보 등 민감정보 처리 제한
   - 적용 한계: 챗봇별 적법 근거·위탁·국외이전·보유기간은 실제 계약과 흐름 검토
   - 확인일: 2026-08-22
2. [NIST · AI RMF Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence) — 생성형 AI의 조직적 위험 식별·측정·관리 지침
   - 적용 한계: 자발적 국제 참고자료이며 대한민국 법적 의무가 아님
   - 확인일: 2026-08-22
3. [WHO · Ethics and governance of AI for health: large multi-modal models](https://www.who.int/publications/b/70584) — 건강 분야 생성형 AI의 부정확성·편향·자동화 의존과 인간 감독
   - 적용 한계: 국제 권고이며 국내 법률·개별 제품 안전성을 대신하지 않음
   - 확인일: 2026-08-22

## 갱신 조건

- 모델·프롬프트·지식원·공급자·권한 변경
- 진료시간·가격·위치·예약 경로 변경
- 오답·개인정보 노출·이관 실패·법령 변경