병원 AI 도입, 기술 격차보다 먼저 줄일 운영 격차

먼저 결론

• 진료 판단이나 환자 안내처럼 결과의 영향이 큰 업무는 일반 행정 업무와 같은 방식으로 자동화하지 않습니다.
• 실제 환자정보를 입력하기 전에 처리 목적, 법적 근거, 보관·학습·삭제 조건과 접근 권한을 확인합니다.
• 첫 시험은 합성 자료로 진행하고, 예상 결과와 실제 결과의 차이, 누락, 잘못된 확신을 사람이 검토합니다.
• 승인자, 기록, 중단 기준과 이전 방식으로 돌아갈 절차가 없는 업무는 도입을 보류합니다.

어떤 업무부터 시작할지 나눕니다

한의원의 업무를 진료, 환자 안내, 행정, 홍보로 적고 각 업무가 잘못됐을 때 생길 영향을 비교합니다. 회의 요약이나 공개 자료 초안처럼 사람이 바로 확인할 수 있고 실제 환자정보를 쓰지 않는 업무는 첫 시험 후보가 될 수 있습니다. 반대로 진단·치료 판단, 개인별 복약 안내, 진료기록의 자동 전송처럼 오류의 영향이 크거나 민감정보를 다루는 업무는 별도 법률·의료·보안 검토 없이 시작하지 않습니다.

입력할 수 있는 정보의 경계를 먼저 정합니다

업무별로 필요한 최소 정보와 입력하면 안 되는 정보를 문서로 정합니다. 이름, 연락처, 주민등록번호, 진료내용처럼 개인을 알아볼 수 있거나 건강 상태를 드러내는 정보는 ‘AI니까 편리하다’는 이유만으로 외부 서비스에 입력할 수 없습니다. 계약과 서비스 설정, 접근 권한, 보관 위치, 삭제 방법이 실제 처리 요건에 맞는지 확인하기 전에는 가상의 이름과 수치로 만든 합성 자료를 사용합니다.

합성 자료도 실제 운영에서 생길 수 있는 어려운 상황을 포함해야 합니다. 정보가 빠진 요청, 서로 충돌하는 기록, 긴 문서, 판단을 보류해야 하는 사례를 넣어 도구가 모르는 내용을 지어내거나 중요한 경고를 빼지 않는지 봅니다.

공급자의 보관·학습·삭제 조건을 확인합니다

서비스 약관과 관리자 화면에서 입력 데이터가 어디에 저장되는지, 모델 학습에 사용되는지, 얼마 동안 보관되는지, 삭제 요청과 내보내기가 가능한지 확인합니다. 조직 계정의 관리자와 결제 주체, 접근 가능한 사용자, 퇴사자 권한 회수 방법도 함께 적습니다. 홍보 페이지의 ‘보안’ 문구만으로 판단하지 말고 실제 계약 문서와 현재 계정 설정을 같은 날짜에 확인합니다.

다음 항목 가운데 하나라도 확인하지 못하면 실제 정보 투입을 보류합니다.

• 입력·출력·로그의 저장 위치와 보관 기간
• 모델 개선 또는 학습 사용 여부와 해제 설정
• 삭제·내보내기·계정 종료 절차
• 하위 처리업체와 접근 권한 범위
• 사고 통지와 지원 창구

합성 사례로 정확성·누락·실패를 시험합니다

먼저 성공 기준을 적은 뒤 같은 합성 사례를 여러 번 실행합니다. 정답 하나만 맞는지 보지 말고, 반드시 포함해야 할 정보가 빠지지 않는지, 근거 없는 내용을 사실처럼 말하지 않는지, 판단할 수 없을 때 사람에게 넘기는지 확인합니다. 프롬프트와 도구 버전, 입력 자료, 결과, 검수자와 판정을 한 작업 ID에 남기면 나중에 결과가 달라졌을 때 원인을 찾을 수 있습니다.

시험 결과는 ‘좋아 보임’이 아니라 통과·수정·보류로 기록합니다. 개인정보 노출, 의료 판단의 무단 생성, 중요한 정보 누락, 출처 조작, 승인 절차 우회가 한 번이라도 나오면 실제 운영을 시작하지 않고 원인과 재시험 조건을 남깁니다.

인간 승인과 복구 절차가 있을 때 제한 도입합니다

시험을 통과한 업무도 처음부터 전면 자동화하지 않습니다. 대상 업무와 사용자 수를 제한하고 모든 결과가 지정된 검수자를 거치게 합니다. 승인 전에는 환자에게 전송하거나 공개하지 않으며, 로그에서 누가 어떤 버전의 결과를 확인했는지 다시 찾을 수 있어야 합니다.

오류가 생기면 AI 기능만 끄고 기존 접수·작성·검수 방식으로 돌아갈 수 있어야 합니다. 중단 권한자, 연락할 공급자, 영향을 받은 자료의 확인 범위, 재개 승인자를 정해 두면 도구 장애가 병원 업무 전체의 중단으로 번지는 것을 줄일 수 있습니다.

바로 중단하거나 보류할 때

• 실제 환자정보를 처리할 근거와 계약·설정이 확인되지 않았습니다.
• AI 결과가 의료진이나 지정 검수자의 승인 없이 환자에게 전달됩니다.
• 도구와 프롬프트 버전, 입력·출력, 승인 기록을 다시 확인할 수 없습니다.
• 잘못된 결과를 발견해도 기능을 끄거나 이전 절차로 돌아갈 방법이 없습니다.
• 서비스 약관과 실제 관리자 설정이 다르거나 삭제·권한 회수 방법을 확인할 수 없습니다.
• 의료·법률 판단이 필요한데 담당 전문가가 지정되지 않았습니다.

완료했는지 확인

• 첫 시험 업무 한 가지와 제외할 고위험 업무를 구분했습니다.
• 최소 입력정보와 입력 금지정보를 문서로 정했습니다.
• 보관·학습·삭제·접근 권한을 약관과 관리자 화면에서 확인했습니다.
• 합성 사례에 정상·누락·충돌·중단 상황을 포함했습니다.
• 프롬프트·버전·결과·검수자·판정을 같은 기록에 남겼습니다.
• 인간 승인, 중단 권한자와 기존 방식으로 돌아갈 절차를 정했습니다.