의료감사의 개념 및 운영

의료감사는 진료비 청구의 정확성을 검토하고, 규정 준수 여부를 확인하며, 환자에게 적절한 의료서비스가 제공되었는지를 평가하기 위해 진료기록, 청구 데이터 및 기타 관련 자료를 체계적으로 분석하는 과정이다[8,9]. 의료감사는 그 목적과 범위에 따라 다양한 유형으로 구분되며, 임상감사(clinical audit)와 같이 의료제공자 수준에서 치료의 질과 결과를 측정하는 방식부터, 보험자의 진료비 청구 심사까지 여러 형태로 운영된다. 이 중 보험자가 수행하는 의료감사는 청구 처리(claim processing), 청구 심사(claim review), 진료기록 검토(medical record review), 부정청구 감지(fraud detection) 등의 하위 개념들과 밀접하게 관련이 있다. 우리나라 국민건강보험제도에서는 ‘요양급여비용 심사’라 한다[12].

보험자가 수행하는 의료감사의 주요 목적은 환자에게 적절한 의료서비스가 제공되었는지 평가하고, 진료비 청구의 정확성을 검토하여 의료제공자에 대한 비용 지급 여부를 결정하는 데 있다. 일반적으로 의료감사는 다음과 같은 단계를 거친다[12]. 먼저, ‘청구명세서 접수 및 점검’ 단계에서는 의료제공자가 환자정보와 제공된 의료서비스내역을 정해진 양식에 맞추어 제출하며, 여기에는 질병코드, 의료행위 및 의약품 코드 등이 포함된다. 이후, 기본 정보의 완결성과 정확성을 점검하는 초기 검토가 진행되며, 오류나 불일치가 있는 경우 의료제공자에게 반환되거나 지급이 거절될 수 있다. 내용이 복잡하고 의심스러운 청구는 심층 검토 대상으로 지정된다[19]. 이는 주로 의료서비스의 과잉이나 남용과 관련 있으며, 전문 인력이 검토하여 제공된 서비스의 의학적 필요성과 정당성을 평가한다[20]. 보험자의 기준을 벗어난 청구의 경우, 지급 금액이 조정될 수 있으며, 고의적인 사기가 의심되는 경우 현지 조사가 이루어질 수 있다. 이후, 축적된 청구 데이터와 감사 결과는 의료제공자의 성과 모니터링, 의료감사, 건강보험 정책 개선 등의 목적으로 활용된다. 이러한 과정은 오류, 의료서비스 과용 ·남용, 고의적 사기를 포함한 부적절한 지출을 방지하는 동시에 의료서비스의 질을 향상시키는 것을 궁극적인 목표로 한다(Figure 1).

Figure 1.

Medical audit processes and key objectives at each stage.

AI 기술의 도입 필요성

의료감사는 매일 대량으로 축적되는 청구서를 신속하고 정확하게 처리해야 하는 업무다. 미국, 한국, 프랑스, 호주, 대만 등과 같이 국가가 운영하는 공적보험에서는 청구 물량에 대한 부담이 상당히 크다[21]. 의료감사는 기본적으로 시간이 많이 소요되는 과정이지만, 일정한 처리기한 내에 완료해야 하는 규정이 존재한다. 이에 따라, 보험자는 모든 청구를 수기로 검토하는 것이 사실상 불가능하며, 의료감사 과정에서 효율성을 높이기 위한 체계적인 접근이 필요하다. 예를 들어, 미국의 메디케어에서는 매년 약 10억 건의 청구가 접수되지만, 이 중 포괄적인 검토 대상이 되는 청구는 0.3%에 불과한 것으로 보고된다[13]. 이처럼 제한된 검토 범위로 인해 부적절한 지출을 사전에 감지하지 못하는 문제가 발생할 수 있다. 또한 의료기술의 발전, 인구고령화와 건강보험 급여 확대 등의 요인으로 인해 검토 물량이 지속적으로 증가하고 있으며[17], 이에 따라 의료감사에 소요되는 행정 비용과 부적절한 지출 부담도 커지고 있다. 따라서 보험자는 의료감사의 운영 효율성을 향상시키기 위한 전략적 접근이 요구되는 상황이다.

건강보험 급여 정책과 각종 규정들이 점차 복잡해지고 있는 것도 또 다른 도전과제다[22]. 의료감사는 전문 의료영역별로 다양한 임상 사례와 복잡한 규정으로 인해 심사자 간 불일치나 인적오류를 발생시킬 가능성이 있으며, 이로 인해 의료제공자와 보험자 간의 갈등이 초래될 수 있다. 따라서 의료감사 과정에서 오류를 최소화하고 보다 객관적이고 표준화된 평가를 수행할 수 있는 도구의 도입이 요구된다.

이에 더하여, 보험자는 재정의 건전성을 유지하고 부적절한 지출을 방지할 책임을 가지고 있으며, 이러한 부적절한 지불은 오류, 과잉, 남용, 그리고 사기 등의 요인으로 발생한다[23,24]. 전 세계적으로 의료비의 약 10%가 사기 및 남용으로 낭비되는 것으로 추정되며[25], 이러한 부정청구 행위는 단순한 재정적 손실을 넘어 의료서비스의 질과 신뢰에도 부정적인 영향을 미친다. 이에 따라 보험자는 보다 정교한 분석 방법을 개발하고, 데이터 분석 및 인공지능, 머신러닝과 같은 첨단 기술을 활용해야 하는 필요성이 증가하고 있다[26].

이처럼 의료감사는 시간이 많이 소요되고 오류가 발생하기 쉬우며 비효율적일 수 있다[22]. 따라서 보험자는 의료감사의 운영 효율성을 높이고 자원을 효율적으로 활용하면서도 건강보험의 재정건정성을 보장하기 위해 효과적인 도구가 필요하다. AI 기술이 발전하기 이전에는 다양한 IT 솔루션과 빅데이터 분석기술을 활용하여 일부 업무를 자동화하고 최적화해 왔다. 예를 들어, 청구서의 코딩 오류, 불일치, 중복청구 등을 사전에 정의된 규칙에 따라 청구서를 검토하는 시스템이 도입되었으며, 빅데이터 분석을 활용해 비정상적으로 높은 청구 금액이나 특정 시술을 과도하게 사용하는 의료제공자를 식별하는 방식이 적용되어 왔다. 그러나 이러한 방식은 여러 한계를 가진다.

먼저, 규칙기반 시스템은 지속적으로 증가하는 데이터 양을 효과적으로 처리하는 데 어려움을 겪는다. 개별 청구서를 여러 규칙과 비교하여 검토하는 방식은 데이터가 많아질수록 처리속도가 저하되며, 시스템이 과부화될 가능성이 높다. 또한 규칙기반 시스템은 미리 정의된 규칙에 따라 작동하기 때문에 복잡하거나 새롭게 진화하는 패턴을 포착하는 데 한계가 있다[27]. 이로 인해 규칙의 사각지대를 악용한 부정청구가 발생할 가능성이 있으며, 반대로 규칙이 엄격한 경우 거짓 양성 플래그(false positive flag)가 증가하여 전문 심사에 불필요한 인력이 투입되는 비효율성을 초래할 수 있다. 예를 들어, 독일에서는 약 70%의 청구서가 전문심사가 필요한 것으로 분류되었으나, 이 중 10%에서만 실제 문제가 발견된 것으로 보고되었다[28]. 이는 보다 효과적으로 문제의 개연성이 있는 청구서를 선별할 수 있는 도구의 필요성을 시사한다. 더욱이, 빅데이터 분석은 후향적 분석(retrospective analysis)에 초점을 맞추고 있어 진료비 지급 이후에 실시되므로, 부적절한 지출의 예방보다는 사후 교정하는 방식에 집중될 수밖에 없다는 한계도 존재한다.

이러한 기존 시스템의 데이터 처리 한계, 경직성, 예측 능력 부족은 보험자가 AI 기술 도입을 고민하게 된 주요 배경이 되었다. AI 기술의 대량의 데이터를 신속하게 분석하고 복잡한 패턴을 식별할 수 있는 학습능력과 확장성을 갖추고 있어, 지속적으로 증가하는 심사 물량에 보다 효과적으로 대응하고, 개입이 필요한 영역에 사전에 대처할 수 있도록 지원함으로써 의료감사의 성과를 크게 향상시킬 것으로 기대된다.

AI 기술의 핵심 역량

의료감사에 적용할 수 있는 AI 기술의 핵심 역량은 패턴 학습, 언어 이해, 의사결정 능력으로 구분된다[15,22]. 패턴학습은 AI의 하위 분야인 머신러닝 기술의 기초로, 대량의 데이터를 학습하여 규칙성과 관계를 파악하고, 이를 바탕으로 패턴을 식별하여 예측 및 의사결정을 수행하는 데 활용된다. 언어 이해 능력, 즉 자연어 처리(natural language processing)는 AI가 텍스트, 음성, 이미지 내 정보를 분석하고, 이를 바탕으로 인간의 언어와 유사한 문장이나 텍스트를 생성하는 기술이다. 의사결정 능력은 과거 데이터를 기반으로 최적의 결정을 도출하고 솔루션을 추천하는 기능을 의미하며, 자동화된 의사결정을 가능하게 함으로써 속도, 정확성, 확장성 및 일관성을 향상시키는 핵심 역량이라 할 수 있다. 보험자는 이러한 AI 기술을 의료감사에 적용함으로써 운영 효율성을 향상시킬 수 있을 뿐만 아니라 더 나은 서비스를 제공하고, 의료감사의 투명성을 강화할 수 있다.

의료감사에서 AI의 적용 가능 영역

의료감사 과정에서 AI 기술이 적용될 수 있는 주요 분야와 그 잠재력은 다음과 같다(Figure 2).

Figure 2.

Potential applications and expected outcomes of AI in medical audits.

첫째, 의료제공자의 청구 오류를 감소시키는 영역이다. 의료제공자의 청구 오류는 의료감사에서 빈번히 발생하는 문제로, 한 연구에 따르면 독일에서 보험자에게 제출된 전체 청구의 약 8-10%가 부정확한 것으로 보고되었다[28]. AI 기술은 이러한 오류를 최소화하는 데 기여할 수 있다. 예를 들어, 환자의 진료기록에서 자동으로 데이터를 추출하여 청구서를 작성하는 자연어 처리 기술이나 코딩 가이드라인 및 규정을 준수하여 올바른 코드 작성을 지원하는 AI 알고리즘은 이러한 오류를 줄이는 데 효과적이다[29,30]. 또한, AI를 활용하여 의료제공자가 청구서를 제출하기 전에 거부 가능성을 예측하고 그 사유를 설명하는 시스템을 도입할 수 있다[31,32]. 이를 통해 의료제공자는 청구 단계에서 오류를 사전에 수정할 수 있으며, 보험자에 의해 거절된 청구서를 회수하고 재작성하거나 항소하는 데 드는 시간과 비용을 절감할 수 있다. 한 연구에서는 부스팅(boosting) 기반 머신러닝 모델을 활용하여 청구 거절로 인한 비용을 15-50%까지 절감할 수 있음을 보여주었다[32].

둘째, 의료감사의 프로세스를 자동화하는 영역이다. 기존 의료감사 시스템에 AI 기술을 적용하면 반복적이고 기본적인 검토 작업을 자동화하여 보다 신속하게 처리할 수 있다[33]. 머신러닝 알고리즘은 환자 정보, 질병 코드, 의료 행위, 관련 문서 등 청구서의 다양한 측면을 면밀히 분석하여 심사자가 놓칠 수 있는 오류나 불일치를 신속하게 식별할 수 있다[30]. 특히 AI는 대량의 청구 데이터를 신속하고 정확하게 분석할 수 있는 확장성을 갖추고 있어 의료감사에 소요되는 시간을 대폭 단축할 수 있다. 또한 AI 기술의 적용은 단순히 속도와 정확성을 개선하는 것을 넘어 의료감사 시스템 전반에 혁신을 가져올 수 있다. AI 기술의 학습 및 적응 능력은 반복적인 감사 작업뿐만 아니라 의학적 필요성과 같은 복잡한 의사결정 과정까지 자동화할 수 있도록 지원한다. 이에 따라 심사 과정에 필요한 인력 개입을 최소화할 수 있으며, 이는 의료감사 운영비용 절감으로도 이어진다. 한 연구에서는 AI 기반의 자동화 시스템을 도입한 결과, 청구서 1건당 처리 시간이 72시간에서 5분으로 단축되었으며, 정형화된 서식에서 99%의 정확도를 기록하였다. 이를 통해 의료감사 운영비용이 40-70% 감소한 것으로 보고되었다[34].

셋째, 전문심사 과정의 효율성을 향상시키는 영역이다. AI 기술이 의료감사의 많은 과정을 자동화하더라도 전문 심사자의 개입은 여전히 필요하다. 그러나 AI 기술은 전문 심사자들이 보다 복잡하고 중요한 사례에 집중할 수 있도록 지원한다. 예를 들어, AI 기반 의료감사 시스템은 대량의 청구서 중 추가 검토가 필요한 사례를 식별하여 심사자에게 알릴 수 있다. 또한 청구서 내에서 위험도가 높은 항목을 식별하거나, 청구서 간의 검토 우선순위를 결정하는 기능을 제공하여 심사자들이 어떤 사례에 우선적으로 집중해야 하는지 결정하는 데 도움을 줄 수 있다[13]. 또한 인력에 의한 검토는 대량의 처리물량과 복잡성으로 인적 오류가 발생하기 쉽다. AI 기반 의료감사 시스템은 심사자에게 검토가 필요한 이상치를 제시하거나, 과거 의료감사 결과에 대한 데이터를 바탕으로 현재의 청구 건의 평가 결과를 예측함으로써 심사자의 판단을 보완할 수 있다. 이러한 AI 기술의 적용은 보험자가 다양하고 복잡한 사례에 대해 일관된 기준을 적용할 수 있게 하며, 심사의 불일치와 오류를 최소화하고 표준화된 평가를 가능하게 한다. 결과적으로 의료감사 과정의 공정성과 투명성이 향상되며, 관련 분쟁을 줄이고 의료제공자와 보험자 간의 신뢰를 강화하는 데 기여할 수 있다. 이는 궁극적으로 의료제공자와 보험자가 환자에게 제공되는 서비스의 질에 더 집중할 수 있도록 하는 기반이 된다.

넷째, 부정청구를 탐지하는 영역이다. 부정청구는 의도적으로 사실을 은폐하거나 누락하여 부당한 이득을 취하려는 사기 행위를 의미한다[35]. 예를 들어, 실제로 제공되지 않은 치료에 대한 허위 청구, 동일한 서비스를 여러 번 반복 청구하는 사례, 또는 보다 높은 비용이 책정된 항목으로 코드를 변경하여(upcoding) 청구하는 사례 등이 이에 해당한다[36]. 이는 보험 재정에 상당한 손실을 초래할 뿐만 아니라 의료감사 과정을 훼손하여 환자에게까지 부정적인 영향을 미칠 수 있다[37]. 부정청구를 시도하는 의료기관은 감사 프로세스가 강화될수록 부정 방식을 지속적으로 변경하며 감사 시스템을 회피하는 경향이 있다[38]. 이에 따라, 새로운 부정청구 방식을 학습하고 적응할 수 있는 머신러닝이나 딥러닝 기술은 더욱 정확하고 효율적으로 복잡한 부정패턴을 확인할 수 있게 도울 수 있다[39,40]. 특히 AI는 인간이 정의한 고정된 규칙을 뛰어넘어 숨겨진 패턴과 이상 징후를 감지하는 기능을 제공함으로써 보험자가 부정청구를 조기에 발견하고 예방할 수 있도록 돕는다. 건강보험 청구자료를 이용한 한 연구에서는 머신러닝의 지도학습 분류 알고리즘을 활용하여 부정청구 탐지의 정확도를 기존 방식보다 4.2배 향상시킨 것으로 보고되었다[14]. 이는 AI가 부정청구 탐지에서 기존 감사 방식보다 더욱 효율적이고 정밀한 역할을 수행할 수 있음을 시사한다.

마지막으로, AI 기술의 지속적인 학습 및 적응 능력은 의료감사 과정에서 혁신적인 변화를 촉진하는 중요한 요소이다. 이를 통해 AI 기반 의료감사 시스템은 새로운 의료기술이나 약물이 도입되거나, 기존의 규정·기준 ·지침이 개정될 경우 이를 신속하게 학습하고 적용할 수 있다. 또한 과거의 감사 결과와 최신 데이터를 지속적으로 분석함으로써 잠재적인 규정 위반이나 의료 질 저하 문제를 사전에 식별하고 예방하는 데 기여할 수 있다. 나아가, AI의 학습능력은 시간이 지남에 따라 의료감사의 효율성과 정확성을 지속적으로 향상시킬 수 있으며, 이를 통해 보험자는 건강보험에 관련 규정과 기준의 준수를 보다 효과적으로 관리할 수 있다.

결론적으로, AI 기술을 의료감사 시스템에 적용하면 보험자, 의료제공자, 환자 모두에게 다양한 이점을 제공할 수 있다. 보험자는 청구의 정확성을 높이고, 감사 프로세스의 운영 효율성을 향상시킬 수 있으며, 부적절한 지출을 방지하여 재정 안정성을 강화할 수 있다. 의료제공자는 AI 기반 시스템을 통해 감사 과정의 예측 가능성을 높이고, 청구 오류로 인한 행정 부담을 줄일 수 있다. 이는 의료감사와 관련된 시간과 비용을 절감하며, 보험자와 의료제공자 모두가 양질의 의료서비스 제공에 더욱 집중할 수 있도록 지원한다. 또한 환자는 부적절한 검사나 치료로 인한 의료 남용이 줄어듦으로써 의료서비스의 질과 환자 안전 향상이라는 편익을 기대할 수 있다. 이와 더불어, 의료감사와 관련된 행정비용이 의료비에 간접적으로 반영되는 것을 방지함으로써 재정적 부담을 완화하는 효과를 가져올 수 있다. 궁극적으로, 의료감사 시스템의 효율성과 신뢰성을 높이는 것은 건강보험제도의 지속 가능성을 강화할 수 있다는 점에서 중요하다. 이는 장기적으로 보다 많은 환자가 건강보험제도의 편익을 안정적으로 누릴 수 있는 핵심 기반이 될 수 있다.

국내 사례

우리나라의 국민건강보험제도에서 요양급여비용 심사는 심평원에서 수행하고 있다. 심평원은 심사 물량 증가와 복잡성 증대에 대응하여 업무 효율성을 높이고 합리적인 의사결정을 지원하기 위해 AI 기술의 도입을 적극적으로 추진하고 있다[17]. 주요 사례는 다음과 같다.

첫째, ‘의료영상 심사판독시스템’이다[41]. 심평원은 2019년부터 AI 기술을 활용하여 의료영상을 자동으로 판독하고, 진료비 심사에 필요한 정보를 제공하는 모델을 적용해왔다. 현재 이 시스템은 척추질환 영역에서 활용되고 있으며, 건강보험 급여 인정기준으로 적용되는 ‘척추측만의 만곡도’와 ‘척추압박골절의 압박률’을 자동으로 측정하여 심사자에게 제공한다. 이 시스템은 의료기관이 제출한 청구명세서 정보(상병, 수가 코드)와 영상정보(장비 종류, 검사 상세, 촬영 부위 등), 촬영 각도를 분석하여 AI 판독 대상을 선별한다. 이후, 합성곱 신경망 모델(convolutional neural network)을 활용하여 척추이미지를 판독하며, 심사자는 AI가 제공하는 판독 영상을 심사에 활용할 수 있다. 이를 통해 의료영상 데이터 분석의 효율성을 높이고 심사 업무의 정확성을 향상시키는 것이 기대된다. 또한, 심평원은 2021년 ‘보건의료 영상판독 실증랩’을 개소하여 AI 의료영상 판독 소프트웨어 개발 및 연구를 지원하고 있다. 이를 통해 학계와 산업계는 진료기록과 의료영상데이터를 활용한 연구 및 모델 개발이 가능하며, 딥러닝용 고성능 서버 및 개발 인프라 환경도 제공받을 수 있다. 이는 AI 기술의 개발과 검증을 지원하여 의료기술의 혁신을 촉진하고, 궁극적으로 의료서비스의 질 개선에 기여할 것으로 기대된다.

둘째, ‘ AI 기반 문서 자동인식 시스템’이다[42]. 심평원은 2023년 4월, AI 기반의 문서 자동인식시스템(AI optical character recognition, AI OCR)을 도입하였다. 기존 OCR 기술의 한계를 극복하기 위해, AI OCR 은 신경망 기반 기계학습을 활용하여 정형화되지 않은 정보까지 정확하게 인식 가능하도록 개선되었다. 이 기술은 의료기관으로부터 수집한 종이 문서와 이미지 파일을 자동으로 처리하는 데 활용되며, 현재 서면으로 접수된 청구명세서 및 이의신청서 등 4가지 정형화된 서식에 적용되어 데이터를 추출하고 심사 시스템과 연계되고 있다. 또한, 심사참고자료를 자동으로 데이터화하고 문서 특징에 따라 유형을 자동으로 분류하는 기능도 포함된다. 이를 통해 기존 연간 약 46,000시간이 소요되던 수기 입력 작업이 자동화되면서 데이터 입력의 정확도 향상과 비용 절감 효과를 기대할 수 있다.

마지막으로, 심평원은 2021년부터 ‘심사 AI 프로젝트’를 추진하고 있다[17]. 이 프로젝트에는 청구 오류를 사전에 예측하는 ‘착오청구 항목 예측 모형’, 비정상적인 진료 패턴을 탐지하여 의료의 질과 비용을 관리하는 ‘진료경향 이상감지 모형’, 효율적으로 심사 대상을 선정하는 ‘포괄심사 대상 선정 모형’ 등이 포함된다. 이러한 AI 기술의 도입은 심사 업무의 혁신을 촉진하고 국민에게 보다 더 나은 의료서비스를 제공하는데 기여할 것으로 기대된다.

국외 사례: 미국

미국의 메디케어(Medicare)는 65세 이상 인구를 대상으로 하는 미국 연방정부의 공적보험 제도이다. 이를 운영 및 관리하는 CMS는 2020년 정부가 발표한 AI 연구 및 적용 가속화를 위한 ‘국가 인공지능 이니셔티브 법(National Artificial Intelligence Initiative Act)’에 따라 전반적인 CMS 운영에 AI 기술을 도입해왔다[15]. 이를 위해 CMS의 정보기술국(Office of Information Technology)은 2021년부터 AI Explorers 프로그램을 운영하여 조직 내 AI 및 머신러닝의 이해와 적용을 증진하고 있다. 가장 대표적인 성과는 ‘ AI 플레이북’이라는 실용 매뉴얼의 발간이다[15]. 이 보고서는 CMS 조직 내에 AI 기술을 효과적이고 책임감 있게 도입하기 위한 전략과 사례를 포함하고 있으며, AI 기술 도입이 의료의 질, 접근성, 효율성 및 경제성 향상이라는 CMS의 목표를 지원할 수 있음을 강조하고 있다. 이러한 노력의 결과, 2023년 기준 CMS의 전체 196개 시스템 중 28.6%에서 AI 기술이 활용되고 있는 것으로 보고되었다.

의료감사와 관련된 프로그램은 메디케어 및 메디케이드 프로그램 내 부정청구 방지를 담당하는 무결성 센터(Center for Program Integrity)의 시스템이 대표적이다[43]. 이 시스템은 대량의 데이터를 분석하여 비정상적인 청구 패턴 및 이상치를 식별하며, 부정청구가 감지될 경우 취약점 분석, 법 집행부 회부, 행정 조치, 또는 현행 정책 및 규정 조정 등의 대응이 이루어진다.

비록 직접적인 의료감사 시스템은 아니지만, CMS의 정보기술국에서 운영하는 지식관리플랫폼(knowledge management platform, KMP)도 의료감사에 기여할 수 있는 중요한 도구로 평가된다. KMP는 CMS 의 다양한 저장소에서 텍스트 문서, 스프레드시트, 동영상 등의 비정형 데이터를 수집하고 구조화하는 기능을 수행한다. 이를 통해 사용자는 데이터를 쉽게 분석하고 패턴을 식별할 수 있으며, 보다 정교한 정보 기반 의사결정을 내릴 수 있다. 기존에는 CMS 문서에서 수동으로 데이터를 추출하는데 최대 51일이 소요되었으나, KMP를 활용한 이후 해당 프로세스가 몇 분 내로 단축되었다.

데이터의 질

데이터는 AI 시스템의 성공적인 구현과 운영을 위한 핵심적인 요소이다. 데이터의 질이 낮을 경우 AI 모형이 잘못된 패턴을 학습하거나 부정확한 예측을 생성할 수 있기 때문이다. 이에 학습에 사용되는 데이터의 정확성, 일관성, 완전성이 확보되어야 하지만, 현실에서는 이러한 조건을 충족시키기 어려운 경우가 많다[44]. 따라서 AI 시스템이 최적의 성능을 발휘하기 위해서는 데이터 수집 및 정제 과정에 대한 지속적인 투자가 필요하다. 이러한 정제 과정은 데이터의 오류를 교정하거나 중복을 제거하고, 결측값을 처리하는 등의 단계들을 포함한다[45]. 그러나 청구 데이터의 특성상 의료 행위의 맥락이나 환자의 전반적인 건강 상태를 충분히 포함하지 못하기 때문에, 오류 탐지 및 수정이 어려운 한계가 존재한다. 이를 해결하기 위해 청구 데이터를 임상 데이터와 통합하여 오류를 교차 검증할 수 있는 시스템을 구축하거나, 데이터 정제 과정에 임상 전문가를 포함시켜 의학적 맥락에서 오류를 식별하는 방안을 고려할 수 있다.

또한, 데이터 라벨링과 관련된 문제도 존재한다[45]. 라벨링은 AI 모형의 학습 과정에 중요한 역할을 하며, AI 시스템의 최종 성능과 정확도에 직접적인 영향을 미친다. 그러나 의료감사 과정 중 특히 부정청구의 경우 발생 빈도가 낮고 명확한 사례가 적어, 라벨링된 데이터가 부족한 문제가 있다. 이로 인해 다수 정상 청구 건에 대한 정확도가 우선시되고, 상대적으로 적은 부정청구 사례는 무시되는 편향이 발생할 가능성이 있다. 이를 해결하기 위해 클래스별 가중치를 조정하거나 비지도 학습(unsupervised learning) 적용, 데이터 증강(data augmentation) 기법 활용 등의 접근법을 개발하고 검증하는 것이 필요하다.

AI 기술의 편향과 공정성

AI의 적용 중에 발생할 수 있는 편향은 AI 시스템이 특정 집단이나 상황에 대해 불공정하거나 부정확한 결과를 산출하는 원인이 된다[46]. 이러한 편향은 학습 데이터가 특정 집단이나 상황에 치우쳐 있거나, AI 모형 설계 시 설정된 평가 기준이 공정성을 충분히 반영하지 못하는 등 다양한 요인으로 인해 발생할 수 있다. 따라서 AI 알고리즘이 기존의 편향을 강화하거나 새로운 편향을 도입하지 않도록 주의를 기울여야 한다. 이러한 편향을 완화하기 위해서는 양질의 편향 없는 데이터를 확보하는 것이 필수적이다. 또한 AI 알고리즘 내에 편향을 식별하고 교정하기 위해 엄격한 사전 검증 및 평가 과정을 수행하여야 한다[47]. 예를 들어, AI 알고리즘을 성별, 연령, 소득 수준 등 다양한 환자군에 적용하고 청구 승인율(심사 조정률) 등 결과를 지속적으로 모니터링함으로써 특정 집단에게 불리하거나 불공정하게 작용할 가능성을 평가할 필요가 있다[30]. 더 나아가, AI 기술을 활용하는 프로세스에는 반드시 결과에 대한 인간의 검토 과정이 반드시 포함되어야 한다[48]. 이러한 접근 방식은 AI 기반 의료감사 결과의 공정성과 신뢰를 보장하는 데 필수적이다.

투명성과 설명가능성

AI 기술, 특히 머신러닝은 다양한 변수가 있는 대량의 데이터와 복잡한 문제를 처리하는데 적합하지만, 그 알고리즘을 설명하는 명확한 공식이나 방정식이 없다[49,50]. 이러한 특성으로 인해 AI의 의사결정 과정이 인간에게 쉽게 해석되거나 설명되지 않는다는 ‘블랙박스’ 문제를 야기할 수 있다. AI의 의사결정 과정이 불투명하면, 의료감사 과정에서 AI를 활용하는 데 대한 신뢰도가 낮아지고, 의료 전문가 및 환자의 반발을 초래할 수 있다. 특히, 고의적인 사기 가능성을 탐지하는 부정청구 감지 과정에서는 AI 모델의 판단 근거가 명확해야 신뢰를 확보할 수 있다. 따라서 AI 시스템에 대한 신뢰와 공정성을 유지하기 위해 투명성이 필수적이다[51]. 이를 위해 개발 단계부터 데이터와 모형의 공정성을 철저히 검토하고, 이후에도 AI 시스템을 지속적으로 모니터링 해야 한다. 최근에는 AI의 의사결정을 보다 명확하게 설명하기 위한 ‘설명가능한 AI (explainable AI)’ 기술이 개발되고 있으며, 의료감사 영역에서도 이를 적극적으로 적용할 필요가 있다[52].

한편, AI 시스템의 책임성 강화도 중요한 요소이다. 이는 AI의 결정과 결과에 대한 책임주체를 명확히 하고, 문제가 생겼을 때 이를 해결할 수 있는 절차를 마련하는 것을 의미한다. 이를 위해 AI 시스템의 사용과 책임에 대한 법적 규제 및 윤리적 원칙을 마련하는 거시적 접근 뿐만 아니라, AI의 의사결정 과정에 인간이 개입하여 최종 결정을 검토 및 승인하는 ‘휴먼인더루프(human-in-the-loop)’ 시스템을 도입하는 미시적 방안까지 검토되어야 한다[53].

기존 시스템과의 통합

AI 도입에는 비용 문제와 조직 변화 관리 등 운영 과정에서 발생할 수 있는 다양한 현실적인 도전 과제가 수반된다. 예를 들어, 머신러닝과 같은 고급 AI 기술을 도입하려면 기존 IT 인프라의 개선이나 새로운 시스템 구축 등에 상당한 시간과 비용 투자가 필요하다. 더욱이, 의료감사에 활용되어 온 기존 시스템이 수십 년 동안 운영된 경우, 오래된 프로토콜이나 데이터 포맷을 사용하는 경우가 많아 기존 시스템과 AI 기술의 상호운용성을 개선하려면 상당한 비용이 소요된다[36]. 그러나 아직까지 AI 기술이 실제로 얼마나 많은 비용 절감과 효율성 향상을 가져올 수 있는지에 대한 명확한 투자 대비 수익 평가가 부족하기 때문에 대규모 투자를 계획하는 것이 쉽지 않다. 이는 의료감사 분야에서 AI 기술의 도입을 지연시키는 주요 원인이 될 수 있다[3,28].

또한, 의료감사와 같이 인적 요소가 중요한 분야에서는 조직 변화 관리 역시 핵심적인 고려 사항이 된다. AI 도입은 기존 업무 방식과 인력의 역할 변화를 수반하기 때문에, AI 기술의 효과적인 활용을 위해서는 의료감사를 수행하는 인력이 이러한 변화를 수용하고 AI 도구를 원활하게 활용할 수 있도록 지원하는 체계적인 접근이 필요하다[54]. 따라서 AI 기술을 도입에 따른 조직 내 기술 저항을 최소화하고, 인력의 재교육 및 역할 조정, 사용자 친화적인 AI 도구 개발을 포함한 체계적인 변화 관리 전략이 필요하다[30,54].