건강보험심사평가원(심평원)이 지난 13일 한국지능정보사회진흥원(NIA)으로부터 ‘AI 윤리 준수기관' 확인마크를 받았다고 21일 보도자료를 통해 밝혔다. 기관 차원의 AI 윤리원칙을 세우고 기관장을 포함한 전 직원에게 AI 윤리교육을 실시한 점 등을 인정받았다는 설명이다.
심평원은 진료정보처럼 민감한 보건의료 데이터를 다루는 기관인 만큼, 인공지능 전환(AX)을 추진하면서 개인정보 보호와 국민 신뢰를 가장 먼저 챙겨야 할 과제로 삼아 왔다고 밝혔다.
확인마크는 어떤 요건으로 주어지나
심평원에 따르면 이 확인마크는 AI 개발·활용 과정의 윤리 기준과 책임 체계를 갖춘 기관에 NIA가 발급한다. 2024년 민간 AI 기업용으로 처음 운영됐고, 올해부터는 공공부문에도 문이 열렸다. 핵심 요건은 기관 고유의 AI 윤리원칙을 마련하는 것과 직원 70% 이상이 AI 윤리교육을 이수하는 것이다.
공공부문 확대 이후 중소벤처기업진흥공단이 7월, 한국고용정보원이 10월 이 확인마크를 받았다고 밝히는 등 다른 공공기관의 취득도 이어지고 있다.
윤리원칙 선포에서 전 직원 교육까지
ㄱ심평원은 올해 7월 AI를 활용한 업무혁신을 맡는 ‘AX 혁신실'을 새로 만들었다. 같은 달 13일에는 ‘HIRA AI 윤리원칙'을 선포하며 '사람이 중심이 되는 인공지능'을 기본 가치로 내세웠다. 원칙은 인간중심·개인정보보호·공정성·투명성·안전성·공공성·책임성 등 7개 항목으로 이뤄져 있다.
현재 구축 중인 ‘HIRA AI 통합플랫폼'의 관리 지침과 ‘AI 실행·학습 선순환 체계(CIA-S)’도 마련했다. 심평원은 두 체계가 AI 개발 단계마다 검증을 거치고, 최종 판단은 사람이 내린다는 원칙을 따르도록 했다고 설명했다. AI 윤리교육은 기관장을 포함한 전 직원을 대상으로 진행했다.
심사 업무의 AI, 최종 판단은 사람이
사람이 최종 판단한다는 원칙은 심사 현장에도 적용되고 있다. 심평원은 지난 9월부터 무릎관절(퇴행성관절염) 분야 의료영상의 AI 판독 결과를 진료비 심사 업무에 처음 반영했다고 밝힌 바 있다. 그동안 참고자료로만 쓰던 판독 결과를 실제 심사에 쓰기에 앞서, AI 판독만으로 심사 결과를 정하지 않고 사람이 최종 판단하도록 하는 내부 운영·윤리 기준을 만들었다. 적용 분야는 척추와 요로결석으로 단계적으로 넓힐 계획이다.
홍승권 심평원장은 “AI는 심사·평가의 정확성과 효율성을 높이는 핵심 수단이지만, 국민의 민감한 건강 정보를 다루는 만큼 신뢰와 책임이 최우선”이라며 "인간 중심 판단원칙(Human-In-The-Loop) 기반 운영체계 구축을 통해 안전한 보건의료 AX 전환을 이끌어 나가겠다"고 말했다.
가이드라인·점검 체계는 후속 과제
심평원은 이번 확인마크를 계기로 AI 윤리교육을 정기적으로 운영하고, AI 윤리 가이드라인을 만들어 AI 점검 체계를 구축할 계획이다. 이를 바탕으로 책임 있는 AI 활용 방식을 업무 전반에 적용한다는 방침이다.
7월 윤리원칙을 선포할 당시 심평원은 전 직원 AI 윤리교육과 AI 윤리 가이드라인 제작·배포를 실행 과제로 제시했다. 이 가운데 교육은 이번 발표에서 실시했다고 밝혔고, 가이드라인은 여전히 앞으로의 계획으로 남아 있다.
심평원이 밝힌 발급 요건은 윤리원칙 수립과 교육 이수율 등 기관 운영 체계에 관한 것이다. 이번 발표에 개별 AI 시스템의 성능이나 안전성을 따로 검증한 결과는 포함되지 않았다.