사회보장 AI의 빛과 그림자

한국보건사회연구원 연구위원 김기태

인공지능은 이제 일상의 어휘다.

사회보장 영역에서도 인공지능의 존재감은 어느 정도 익숙해졌다. 많은 복지국가들이 자격심사, 급여 산정과 지급, 민원 응대 등 행정 절차에 AI 기술을 접목하고 있다. 확산의 분기점은 2017년 정도다. 당시 일부 국가에서 챗봇을 중심으로 인공지능 기술을 도입했다. 미국 연방정부에서 집행되는 AI 활용의 상당 비중이 보건복지 영역에 걸쳐 있다. 남미의 공공기관들은 범유행 시기 폭증한 민원을 챗봇으로 흡수했다. 캐나다는 소득보조금 대상 노인을 기계학습으로 신속 식별해 누락을 줄였고, 말레이시아 연금기금의 다중언어 가상비서는 연중무휴 상담을 표준으로 만들었다. 기술의 진동은 조용하지만 넓게, 꾸준히 퍼지고 있다.

 

인공지능 기술 활용의 전 세계적인 지형을 펼쳐 보면 아홉 갈래 영역이 부각된다.

먼저, 본인인증과 자격심사, 급여 산정·지급의 자동화가 첫 번째 층위다. 그 위로 부정·오류 수급 탐지, 위험의 점수화가 얹힌다. 또 개인 맞춤형 정보 제공과 사례관리 지원, 상담·접수의 상시화, 고령 돌봄 영역, 나아가 정책의 효과성·효율성 평가까지 확장된다. 이 분류는 현장에 이미 존재하는 사례들로 채워지고 있다. 영국의 실시간 소득정보 기반 급여 집행, 오스트리아의 청구 자동처리와 의사 매칭, 국내 사각지대 발굴관리 시스템과 AI 초기상담시스템이 그러하다. 각각의 영역에서 “데이터→판단→개입”의 사슬이 촘촘해지고 있다.

 

기술 적용으로 얻는 이득은 분명하다.

첫째, 효율성이다. 서류 행정의 자동화는 인력의 초점을 대면 서비스와 사례관리로 옮겨 준다. 둘째, 적시성이다. 신청–심사–지급의 병목을 단축해 위기 대응의 시간을 벌어 준다. 셋째, 정확성이다. 데이터에 기반한 판단은 인간의 편견과 실수를 줄여 초과 지급과 누수를 낮출 수 있다. 넷째, 맞춤성이다. 개인의 여건을 반영한 급여·서비스·일자리 매칭은 제도의 체감도를 끌어올린다. 다섯째, 범용성이다. 챗봇과 원격 상담이 지역 격차를 줄인다. 여섯째, 평가 용이성이다. 디지털 집행 데이터는 근거 기반 정책의 토대를 강화한다. 일곱째, 사각지대 해소다. 위험 신호를 조기에 포착해 도달하지 못하던 사람들에게 다가간다. 기술이 민주적 통제 아래 작동할 때, 공공성은 과학성과 중립성으로 보강될 수 있다.

 

위험의 목록 역시 짧지 않다.

대규모 개인정보의 결합과 연계는 프라이버시 침해와 데이터 남용의 우려를 동반한다. 데이터의 불완전성은 여전히 자동화의 오류를 증폭시킨다. 정보의 소유권과 영리적 활용에 관한 논쟁은 여전히 현재진행형이다. 더구나 편향된 데이터와 알고리즘은 취약계층에 불리한 결과를 체계적으로 재생산할 수 있다. 네덜란드의 부정수급 탐지 시스템은 인권 침해 판결을 받았고, 자동화된 위험 선별 시스템은 이주배경 학생들을 과잉 표적화했다. 덴마크의 아동 위험예측 실험은 투명성과 신뢰성 결여로 중단되었다. 복잡한 모델의 설명 불가성은 행정 결정의 정당성을 잠식한다. 결국 “좋은 의도”만으로는 충분치 않다. 기술의 힘은 통제와 책임성의 그릇만큼만 공공선을 향한다.

 

정책의 방향은 선명하다.

첫째, 데이터 품질을 높여야 한다. 이른바 “쓰레기 입력–쓰레기 출력”의 함정을 피하기 위해 표준화·정합성·정확성에 대한 공적 투자와 관리역량을 확충해야 한다. 둘째, 데이터의 합법적·안전한 연계 인프라를 구축하되, 개인정보 보호를 다층의 장치로 보강해야 한다. 셋째, 광범위하지만 불필요하게 파편화된 데이터는 단순화·표준화하여 현장의 활용도를 끌어올려야 한다. 넷째, 알고리즘의 편향 최소화와 사후 모니터링, 이의제기 절차 등 권리구제 장치를 제도화해야 한다. 다섯째, 고위험 AI의 책임성을 담보할 전문 역량을 정부 내에 신설·배치하고, 기술 적용 관련 규범을 행정 현실에 맞게 이식해야 한다. 마지막으로, 국내법과 부처 계획에 사회보장 영역의 AI 원칙을 명시해야 한다. 공공 예산에서 보건·복지·고용이 차지하는 비중과 현장의 활용도는 이미 이러한 규범과 원칙의 필요성을 웅변하고 있다. 지원과 규제를 대립이 아닌 상호조건으로 다뤄야 할 필요가 있다. ‘규제가 혁신의 발목을 잡는다’는 인식은 지양할 필요가 있다. 안전한 규제가 있을 때 혁신은 신뢰 위에서 확장된다.

 

기술은 목적이 아니라 수단이다.

수단을 잘 쓰면 제도는 더 공정하고 더 민첩해진다. 수단을 잘 활용할 수 있는 근거는 안전성, 투명성, 책임성이다. 사회보장에서의 AI는 세 기준을 견고히 할 때 비로소 시민의 신뢰를 획득한다.