경기복지재단 “복지 AI 확산 속 인권·안전 기준 함께 세워야”

돌봄 수요 증가와 인력 부족 문제를 해결하기 위한 방안으로 인공지능, AI 기반 복지서비스가 확대되는 가운데, 복지 현장의 특성을 반영한 별도의 안전장치가 필요하다는 의견이 제기됐다.

 

경기복지재단은 20일 「복지이슈포커스」 제13호를 통해 인공지능기본법 시행 이후 복지 분야에서 AI를 어떻게 활용해야 하는지, 또 어떤 제도적 보완이 필요한지를 다룬 보고서를 발간했다고 밝혔다. 이번 보고서의 주제는 ‘인공지능기본법의 현안과 쟁점, 그리고 복지’다.

 

보고서는 초고령사회 진입과 노인 1인 가구 증가로 돌봄 수요가 빠르게 늘고 있지만, 이를 감당할 인력과 재정은 충분하지 않다고 진단했다. 이 같은 상황에서 AI는 돌봄 공백을 줄이고 복지서비스의 접근성을 높일 수 있는 새로운 수단으로 주목받고 있다.

 

실제로 경기도에서도 AI 말벗서비스 등 인공지능을 활용한 복지서비스가 점차 확대되고 있다. 혼자 사는 어르신의 안부를 확인하거나 정서적 고립을 완화하는 서비스처럼, AI가 기존 돌봄 인력을 보완하는 방식으로 활용되는 사례가 늘고 있는 것이다.

 

그러나 보고서는 복지 분야 AI 활용이 단순한 기술 도입에 그쳐서는 안 된다고 지적했다. 복지서비스는 이용자의 건강 상태, 소득 수준, 가족관계, 장애 여부 등 민감한 개인정보를 폭넓게 다룬다. 따라서 AI가 수집·분석하는 정보가 잘못 활용될 경우 개인의 정보인권 침해로 이어질 수 있다.

 

AI의 편향성과 오판 가능성도 주요 쟁점으로 제시됐다. 복지 현장에서 AI가 이용자의 상황을 잘못 판단하거나 특정 집단에 불리한 결과를 낼 경우, 서비스 접근권이나 지원 여부에 직접적인 영향을 미칠 수 있기 때문이다. 보고서는 복지서비스가 국민의 권리와 생활 안정에 밀접하게 연결돼 있는 만큼, 일반적인 AI 서비스보다 더 신중한 관리가 필요하다고 강조했다.

 

현행 인공지능기본법은 공공서비스 영역에서 활용되는 AI에 대해 투명성, 안전성, 영향평가 등 일정한 의무를 부과하고 있다. 최근에는 AI 활용에 취약한 계층의 접근권을 보장하고 비용을 지원할 수 있는 근거도 마련됐다.

 

다만 보고서는 복지 분야에서 활용되는 모든 AI가 현행 법체계 안에서 충분히 관리되는 것은 아니라고 분석했다. 예를 들어 복지 대상자의 자격을 직접 판정하거나 서비스 제공 여부를 결정하는 기능이 명확하지 않은 경우, 일부 AI 서비스는 고영향 인공지능 규율 대상에서 빠질 가능성이 있다는 것이다.

 

이에 따라 보고서는 사회복지 영역의 특수성을 인공지능기본법과 관련 제도에 더 구체적으로 반영해야 한다고 제안했다. 복지 AI가 단순 행정 보조나 상담 지원 기능을 하더라도, 실제로는 이용자의 권리와 서비스 이용 과정에 영향을 미칠 수 있는 만큼 사전 점검 체계를 강화해야 한다는 취지다.

 

경기도 차원의 조례와 제도 보완 필요성도 언급됐다. 보고서는 경기도 관련 조례의 실효성을 높이기 위해 AI 영향평가 적용 범위를 넓히고, 사회복지 영역에서 제공되는 AI 서비스 전반에 대해 영향평가를 의무화하는 방안을 검토할 필요가 있다고 밝혔다.

이와 함께 복지 현장 종사자 교육도 중요한 과제로 제시됐다. AI 시스템이 어떤 방식으로 판단하고, 어떤 한계와 위험을 가질 수 있는지 현장 종사자가 이해해야 이용자의 권리를 보호하면서 서비스를 운영할 수 있기 때문이다.

 

보고서는 향후 복지 분야 AI 활용이 확대될수록 기술의 효율성뿐 아니라 인권 보호, 설명 가능성, 개인정보 보호, 책임성 확보가 함께 논의돼야 한다고 강조했다. 특히 돌봄과 복지는 사람의 삶과 존엄에 직접 맞닿아 있는 영역인 만큼, AI 도입 과정에서 취약계층이 배제되거나 불이익을 받지 않도록 제도적 장치를 마련해야 한다고 봤다.