[경기도의회] “경기도 AX 행정 전환, 차별·혐오 인식 기반 자료 필터링 필요”

[시사큐브=양동원기자] 경기도가 추진 중인 행정 인공지능(AI) 전환(AX) 과정에서 발생할 수 있는 데이터 편향성과 차별·혐오 인식을 사전에 철저히 걸러내야 한다는 도의회의 매서운 지적이 제기됐다.

경기도의회 유호준 의원(더불어민주당, 남양주 다산1동)은 지난 9일 열린 제395회 정례회 미래과학협력위원회 첫 행정사무감사에서 AI국을 상대로 행정 AX 전환에 따른 차별·혐오 인식 기반 자료 필터링 대책 마련과 공공기관 개인정보 관리 체계 고도화를 강력히 주문했다.

이날 유 의원은 질의에 앞서 “이번 행정사무감사는 저에게는 다섯 번째이자 미래과학협력위원회에서 맞이하는 첫 번째 감사”라며, “성별, 종교, 장애, 나이, 인종, 성적지향, 학력 등 어떠한 차이와도 상관없이 존엄한 경기도민의 삶을 위해 도정이 제 역할을 다하고 있는지 엄정하게 점검하겠다”고 포부를 밝혔다.

유 의원은 먼저 경기도가 추진 중인 행정 AX 전환의 이면에 잠재된 데이터 편향성과 차별 재생산 문제를 집중적으로 짚었다. 그는 “행정 AX 전환은 도민에게 편리한 행정서비스를 제공할 기회이지만, AI가 학습하거나 답변을 생성할 때 활용하는 인터넷상의 정보에는 특정 집단에 대한 차별이나 혐오적 인식이 담겨 있을 수 있다”며, “충분한 검토 없이 이를 활용할 경우 기존의 사회적 편견이 행정서비스에 그대로 투영되거나 확대될 우려가 크다”고 지적했다.

이에 대해 경기도 관계자가 국정원 가드레일 지침에 따라 필터링을 하고 있다고 설명하자, 유 의원은 “국정원에만 의존할 것이 아니라 혐오·차별적 인식이 포함된 자료가 AI 학습 및 답변 생성 단계에서 철저히 배제될 수 있도록 경기도만의 명확한 윤리 기준과 꼼꼼한 필터링 체계를 갖춰야 한다”고 강조했다. 아울러 과거 도정 홍보물 논란 등을 언급하며 AI 필터링 기술과 성평등 관점의 심의 프로토콜이 도정 전반의 인권 감수성 제고로 이어져야 한다고 덧붙였다.

나아가 유 의원은 외부 데이터 필터링뿐만 아니라 AX 행정의 또 다른 핵심 축인 도민 개인정보 및 공공데이터 보안 관리 체계의 근본적인 개선을 요구했다. 현재 도내 41개 시스템에서 방대한 도민 정보를 다루고 있으며, 특히 경기도 평생학습포털의 경우 약 345만 건을 포함해 기관별로 수만 건 이상의 민감한 개인정보가 관리되고 있다.

유 의원은 “수백만 건에 달하는 도민의 개인정보가 축적되어 있음에도 일선 공공기관에서는 한 달에 한 번 화면을 캡처해 보고서를 올리는 식의 형식적인 보안 점검에 그치는 경우가 많다”며, “개인정보 유출에 대한 불안과 책임을 일선 실무자 개인의 몫으로만 돌릴 것이 아니라, AI국이 전문성을 발휘해 경기도 및 산하 공공기관의 개인정보 관리 체계를 고도화하고 질 높은 전문 지원 프로그램을 마련해야 한다”고 촉구했다.

끝으로 유 의원은 “신설된 AI국이 타 실·국으로부터 전문성과 존재 가치를 인정받기 위해서는 소관 업무에만 머물지 않고 타 부서의 AI 관련 조례 제·개정이나 사업 추진 시에도 적극적으로 사전 검토와 의견 조회를 거치는 총괄 거버넌스를 확립해야 한다”며 “차별과 혐오 없는 안전한 AI 행정 구현과 철저한 개인정보 보호를 위해 AI국이 주도적인 역할을 해달라”고 당부하며 질의를 마쳤다.