공공기관 AI 채용은 ‘안알리즘’

공공기관 AI역량검사 점수 채용에 반영하고 있지만 알고리즘은 업체에 독점적으로 맡겨

미국 휴스턴교육청이 공립학교 교사의 효율성을 평가하는 데 썼던 공식을 소개하는 텍사스교사연맹의 선전물. 텍사스교사연맹 누리집 갈무리

미국 휴스턴 공립학교 교사들은 2011년부터 ‘데이터 기반’ 교원 평가 시스템을 적용받았다. 교육청은 학생의 성취도를 교사 평가 기준으로 삼으면서 이 기준을 민간업체가 수립하도록 했다. 업체는 교사가 학생의 시험 점수에 미치는 영향을 추적하는 알고리즘을 만들었다. 그런데 이 알고리즘은 업체가 독점적으로 보유하는 것으로, 교사는 물론 교육청에도 공개되지 않았다. 이 알고리즘에 따라 교사들이 해고되자, 휴스턴교사연맹은 교육청을 상대로 소송을 냈다. 결과는 어땠을까?

인천공항 면접 참고용, 한전KDN 점수 반영

인공지능(AI)은 국외 공공부문에서도 폭넓게 사용된다. 채용은 물론 사회복지급여 지급, 법원 판결의 참고 자료로 쓰이는 재범 위험성 평가 등 많은 영역에서 쓰인다. 한국도 행정처분에 AI를 사용하기 위한 법률적 근거를 만들고 있다. 2020년 7월 정부가 발의한 ‘행정기본법’ 제정안을 보면, “행정청은 법령으로 정하는 바에 따라 완전히 자동화된 시스템(AI 기술을 적용한 시스템 포함)으로 처분할 수 있다”고 규정했다. AI가 공공행정을 단순히 돕는 것을 넘어, 공무원 손을 거치지 않고 의사결정과 행정처분을 할 수 있다는 얘기다.

현재 공공기관은 어떤 분야에, 어떤 알고리즘을, 어떻게 사용하고 있을까. <한겨레21>과 진보네트워크센터가 확인한 것만 13곳의 공공기관이 정규직·인턴 등을 채용하는 과정에서 ‘AI역량검사’를 시행하고 있다. 전형에 반영되는 수준은 제각각이다. 인천국제공항공사는 면접 참고용으로 활용하고, 한국방송통신전파진흥원과 한전KDN 등은 점수를 전형에 반영한다.

이에 대해 공공기관 내부의 ‘합의’는 뚜렷이 없는 듯하다. 국민권익위원회의 ‘2019년 공공기관 채용실태 정기 전수조사’ 결과에는 채용 단계별 우수 제도를 소개하면서 “AI(인공지능)면접 시행을 통한 채용 공정성 및 타당성 강화”라는 내용이 포함됐다. 하지만 2020년 5월 금융위원회는 산하 공공기관 채용 실태를 점검하는 과정에서 “AI면접만으로 정성적 요소를 평가하기에는 시기상조”라고 지적했다.

기관들의 평가도 엇갈린다. 채용 인원 3배수 단계에서 점수를 전형 결과에 반영하는 한전KDN은 류호정 정의당 의원에게 제출한 자료에서 “대면면접 결과와 AI면접 결과가 대부분 유사하게 평가된다”고 했지만, 인천국제공항공사는 심상정 정의당 의원에게 제출한 자료에서 “실제 면접 결과의 일치 여부와 면접 자료로서의 효용성에 대해서도 긍정·부정(의견)이 골고루 있었는데 소요 비용 및 노력 대비 면접위원의 피드백이 긍정적이지 않은 것으로 판단하고 있다”고 밝혔다. 10월22일 열린 국회 국토교통위원회 국정감사에서 임남수 인천국제공항공사 사장 직무대행은 심 의원의 “구체적인 검증과 검토 없이 도입 AI 채용을 도입한 것 아니냐”는 지적에 “사실 생각해보지 못한 부분들임을 인정한다. 지적한 부분을 고려해서 채용을 할 수 있도록 보완하겠다”고 말했다.

외국에선 ‘비밀주의와 종속’ 방지

이런 상황에서 개별 공공기관이 AI 채용을 제대로 하는지 검증하는 것은 쉽지 않다. 진보네트워크센터가 △공공기관의 공정한 채용 절차 준수 여부 △개인정보 침해 여부 △AI면접의 차별성과 편향적 결과 검토를 위해 13개 기관에 정보공개를 청구했지만, ‘공정한 시험 진행에 방해’ ‘영업비밀’이라는 이유로 대부분 자료를 비공개 처분했다. 특히 일부 공공기관은 관리·운영을 용역업체에 맡겼다며 ‘정보 없음’이라고 답변하기도 했다. 채용에 응시한 지원자가 채용 절차와 결과에 대해 문제를 제기하려면 공공기관이 아니라 용역업체에 해야 한다는 말이다. 김민 진보네트워크센터 활동가는 “특정 기업의 알고리즘에 채용 절차를 위탁하면서 공공기관이 가져야 할 책임감도 함께 위탁해버린 꼴이다. 공정한 채용은 물론이고 AI 기술에 대한 국민의 신뢰까지 깎아먹는 행위”라고 지적했다.

국외에서는 공공기관의 AI 운영 원칙과 AI 시스템의 민간 조달 방안에 대한 규범을 마련하고 있다. 영국 공직생활윤리위원회는 2020년 ‘AI와 공공윤리’라는 보고서에서 △인공지능의 법적 근거 명확화 △데이터 편향·차별 금지 지침 마련 △공공기준을 충족하도록 조달 조건을 마련하고 입찰·계약 때 윤리기준 조건 명시 △AI가 공공표준에 미치는 잠재적 영향에 대한 평가를 의무적으로 실시하고 공개할 것을 권고했다. 공공기관의 ‘AI 조달 지침’도 마련했다. “알고리즘 비밀주의와 공급업체 종속 방지”를 명문화하면서 “알고리즘의 설명·해석 가능성을 중요 기준으로 설정하고, 특정 공급업체에 고착되지 않도록 다른 공급자들의 인공지능 시스템 참여를 유도할 것”이라고 세부 내용을 적었다. 캐나다 정부 역시 훈령 성격의 ‘자동화된 의사결정에 대한 지침’을 법규화해 공공행정에 사용되는 소스코드와 소프트웨어 구성 요소 등에서 공개를 원칙으로 정했다. 네덜란드 암스테르담과 핀란드 헬싱키는 AI 알고리즘을 등록하고 공개하는 ‘알고리즘 등록부’를 2020년 9월 공개하기도 했다.

국내에서도 관련 논의가 아예 없는 것은 아니다. 한국정보화진흥원(NIA)이 2019년 12월 펴낸 ‘공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석’을 보면, 정책 방향으로 △AI 서비스의 편향·투명성 등 각 기업이 신뢰성을 확보하기 위한 방안을 검토하고 △AI 기술 특성을 고려해 해결 방법과 알고리즘 등 기술 중심의 평가체계 개선이 중요하다는 사실이 언급됐다. 특히 “공공기관의 AI 솔루션 ‘제안요청서’에는 시스템 솔루션의 세부 사항이 아닌 해결하고자 하는 문제에 집중”해야 한다는 내용도 포함됐다. 공공기관이 AI역량검사를 도입하면서 업체의 홍보 자료 문구와 동일한 ‘솔루션의 세부 사항’만 적은 것을 경계하라는 뜻이다.

법원 “더 이상 시스템 사용하지 말 것”

다시, 휴스턴 교사들의 이야기로 돌아와보자. 소송은 교육청이 더 이상 해당 시스템을 쓰지 않기로 하는 ‘합의’로 마무리됐다. 법원의 다음과 같은 판단에 의해서다. “민간업체의 독점적 정보인 알고리즘에 대한 접근 없이는, 교사가 받은 점수는 도전할 수 없는 미스터리한 블랙박스로 남을 것이다. 정확한 점수 계산을 보장하는 의미 있는 방법이 없으며, 결과적으로 헌법상 보호되는 직업에 대한 권리는 부당하게 박탈당할 수 있다.” ‘설명할 수 없고’ ‘권리도 침해하는’ 민간기업의 알고리즘을 공공부문이 사용해서는 안 된다는 결론이다.

박태우 기자 [e-mail]

*참고 문헌: 사단법인 정보인권연구소 ‘공공기관 인공지능 규범’, 한국정보화진흥원 ‘공공기관 신뢰가능 AI 구현 실용 가이드’

*표지이야기-의심많은 기자의 AI면접 분석기
http://h21.hani.co.kr/arti/SERIES/2337/