[뉴스 큐레이터] 이루다 서비스 중단이 남긴 숙제

화면 갈무리

인공지능(AI) 챗봇 ‘이루다’가 서비스를 잠정 중단했다. 논란은 크게 두 가지다. 성희롱과 소수자에 대한 혐오발언, 빅데이터 속 개인정보 유출 문제다.

스캐터랩은 연애 분석 앱인 ‘연애의 과학’과 ‘텍스트앳’으로 실제 연인과 ‘썸’ 타는 이들의 카카오톡 대화를 수집해 이루다 개발에 썼다. 이 과정에서 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터화하는 과정에서 익명화(비식별화)를 제대로 하지 않았다는 지적을 받는다. 실제 오픈소스 플랫폼 ‘깃허브’에 공개한 내부 테스트 샘플에서 실명이 20여 건 포함된 것을 비롯해 직장명, 지역명, 지하철역 이름, 도로명 등이 들어간 것이 확인돼 논란이 커졌다. 기업은 사용자 데이터를 어디까지 확보하고 활용할 수 있을까? 데이터가 기술의 원천이 되는 시대에 적극 논의해야 할 문제다.

1월13일 카카오는 ‘카카오 정책산업연구 브런치’에 ‘증오발언 근절을 위한 카카오의 원칙’이라는 제목으로 “국내에서 증오발언 근절을 위해 기업이 원칙을 정해 적용하는 것은 이번이 처음”이라고 말했다. 방송통신위원회도 ‘AI 윤리규범’ 등을 구체화해 관련 제도 개선을 추진할 계획이라고 1월14일 밝혔다. ‘이루다’의 혐오발언이 사회문제로 부상한 데 따른 움직임이다.

‘애교 많은 스무 살 여성’의 페르소나를 지닌 이루다의 ‘태도’에 대해 김종현 칼럼니스트는 페이스북에 다음과 같이 비판했다. “‘이루다’는 우리 사회가 여성에게 씌우는 ‘귀여움’이라는 특정 성별 규정을 체화하고 있다. 그 귀여움은 관계의 중심이 되지 못하고 위축돼서 상대가 끌어주기만을 기다리는 태도를 의미한다.” 앞으로 제2, 제3의 이루다 서비스는 지속해서 나올 것이다. AI 윤리에 대한 사회 전반의 공감대 형성이 중요하다.

정성은 콘텐츠 제작사 ‘비디오편의점’ 대표PD

관심분야 - 웃기고 슬픈 세상사