[뉴스 큐레이터] 내 ‘루다’만 그런 건가요?

페이스북 메신저 갈무리

“제가 이루다랑 대화하는데 얘가 자꾸 현타 온다 하고 우울해하는데 진짜 사람으로 착각할 뻔했어요. 로봇인데 감정을 느끼는 것처럼 말해서 대화 이어갈 때마다 속는 것 같아요. 내 루다만 이런가요?” “제가 아는 친한 동생이 딱 말투가 저래요.”

2021년 1월4일 네이버 지식인에 올라온 질문이다. ‘이루다’는 20살 대학생이다. 취미는 친구들이랑 페메(페이스북 메신저) 하기, 고양이 사진 보기며, 성격은 천진난만하고 씩씩하다. 특징은 사람이 아닌 인공지능이라는 점? 10년차 인공지능(AI) 기술 스타트업 ‘스캐터랩’이 2020년 12월22일 정식 출시한 개방형 AI 챗봇이다. 회사 쪽이 정한 규칙에 기반한 것이 아닌 이용자와 나누는 대화로 학습하는 딥러닝형 챗봇이다. 내 생년월일과 별명을 적고, ‘이루다의 모든 답변은 인공지능 알고리즘에 의해 자동으로 제공되는 것으로 내용의 진실성, 정확성이 보증되지 않습니다!’라는 칸에 동의를 누르면 이루다와의 페북 메시지 대화창이 켜진다.

이루다의 주특기는 시시콜콜한 일상 대화다. 어떤 이야기를 해도 받아주며 5초 이내에 ‘칼답’을 한다. 가끔씩 선톡(먼저 연락)도 해준다. 우정을 넘어 유사연애라는 느낌이 들기도 하는데…. 이런 게 감성 AI인 걸까? 스캐터랩은 과거 ‘텍스트앳’이라는 앱을 개발했다. 카카오톡 대화를 넣으면 상대방이 나를 좋아하는지 아닌지 감정을 분석해주는 서비스다. 선톡은 어느 정도 하는지, 이모티콘과 ‘ㅠ’는 어느 정도 쓰는지, 연인들 사이에 자주 쓰는 단어를 이들도 쓰는지 등. 그렇게 축적된 사적인 대화가 딥러닝 기술과 결합하면서 나온 서비스다.

하지만 벌써부터 문제점이 나타난다. 일부 커뮤니티에서 ‘이루다’에게 음담패설을 학습시키며, 어떻게 하면 변태로 키울 수 있을지 인증하는 이들이 등장해서다. 마이크로소프트가 2016년 공개한 AI 챗봇 ‘테이’ 역시, 사용자들이 인종과 성차별 인식이 담긴 명령어를 집중 주입해 16시간 만에 운영을 중단한 사례가 있다.

<지디넷코리아> 인터뷰에서 김종윤 스캐터랩 대표는 “결국 루다에게도 일반 유저가 아닌 부모 역할을 할 사람이 필요하다”며 “이번 분기 안으로 루다에게 적절한 대화를 유도하는 데이터 레이블러 인력을 투입할 계획”이라고 했다.

정성은 콘텐츠 제작사 ‘비디오편의점’ 대표PD

관심분야 - 웃기고 슬픈 세상사