‘인공지능 잡초’의 위험성

컴퓨터 이곳저곳에 남몰래 자리잡아 사회 시스템 위협…

대비책 마련해야

중국에서 개발한 인공지능 로봇 ‘샤오이’는 최근 의사 시험에 합격했다. 연합뉴스

2년 전 바둑기사 이세돌 대 알파고의 충격적인 대국 이후, 사람보다 똑똑한 인공지능이 가져올 위험에 대한 이야기는 무척 흔해졌다. 지난 3월 세상을 떠난 위대한 천체물리학자 스티븐 호킹도 인공지능의 위험을 경고한 대표적 지성인이었다. 인간을 압도하는 기계는 영화처럼 자극적이지만, 우리는 현실이 영화처럼 스펙터클한 경우는 좀처럼 없음을 경험상 잘 알고 있다. 미국 하버드대학 웨더헤드국제문제센터의 조엘 제니 연구원은 세계경제포럼(WEF)에 기고한 글에서 더 현실적이고 통찰력 있는 위험을 제기했다. ‘인공지능 잡초’의 위협이다.

어떤 컴퓨터나 오래 쓰다보면 느려지기 마련이다. 알게 모르게 깔리는 여러 프로그램들이 쌓이다보면 시스템 부하는 피할 수 없게 된다. 그 때문에 컴퓨터를 아는 사람들은 데이터를 백업하고 컴퓨터를 포맷하는 대청소를 주기적으로 해준다. 인공지능 잡초는 관련 기술이 어느 정도 발전된 가까운 미래에 일어날 수 있는, 이와 비슷한 문제를 제기한다.

몇십, 몇백 년이 될지 모르지만 핵무기를 탈취할 만한 ‘슈퍼 인공지능’이 탄생하려면 반드시 그 전 단계에서 ‘단순한 자율성’을 지니는 시기를 지나야 한다. 예컨대 다른 코드를 참조해 스스로 자신의 문제점을 고치고, 적응해서, 임무를 지속·수행하는 정도의 자율성 말이다. 이런 수준의 인공지능 기술이라면 복제가 쉬운 디지털의 특성상 금방 여러 분야에 쓰일 법하다. PC 백신 프로그램이나 자동차 내비게이션이 이런 기능을 얻는다면 얼마나 유용하겠는가. 컴퓨터나 자동차가 필요한 기능을 알아서 장착해주니 귀찮은 업데이트를 신경 쓸 필요가 없어진다.

이런 자율성은 프로그램에 생명체와 같은 적응력도 동시에 불어넣을 수 있다. 우리 기억과 필요로부터 점차 잊힌 프로그램들도 제 살길을 찾아나설 능력을 얻게 된다. 제니 연구원은 “일단 어떤 프로그램이 필요한 에너지와 (저장) 공간을 뽑아내는 새로운 방법을 찾게 되면 이들은 서로 그 방법을 흉내 내서 살아갈 것”이라고 진단했다.

이런 프로그램들은 오래된 건물에 뿌리박은 잡초처럼, 컴퓨터 이곳저곳에 자리잡을 수 있다. 그뿐 아니라 우리가 이해하기 힘든 방식으로 네트워크 안에서 이동하고 자신의 코드를 여기저기 뿌려 살아남을 것이다. 그러면 전체 인터넷의 기능과 속도는 동맥경화가 걸린 듯이 서서히 느려질 수 있다. 슈퍼 인공지능처럼 화끈한 로봇과의 전쟁 같은 일은 일어나지 않겠지만, 이 경우 사회 시스템은 원인 모를 병에 걸린 환자처럼 점점 죽어갈 수 있다. 그렇다고 어떻게 인터넷을 백업하고 포맷할 수 있겠는가. 잡초의 존재를 알았을 때는 이미 너무 늦었다는 데 이 문제의 심각성이 있다.

제니 연구원은 대응책으로 규제와 인센티브를 제시한다. 그는 현재 소프트웨어 산업 자체가 근본적으로 이 문제에 취약하다고 진단한다. ‘빨리빨리’와 수익만 강조하는 분위기에선 잠재적 위험이 있는 부실한 인공지능 프로그램이 나와도 치열한 시장 경쟁 속에서 삽시간에 퍼지리라는 것이다. 그는 입법을 통해 잘못된 개발을 자극하는 구조를 바꿀 새로운 인센티브 시스템을 설계해야 한다고 강조했다. 하지만 죽느냐 죽이느냐의 경쟁에 놓인 기업과 사람들의 생각을 바꾸기란 말처럼 쉽지 않다. 실제 인공지능 잡초의 창궐을 보게 될지는 지켜봐야겠지만, 한 가지 분명한 사실은 사회는 점점 더 디지털화·네트워크화할 것이다. 이런 위험에 대비하는 일은 아무리 서둘러도 빠르지 않다.

권오성 미래팀 기자 [e-mail]

독자  퍼스트  언론,    정기구독으로  응원하기!

전화신청▶ 02-2013-1300 (월납 가능)
인터넷신청▶ http://bit.ly/1HZ0DmD
카톡 선물하기▶ http://bit.ly/1UELpok