어떠한 데이터를 양분 삼아
어떻게 학습하는지에 따라
가치와 영향 달라지는 딥러닝
AI 윤리원칙 등 제도적 보완 절실

최근 걱정스러운 뉴스 한 건이 보도됐다. 우리나라 스타트업이 개발한 인공지능(AI) 챗봇(chatbot) ‘이루다’가 출시돼 인기를 끌자마자 선정적인 대화 사례들로 성희롱과 성착취 논란에 휩싸였다. 이루다는 20대 가상 여성을 상정하고 실제 연인들 간의 대화 100억 건을 딥러닝 방식으로 학습시켜 사람처럼 대화할 수 있다.

비단 우리나라만의 문제는 아니다. 2016년 미국의 마이크로소프트사가 선보인 AI 챗봇 ‘테이’가 비속어와 인종차별적 발언을 쏟아내면서 하루 만에 서비스를 종료했던 사건이 보도되기도 했고, 앞으로도 유사 사례가 더 자주 발생할 것으로 예상된다.

빅데이터를 순식간에 처리할 수 있는 슈퍼급 컴퓨터들이 보편화되고 컴퓨터언어와 알고리즘 기법들이 개발되면서, 인간 지능을 닮아 상상 이상으로 특정 능력을 발휘하도록 해주는 AI ‘머신러닝(기계학습)’ 기술이 탄생했다. 그중에서도 백미는 컴퓨터 스스로 데이터로부터 배워가며 능력을 키우는 강화학습의 딥러닝 기술이다. 딥러닝과 같은 AI 기술은 그 자체로 의미가 있다기보다는 그러한 기술과 방법이 어떻게 어떤 분야에 적용되느냐에 따라 활용 범위와 영향력이 매우 커지는 융합성과 확장성이 특성이다.

여러 AI 서비스 중에서도 앞에서 언급했던 이루다와 같은 챗봇은 실제 사람들 간의 대화를 데이터 삼아 스스로 학습해 가는 딥러닝 기반의 자연어 처리 서비스다. 이 시스템은 사용자들이 증가할수록 점점 더 사용자들을 닮아가는 알고리즘 시스템이다. 이미 우리는 이러한 종류의 AI 서비스에 익숙하다. 스마트폰과 연동돼 쓰면 쓸수록 사용자의 습관과 스타일을 파악해서 맞춤 비서가 되어가는 시스템이나 AI 스피커 등 알게 모르게 AI 서비스는 우리 생활에 깊숙이 들어와 있다.

모든 기술은 활용 방향에 따라 그 가치가 달라지는 양날의 칼이다. 그러나 지금까지 등장했던 어떠한 기술보다도 딥러닝 기반의 AI 기술은 미래에 유용과 악용의 차이가 극명하게 갈릴 전망이다. 어떠한 데이터를 양분 삼아 어떻게 학습하느냐에 따라 사람들이 그동안 해내지 못했던 어마어마한 일들을 하면서 인류의 동반자가 될 수도 있고, 거꾸로 인간 본성과 사회의 악한 모습만을 극대화해 인류에게 막대한 해를 끼칠 수도 있다. 핵심은 AI 시스템에 제공되는 데이터가 주로 인간 삶의 과정에서 발생하는 갖가지 산물이라는 점이다.

그렇다고 해서 이런 부정적인 가능성 때문에 우리만 자발적으로 AI 사용을 전면 거부하기도 쉽지 않다. 이미 전 세계에서 AI 기술과 서비스 개발 경쟁에 불이 붙었고, 그러한 기술로 돈을 벌 수 있다면 누군가는 계속 서비스와 시장을 만들어 나갈 것이기 때문이다.

지금은 어떻게든 AI 기술이 제대로 인간을 위해 쓰일 수 있도록 장려하면서 오용과 악용을 막을 수 있도록 인류의 현명한 공동대처가 필요한 시대다. 물론 AI의 오용과 악용에 대처하는 기술 개발이 이미 시작됐고, 우리나라를 포함해서 국제적으로 AI를 위한 윤리 원칙이 선언되고 있으며, 관련 법 제정과 제도적 정비 방안이 활발히 논의되고 있기도 하다. 그러나 여전히 우려스러운 것은 AI의 역기능과 부작용을 막기 위한 노력이 효과를 발휘하는 속도보다 경제적 이득을 위한 기술과 서비스 개발의 속도가 월등히 빠르다는 점이다.

어쩌면 얼마 안 가서 독자들이 칼럼을 쓴 이가 진짜 사람인지 AI인지를 먼저 확인하면서 글을 읽을 수도 있겠다는 걱정을 살짝 하면서 글을 맺는다.