스캐터랩 측 연인간 카카오톡 대화 내용 분석하는 ‘연애의 과학’ 데이터를 이루다에 제공해 사용자들 반발
인공지능(AI) 챗봇인 ‘이루다’
스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다.
이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다.
페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다.
하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다.
스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다.
또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다.
‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다.
몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다.
‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다.
이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다.
한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다.
이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다.
윤창수 기자 geo@seoul.co.kr
