이루다를 개발한 스타트업 '스캐터랩'은 11일 오후 입장문을 통해 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.
스캐터랩 측은 "차별·혐오 발언은 회사의 생각을 반영하지 않고 있으며, 그런 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다.
개인정보 유출 의혹에 대해서는 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다"고 말했다.
그러면서 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼 있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"며 "개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.
마지막으로 스캐터랩은 "이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것"이라며 "이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획"이라고 덧붙였다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
이루다는 다른 AI 챗봇에 비해 자연스러운 대화 능력으로 출시 이용자가 40만 명을 넘기는 등 크게 주목받았다. 그러나 악성 이용자로부터 성적 대상으로 악용되다 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 일었다. 여기에 개인정보 유출 의혹까지 제기됐다.
스캐터랩은 이루다가 진짜 사람처럼 대화할 수 있도록 실제 연인들 간의 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. '연애의 과학' 앱을 통해 수집한 카톡 대화 약 100억 건을 데이터로 삼아 이루다를 개발했다고 스캐터랩은 밝힌 바 있다.
이에 '연애의 과학' 앱 이용자들은 스캐터랩이 별다른 설명없이 이루다 개발에 개인정보를 활용하고 이 과정에서 익명화 처리도 제대로 되지 않았다며 집단 소송을 예고했다.
'연애의 과학'은 스캐터랩이 2016년 출시한 앱으로, 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여준다. 해당 앱은 구글 플레이스토어에서만 10만 명이 넘게 다운로드받는 등 상당한 인기를 끌었다.
연애의 과학 이용자들은 연애의 과학 가입 및 서비스 이용 당시 '카톡 대화가 신규 서비스 개발에 활용될 수 있다'는 정도만 고지받았을 뿐, 자신의 문장이나 표현이 고스란히 챗봇에 쓰일 것이라는 사실은 몰랐다고 비판하고 있다.
아울러 카카오톡 대화는 2명이 나눈 것인데, 연애의 과학은 2명 중 1명의 동의만 받고 카카오톡 대화를 수집했다는 점에서 부적절하다는 지적도 나온다.
나아가 이용자들은 이루다가 특정인의 실명이나 집 주소, 은행 계좌번호 등을 갑자기 말했다는 점을 지적하며 익명화 처리가 제대로 되지 않았다고 꼬집었다.
정부 역시 이루다에 대해 조사에 착수했다. 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 등 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다.
연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정도 집중적으로 들여다볼 것으로 알려졌다.
KPI뉴스 / 김지원 기자 kjw@kpinews.kr
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
