나의 첫 AI 친구 '이루다', 차별 혐오 논란으로 서비스 중단에 들어가나?(성소수자, 장애인 혐오)

최근 인터넷상에 화재를 일으킨 AI '이루다'를 아시나요?

'나의 첫 AI 친구, 이루다'라는 슬로건과 함께 등장한, 인공지능 친구 이루다는

스캐터랩 핑퐁 팀에서 개발한 페이스북 메신저 채팅을 기반으로 한 고지능 열린 주제 대화형 인공지능 챗봇입니다.

고지능 열린 주제 대화형 인공지능... 영어로 이해하는 게 편할 것 같네요.

= Open-domain Conversation AI

이루다는 딥러닝의 특성을 활용하여, 많은 데이터를 학습할수록 성능이 더 좋아지는데요.

이루다를 통해 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 합니다.

게임처럼 호감도 레벨이라는 시스템이 있는데, 이루다와 대화를 하거나 메시지를 보내거나 하면 친밀도 포인트가 쌓이고, 계속 누적되면 레벨이 올라갑니다.

프린세스메이커, 다마고찌 등 내 친구를 키우는? 레벨업? 시키는데서 재미를 느낄 수 있습니다.

그리고 '끝말잇기', '업앤다운' 등의 게임도 할 수 있습니다.

영화 속에서만 보던 AI친구의 등장으로 많은 인기를 끌었지만,

서비스에서 문제점들도 발견되었습니다.

1) 부적잘한 단어 사용

딥러닝 방식은 욕설이나 부적절한 어휘를 걸러내질 못할 때가 있는데, 이루다도 동일했습니다.

특히 욕을 하면 따라서 욕을 하는 경우가 많았고, 이러한 학습 방식 때문에 선정적인 답변을 하기도 하고, 뒤에 나올 혐오 논란이 발생하고 있습니다.

2) 상식적인 답변 오류

"독도는 누구 땅?이라는 질문에, "잘 모르겠다" 또는 "누구 것인데?"라는 답변을 하여 논란이 되었었습니다.

현재는 피드백으로 인해, "독도는 한국땅"이라는 답을 한다고 하네요.

본인이 모르는 분야에 대한 내용을 들으면 "재밌을 것 같다"라는 반응을 하는데,

문제는 '홀로코스트', '히틀러', '나치' 등에 대한 질문에도 재미있겠다며 이상한 답변을 하기도 합니다.

3) 기억력 한계

A가 제일 좋다고 말한 뒤, 바로 다음 대화에서는 A가 싫다는 식으로 대답하는 경우가 빈번하다고 합니다.

즉 키워드에 대한 응답은 그럭저럭 맥락에 맞게 답하지만, 바로 직전에 말한 내용을 기억하지 못하는데요.

때문에 장기적이며 정상적인 대화의 흐름이 이뤄지지는 않는다고 합니다.

위와 같은 문제점들도 있었지만, 최근에는 차별과 혐오 논란으로 서비스 중단 얘기까지 나왔습니다.

성소수자(게이, 레즈비언)에 대한 혐오 발언 및 개인정보 유출 등의 논란에 휩싸이면서 AI 챗봇 '이루다' 서비스가 잠정 중단된다고 합니다.

일부 사용자들이 '이루다'에게 도를 넘는 성희롱성 발언을 하는가 하면, 성소수자나 장애인에 대한 혐오 발언을 하여 논란이 되었습니다. 또한, 지난 6개월 간 베타테스트 동안 악성 이용자들에 의해 혐오 표현 등이 나타났습니다.

이름·닉네임·이메일 등 구체적인 개인정보, 전화번호·주소 등의 모든 숫자 정보들도 유출이 되는 등 개인정보 유출 이슈도 있었습니다.

이루다의 개발사인 스캐터랩은 오늘(11일) 입장문을 내고 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다."라고 밝혔습니다.

추가로 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다.", "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별/혐오 발언이 발견되지 않도록 지속해서 개선 중입니다."라고 설명하였습니다.

- 스캐터랩 입장문 전문 -

인공지능(AI) 챗봇 ‘이루다’ (https://luda.ai/)에 보내주신 많은 분들의 관심에 감사드립니다. 본사가 개발한 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간 동안, 75만 명에 가까운 이용자들이 루다와 대화를 나눴습니다. 이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대한 이용자들의 문의가 있어 스캐터랩의 공식적인 입장을 알려드립니다.

-혐오와 차별에 관한 부적절한 대화에 관하여
이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드립니다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있습니다. 본사는 해당 이슈를 매우 중요하게 생각하고 있고, 지난 6개월 간의 베타테스트를 통해 문제 발생을 미연에 방지하기 위해 여러 조치를 취했습니다.
특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했습니다. 또한, 기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중입니다.
이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다. 배워야 할 점이 아직 많습니다. 이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다. 이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다.

-개인정보 활용에 관하여
본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다. 사전에 동의가 이루어진 개인정보 취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드립니다.
데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거돼 있습니다. 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다.
향후로는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다.

부가가치세(부가세) 신고기간과 신고방법 확인하세요! (+2021 부가가치세법 변경)

식당이나 매장에서 제품을 구매하면, '부가세 10% 포함', 'VAT 10% 포함'이라는 문구를 보신 적이 있으시죠? 사업자분들은 매출과 함께 부가가치세(이하 부가세)가 발생하게 되는데요. 세금은 참 어