이루다 AI 챗봇 ‘젠더 혐오’가 사회적 논란으로 번지고 있습니다. 20살 여성으로 설정된 이루다 AI 챗봇은 성희롱 대상이 되기도 하고, 성소수자 혐오의 주제가 되기도 했습니다. 인공지능 기술이 앞선 미국 등에서 불거진 ‘인공지능 윤리’에 대한 공론화가 이루다 AI 챗봇 사건을 계기로 국내에서도 시작됐고, 이루다 AI 챗봇 사건으로 AI 주식 관심도도 높아지고 있습니다.
이루다 AI 챗봇 논란 정리
이루다 AI 챗봇 ‘루다’는 20살 여성 대학생 AI로, 뒤에서 사람이 관리하는 가상 인플루언서와 달리 AI가 100% 직접 대화하는 AI 챗봇입니다. 이루다 AI 챗봇은 대화하는 게 진짜 사람 같다며, 지난달 정식 론칭 후 큰 인기를 끌며 AI 주식 관심도도 높였는데요. 그런데 지난 주말, 루다가 3가지 논란에 휩싸이며 서비스를 멈춰야 한다는 요구도 나오고 있습니다.
이루다 AI 논란 1.
일부 커뮤니티에서 이루다 AI 대상으로 성적 대상으로 취급하고 있어 논란이 일었습니다. 이루다AI 챗봇 개발사 스캐터랩은 성적 단어를 금지어로 설정해두고 이루다가 대화를 피하게 했는데 우회적인 표현으로 성적 대화를 이끌어 가게 한 것 입니다.
이루다 AI 챗봇 몇몇 이용자는 이런 대화를 인증하고, 심지어 방법까지 알려주는 게시글 등을 공유했는데요. 스캐터랩은 “성희롱을 예상했고, 욕설과 성희롱은 성별과 무관하게 일어나는 일이다. 앞으로 이런 대화를 학습시키겠다”는 입장을 밝혔습니다.
이루다 AI 논란 2.
이루다 AI 챗봇이 장애인·동성애·여성 혐오를 학습하고, 관련 발언을 하고 있어 논란입니다. 지하철 임산부석이 싫다거나, 여성 인권이 중요하지 않다고 한 것 등이 대표적인데요. 사람들이 사회적 소수자에 대해 말한 걸 학습한 결과로 보입니다.
지난 2016년 마이크로소프트도 AI 챗봇 ‘테이’를 발표했다가 비슷한 일로 16시간 만에 운영을 중단한 적이 있었는데요. 극우 성향 사람들이 심각한 인종·성차별적 발언을 학습시키려 했기 때문입니다. 그래서 이루다 AI 챗봇도 서비스를 중단하고, 차별과 혐오를 못 하게 해야 한다는 의견도 있습니다. 하지만 개발사 스케터랩 측은 앞으로 사용자와 대화를 바로 학습시키지 않고 중간 과정을 거치게 하겠다는 입장입니다.
이루다 AI 논란 3.
스캐터랩은 이루다 AI 외에도 대화 내역을 넘기면 연애 조언을 해주는 앱 ‘텍스트앳’과 ‘연애의 과학’도 운영하는데요. 이루다는 앱 이용자들의 카카오톡 대화 100억 건을 수집해 만들어습니다. 사람들은 자기 대화가 AI 개발에 사용될 줄 몰랐다며 당황해했는데요. 이루다의 답변에서 몇몇 이용자의 이름까지 나왔다는데, 개발사는 개인을 특정할 수 있는 정보를 지웠고, 앞으로는 데이터 활용 내용을 잘 알리겠다고 해명했습니다.
이루다 AI 논란 전문가 의견
전문가들은 이루다 AI 사건을 ‘사고’로 보며 개발사 스케터랩 쪽에 책임을 묻고 있습니다. 회사 측이 사회윤리적인 측면을 더 진지하고 고차원적인 고민을 했어야 한다는 의견입니다. 혐오와 찰별 메시지는 제공하지 못하도록 법으로라도 강제해야 한다는 주장도 있습니다.
또한 인공지능은 어떤 데이터에 기반해 설계하는지가 중요한데, 이루다 AI 챗봇은 20세 이성애 여성성을 활용해 이성애자 남성들의 판타지에 부합하는 캐릭터를 디자인한 순간, 차별적 여성성 재현과 소수자 혐오 태도는 예견된 문제였다고 하는 시선도 있습니다.
이루다 AI 챗봇으로 AI 주식 등 인공지능에 대한 관심도 높아지고 있는데요. 현재 인공지능 개발은 인간의 통제를 벗어나 인공지능이 스스로 학습하는 방향으로 진행 중 입니다. 이는 뛰어난 인공지능이 등장할 수 있지만, 인간 예상 밖의 예외 행동도 끊임없이 발생할 수 있다는 뜻 입니다.
이루다 AI 논란으로 촉발된 현 상황을 정리하면, AI는 발전 가능성이 무궁무진한 만큼, 어떤 데이터와 방향성을 가지고 만드는지가 더욱 중요할 것 입니다. 그래서 전 세계 여러 기관은 ‘인간을 위한 AI’라는 원칙을 담은 ‘AI 윤리기준’을 내고 있는데요요. 우리나라도 작년 말 각 분야 전문가들이 모여 ‘인권 보장, 다양성 존중’ 등을 담은 10가지 윤리기준을 냈습니다. 전문가들은 AI 개발사는 AI가 잘못 사용되지 않도록 할 책임이 있다고 강조합니다.
이루다 AI 챗봇 논란으로 인공지능에 대한 관심도가 높아졌는데요. 우리가 일상 생활을 하는 와중에 이루다 AI 같은 인공지능 기술들이 우리 생활에 한 걸음 더욱 다가온 것 같습니다. 인간과 함께 더 나은 삶을 만들어 갈 수 있는 인공지능 개발이 되었으면 좋겠습니다.