'성소수자·흑인 비하 논란' AI '이루다' 결국 폐기 처리

이루다. 페이스북 이루다. 페이스북

성희롱, 소수자 혐오, 개인정보 유출 등 숱한 논란을 낳았던 AI(인공지능) 챗봇 '이루다'가 출시 24일 만에 폐기 수순을 밟게 됐다.

이루다의 개발사 스캐터랩은 15일 "이용자들의 불안감을 고려해 이루다의 데이터베이스(DB)와 AI 딥러닝(컴퓨터가 스스로 학습하는 기술)에 사용된 모델을 전부 폐기하기로 했다"며 "현재 진행 중인 정부 조사에 성실히 임한 후 데이터를 삭제할 것"이라고 밝혔다.

AI에게 딥러닝 알고리즘과 데이터는 인간의 뇌에 버금간다. 이번 결정은 AI 이루다 로서는 사형선고나 마찬가지다.

데이터 삭제와 별개로 이루다 캐릭터 차제를 없앨지는 아직 개발사에서도 고심 중인 것으로 알려졌다. 설령 이루다라는 이름의 서비스가 재출시된다 해도 뇌를 갈아끼운 '동명이인'이 되는 셈이다.

이루다는 당초 페이스북 메신저를 통해 친근한 대화를 나누도록 설계됐다. 모바일 앱에서 수집된 연인 간 대화 1억 건을 학습해 실제 사람 같은 대화 능력을 가지게 됐다.

그러나 AI 이루다 역시 사회적 편견과 혐오를 넘어서지는 못했다. 20세 여대생으로 설정된 이루다는 성희롱에 무방비였고 성소수자와 흑인을 '질 떨어지고 징그러운' 존재로 인식했다.

여기에 개인정보유출 논란까지 터졌다. 이루다의 모태가 된 방대한 대화들을 확보·가공한 개발사가 대화 당사자들의 이름·주소 등 개인정보를 제대로 안 가린 채 다른 개발자들과 온라인으로 공유한 것.

투입되는 데이터가 많을수록 정교해지지만 동시에 치명적인 사생활 침해 위험도 커지는 AI 기술의 딜레마를 보여준 셈이다.

스캐터랩 관계자는 "이들 앱의 대화 정보는 이용자의 동의를 얻고 수집한 것이지만 논란이 된 만큼 원치 않는 사용자들은 따로 신청을 받아 개별적으로 데이터를 삭제하겠다"고 밝혔다.

관련기사

AD

경제기사

많이 본 뉴스

일간
주간
월간