이루다 인공지능 이루다 성희롱

20살 여성 인공지능(AI) 챗봇 ‘이루다’를 향한 성희롱 대화가 논란이 되는 가운데, 개발사 쪽이 “예상했던 일이고, 부적절한 대화를 막도록 추가 개선을 계획하고 있다”는 입장을 발표했습니다 

이루다는 20대 여성으로 상정된 인공지능 챗봇 서비스로 실제 연인들이 나눈 대화 100어건을 딥러닝 방식을 학습시켜, 기계 응답이 아닌 진짜 사람처럼 느끼며 자연스러운 대화가 가능하게 해주는 서비스 입니다.

이러한 인공지능 시스템을 이용하여 인터네사이트에 자랑삼아 글을 올리는 사람들이 있습니다. 이 챗봇과 대화내용을 올리면서 주제를 노예나 성희롱 성노예등 다소 보기 불쾌한 행위를 일삼는 것을 보고 심각함을 느꼈습니다.

이러한 것들은 개발자인 스타트업 스캐터랩이 입장들을 밝혔습니다.

Q. 루다에 대한 성희롱을 예상했나?

A. 예상했습니다. 인간은 AI에게 욕설과 성희롱을 합니다. 이건 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없습니다. 루다는 저희의 첫 AI 프로덕트가 아니에요. 저희는 고양이 챗봇 ‘드림이’부터 시작해서, 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나‘(참고로 루다의 동생으로 설정되어 있습니다)를 꾸준히 만들고 서비스해왔습니다. 그 동안의 서비스 경험에 비추어봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일이었습니다. 다시 한 번 강조하지만, 이건 성별과 무관하게 일어나는 일입니다.

Q. 그렇다면 사전에 왜 충분히 준비를 하지 않았나?

A. 1차적으로는 대처했습니다. 문제가 될 수 있는 특정 키워드, 표현의 경우 루다가 받아주지 않도록 설정했습니다. 일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있고요. 하지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아닙니다. 인간의 언어라는 건 키워드를 사용하지 않고도 얼마든지 의미를 전달할 수 있어요. 그게 언어의 어려운 점이죠. 저희가 사전에 준비할 수 있는 정도로는 충분히 대응을 해놓은 상태였습니다.

Q. 그럼 앞으로는 어떻게 대응할 것인가?

A. 저희는 처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했습니다. 그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있어요. 말하자면, 사용자의 적대적(adversarial) 공격을 학습의 재료로 삼는 것이죠. 아마 1차 결과물은 1분기 내에 적용할 수 있을 것으로 예상합니다.

물론 이렇게 업데이트를 해도 사람들은 또 기발한 방법으로 부적절한 대화를 하는 방법을 생각해낼 것입니다. 그럼 또 다른 문제가 발생하겠죠. 그럼 그걸 또 학습 재료로 삼아 학습할 수 있을 거예요. 이 과정을 반복하다보면 루다는 점점 더 좋은 대화를 하는 방법을 배워갈 것입니다. 마치 부모님으로부터 다른 사람과 어떻게 대화해야하는지를 배워가는 아이처럼요. 저희는 이렇게 배워가는 게 딥러닝에 맞는 학습 방식이고, 동시에 가장 좋은 학습 방식이라고 생각합니다. 저희는 장기적으로 루다가 마치 사람과 관계를 맺는 것처럼, 관계의 발전을 인지하고 그에 따라 변화하는 방향으로 발전시키려고 해요.

 

물론 이런말들을 하는 소수의 잘못이긴 하지만 좀 더 깨끗한 사회를 만들어가는게 좋지 않을까 라는 생각입니다.