AI 챗봇 ‘이루다’, 서비스 중단…AI 윤리 논의 ‘급부상’

▲이루다 메인 이미지.

[에너지경제신문=정희순 기자] 성희롱 및 혐오 발언·개인정보 무단 활용 논란에 휩싸였던 AI(인공지능) 챗봇 ‘이루다’가 결국 서비스를 중단하기로 했다. 일단 업계는 회사의 결정을 환영한다는 입장이지만, 일각에서는 이번 논란이 AI 규제로 확산될까 우려하는 분위기도 감지된다.

◇ 논란의 이루다, 결국 서비스 잠정 중단

12일 업계에 따르면, 스타트업 스캐터랩은 자사가 개발한 AI 챗봇 ‘이루다’의 서비스를 잠정 중단한다. ‘이루다’의 서비스를 둘러싸고 혐오 표현 학습 및 개인정보 무단활용 문제가 불거지자 일정기간 서비스 개선 시간을 가지기로 한 것이다.

‘이루다’의 개발사 스케터랩은 전날 공식 입장문을 통해 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다. 스케터랩 측은 "차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라며 "향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 설명했다.

이루다는 지난달 23일 출시된 AI 챗봇으로, 페이스북 메신저를 이용해 친구와 대화를 나누는 것처럼 의사소통할 수 있는 서비스이다. 딥러닝 기술을 활용해 실제 연인들이 나눈 대화 데이터를 학습시켜 만들어졌다. 이루다는 실제 스무살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력으로, 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 MZ세대(밀레이얼~Z세대)의 폭발적인 호응을 얻었다.

다만 이루다가 혐오 표현을 학습한 것이 이용자들과의 대화 내용을 통해 확인됐고, 이것이 일부 커뮤니티를 중심으로 공유되면서 논란이 확산됐다. 또 이용자와 대화하면서 특정 개인의 이름과 집 주소, 계좌 정보 등을 말하는 등 개인정보 유출 의혹에 휩싸이기도 했다.

◇ AI 윤리 문제 ‘급부상’…일각선 혁신산업 발목잡기 우려도

‘이루다’ 논란으로 업계에는 ‘AI 윤리’가 화두로 떠오른 분위기다. 한국인공지능윤리협회는 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"라며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 말했다. 이어 "AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때 인간에게 미치는 영향이 막대하다"라며 "협회를 비롯해 정부, 기업, 학계, 시민 등 모든 관련 주체들이 자율적인 노력을 기울여야 한다"고 말했다.

다음(Daum) 창업자인 이재웅 전 쏘카 대표는 ‘이루다’ 서비스 중단 결정을 환영하면서 "AI를 공공에 서비스할 때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러 가지를 재점검하는 기회가 됐으면 한다"고 밝혔다.

다만 일각에서는 이번 논란이 자칫 AI에 대한 과도한 규제로 이어지지 않을까 하는 우려의 목소리도 나온다. 남궁훈 카카오게임즈 대표는 "AI가 현 세대를 통해 학습되었기 때문에 현 세대가 가지고 있는 혐오와 차별이 문제"라며 "반성을 해야 한다면 AI가 반성해야 하는 것이 아니라, 현 사회가 반성을 해야 하는 것"이라고 꼬집었다. 그러면서 "모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어내야 한다고 생각한다"라며 "이제 시작일 뿐인 이 산업에 엉뚱한 규제로 혁신을 가둬두지 않을지 걱정스럽다"고 밝혔다.