'여성차별·동성애혐오' 논란 '이루다' 사건 인권위 진정

[이데일리 이소현 기자] 여성 차별과 성소수자 혐오발언을 학습해 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 사건과 관련해 시민단체가 국가인권위원회(인권위)에 진정을 제기했다.

민주사회를 위한 변호사모임 디지털정보위원회 등은 3일 “이루다 사건은 개별 인권침해 사안일 뿐만 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안”이라고 밝혔다. 단체는 인권침해와 차별 진정은 물론 정책권고를 요청하는 취지의 진정과 정책권고 제안서도 인권위에 접수했다.

인공지능 챗봇 이루다

이들은 이루다 챗봇 사건을 국가에 의한 인권침해로 규정했다. 단체는 “국제 인권규범에 따르면 인권침해에 국가가 적절한 보호조치 등을 취하지 않은 경우를 국가 등에 의한 인권 침해를 구성하는 것으로 해석하고 있다”며 “이루다 챗봇 사건은 국가 등에 의한 제도적 보호의 부재를 여실히 드러낸 사안으로 근본적으로는 국가에 의한 인권침해에 해당한다”고 주장했다.

인권위가 다른 나라들과 달리 현재까지 AI 관련 정책 등에 대해 특별한 대응을 하지 않고 있는 상황도 지적했다.

단체는 “UN(유럽연합)은 AI 기술 활용으로 인한 프라이버시 및 표현의 자유 침해를 방지해야 할 국제인권규범상 국가의 보호의무를 강조하며 영향 평가제도, 감사제도 등 구체적인 제도를 수립하고 정보주체의 권리를 보장할 것을 권고하고 있다”며 “호주와 네덜란드 등 해외 국가인권기구들은 적극적 AI 규제의 법제화 제안, 정책권고 등 AI 기술에 따른 인권침해와 차별을 막기 위한 적극적인 조처를 하고 있다”고 설명했다.

그러면서 “인권위는 공적 보호의 부재로 인한 인권침해 상황을 엄중히 인식해야한다”며 “신속히 관련 정책을 인권의 관점에서 점검해 권고를 내리는 등 인권위의 역할을 다해야 할 것”이라고 강조했다.

단체는 이루다 챗봇 사건과 관련한 정책을 개선하기 위한 권고도 제안했다. △사적주체도 대상에 포함하는 실효성 있는 영향평가제도 구축 및 감사제도 도입 △AI에 의한 차별을 규율하기 위한 기반으로서 평등법의 제정 △프로파일링 및 자동화된 의사결정 거부권 등 정보주체의 권리 보장 △개인정보보호법상 가명정보 및 동의제도에 관한 규정 정비 및 구제절차 보장 △AI 기술의 활용에서 기업 등이 준수해야 할 가이드라인 개발 및 보급 등이다.

단체는 “이루다 챗봇으로 드러난 AI, 알고리즘의 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 엄연히 국가 등의 적절한 보호조치를 통해 예방·방지해야 한다”며 “인권위에 제기한 진정 및 정책제안서가 AI 등 신기술로 인해 발생할 수 있는 인권침해와 차별의 위험성을 방지하고, 정보주체의 권리를 확인하는 계기가 되길 바란다”고 말했다.