'이루다' 이후의 인공지능, 개인정보 처리 사전동의 실질화와 사후통제 강화의 조화를 통해 발전해야


□ 국회입법조사처(처장 김만흠)는 2월 15일(월), 「‘이루다’를 통해 살펴본 인공지능 활용의 쟁점과 과제」를 다룬 『이슈와 논점』보고서를 발간함

□ 인공지능 챗봇 ‘이루다’가 대화 도중에 차별·혐오 표현을 하여 출시 20일 만에 서비스가 전면 중단되었는데, 이를 인공지능의 안정적 활용과 발전에 필요한 대안을 마련하는 계기로 삼아야 할 것임

□ 가장 중요한 과제는 개인정보 처리의 사전동의와 사후통제의 조화임
○ 이루다 개발자가 연인들의 대화를 인공지능 기계학습에 활용하는 과정에서 「개인정보 보호법」의 사전동의를 형식적으로 거친 것이 문제가 될 수 있음
○ 앞으로 이러한 문제가 반복되지 않도록 사전동의 제도의 실효성을 높이고 사후통제를 강화하여 사전·사후 조치의 조화를 이룰 필요가 있음
○ 또한 개인정보 가명처리의 기준을 명확히 하고, 특히 비정형 개인정보의 가명처리와 재식별 방지에 관한 방안을 마련할 필요가 있음

□ 다음으로, 인공지능 윤리기준을 구체화할 필요가 있음
○ 인공지능은 사람들의 생각에 영향을 미치고 동시에 사람들의 반응을 지속적으로 기계학습하여 알고리즘을 수정하기 때문에 인공지능 개발자와 이용자 모두 인공지능 윤리를 준수하는 것이 중요함
○ 따라서 많은 사람들이 인공지능 윤리를 일상적으로 실천할 수 있도록 정부의 「인공지능(AI) 윤리기준」을 구체화하고 발전시킬 필요가 있음

□ 마지막으로, 적정 수준의 인공지능 학습데이터를 확보하여야 함
○ 인공지능의 경쟁력은 데이터에 있지만 국내 데이터 시장은 태동 단계이고, 특히 중소기업·스타트업의 학습데이터 확보 여건이 좋지 못함
○ 따라서 필요한 분야에 적정 수준의 인공지능 학습데이터가 제공될 수 있도록 단기적으로 정부의 노력을 강화할 필요가 있음

※ 자세한 내용은 보고서를 참고하여 주시고 담당자에게 문의하여 주시기 바랍니다.
담당자: 과학방송통신팀 정준화 입법조사관(02-6788-4715, joonhwa@assembly.go.kr)