1. 생성형 AI에 대한 정서적 의존 위험

2. 주요 사례 및 쟁점
  (1)주요 사례 및 쟁점
  (2) 쟁점

3. 국내외 입법 현황
  (1) 한국과 EU의 AI법
  (2) 미국 개별 주의 사람과 상호작용하는 AI 규제법

4.입법적 과제
 

최근 미국에서 생성형 AI와 대화를 나눈 10대 청소년이 현실과 망상을 구분하지 못하고 극단적 선택을 했다. 이처럼 인간이 생성형 AI와 정서적 관계를 형성하고 과도하게 의존하는 현상이 발생하면서 생성형 AI를 실제 사람이나 신뢰 가능한 주체로 오인하고, 현실 판단이 약화되며, 부적절한 선택을 하는 등의 위험이 발생할 수 있다. 이에 대응하기 위해 ①대화 상대방이 생성형 AI임을 인지하도록 하고, ②위험한 대화에 대응하는 프로토콜을 마련하며, ③‘영향받는 자’ 보호를 강화하는 등의 입법적 대안 모색이 필요하다.