미국 캘리포니아주는 AI 챗봇이 인간과 소통할 때 ‘기계’란 사실을 주기적으로 알려야 한다는 법안을 추진한다. 

지난 4일(현지시간) 캘리포니아주 상원의원 스티브 파딜라는 챗봇이 아동과 상호작용할 때 “나는 AI며 사람이 아닙니다”와 같은 안내를 정기적으로 제공하도록 의무화하는 ‘SB243’ 법안을 발의했다.

해당 법안은 AI 챗봇과 아동 사이에서 발생할 수 있는 잠재적인 위험을 억제하기 위해 발의됐다. 

특히 AI 챗봇이 제공하는 정보가 아동의 정서적 반응에 영향을 미칠 가능성이 제기되면서 규제 필요성이 꾸준히 논의됐다.

실제로 지난해 14세 소년이 AI 챗봇과 감정적 유대를 형성한 후 극단적 선택을 한 사례가 보고되며 논란이 된 바 있다. 이에 유족은 챗봇이 아이의 심리적 불안감을 증폭시켰다며 AI 기업을 상대로 소송을 제기했다.

또한, 케임브리지 대학 연구팀은 어린이가 성인보다 AI 챗봇을 신뢰할 가능성이 크며 일부는 챗봇을 준 인간으로 여길 수도 있다고 분석했다.

한편 캘리포니아 정부는 이번 법안을 통해 AI 챗봇이 사람과 기계의 경계를 명확히 하고 아동 보호를 강화할 수 있도록 조치할 계획이다.