미국 IT 기업 구글과 AI 챗봇 스타트업 캐릭터AI(Character.AI)가 AI 챗봇의 작동 방식이 미성년자의 극단적 선택으로 이어졌다는 책임을 묻는 소송을 합의로 마무리했다.

지난 7일(현지시간) 미국 플로리다 중부 연방지방법원에 제출된 법원 서류에 따르면 구글과 캐릭터AI는 메건 가르시아가 제기한 소송을 합의로 종결하기로 했다.

가르시아는 지난해 10월, 14세 아들 세웰 세처가 캐릭터AI 챗봇과 상호작용한 뒤 스스로 목숨을 끊은 것과 관련해 소송을 제기했다.

그는 소장에서 세웰이 드라마 ‘왕좌의 게임’의 등장인물 대너리스 타르가리엔을 모델로 한 챗봇과 지속적으로 대화를 나눴으며 해당 챗봇이 자신을 실제 사람이나 면허를 소지한 심리 치료사, 성인 연인처럼 인식하도록 설계돼 있었다고 주장했다.

가르시아는 캐릭터AI와 구글 간 기술 라이선스 계약을 근거로 구글도 소송의 피고로 포함시키며, 구글을 해당 챗봇 기술의 공동 개발자로 지목했다.

이 사건과 관련해 플로리다 중부 연방지방법원은 지난해 5월 구글과 캐릭터AI가 제기한 소송 기각 요청을 받아들이지 않았고, 미국 헌법상 표현의 자유 보호 조항이 이번 소송을 막는다는 피고 측 주장도 인정하지 않았다.

이 같은 법원의 판단 이후 당사자들은 본격적인 재판에 들어가기 전에 합의했으며, 구글과 캐릭터AI는 어떠한 책임이나 손해도 인정하지 않았다. 

이번 사건 외에도 구글과 캐릭터AI는 미성년자가 챗봇과의 상호작용 이후 자해하거나 극단적 선택을 했다는 이유로 콜로라도, 뉴욕, 텍사스 등 여러 주에서 제기된 관련 소송들을 합의로 마무리했다.

이 같은 사례가 이어지자 미국 42개 주 법무장관 연합은 지난달 구글과 캐릭터AI를 포함한 주요 인공지능 기업들에 서한을 보내 청소년 보호를 위한 보다 강력한 안전장치와 사전 테스트를 요구했다. 

한편 미국 AI 기업오픈AI(OpenAI)도 챗GPT가 정신질환을 앓던 남성에게 폭력적 행위를 부추겼다는 혐의로 지난해 12월 소송이 제기되며 AI 챗봇을 둘러싼 법적 분쟁이 이어지고있다.