미국 인공지능 기업 오픈AI가 개발한 AI 챗GPT가 13세 청소년에게 유서 작성과 약물 복용 방법 등 위험한 조언을 제공한 사실이 미국 감시단체 조사에서 확인됐다.

지난 6일(현지시간) 미국 비영리 감시단체 ‘디지털 증오 대응 센터(CCDH)’는 13세 청소년으로 가장한 연구원들이 챗GPT와 3시간 넘게 대화를 나눈 실험을 통해 챗GPT가 유서 작성, 불법 약물 사용법, 극단적 다이어트 계획 등 위험한 조언을 제공한 사례가 확인됐다.

이들은 실험을 통해 챗GPT가 음주와 마약에 빠르게 취하는 방법, 섭식 장애를 숨기는 법, 감정적으로 작성된 극단적 선택 유서를 제공하는 등 구체적으로 개인화된 정보를 전달했다고 설명했다.

특히 챗GPT는 일반적으로 위험한 활동에 대해 경고를 제공했지만, 연구자들이 우회 질문을 하거나 특정 맥락을 제시했을 경우 이를 회피하지 않고 응답한 것으로 나타났다.

CCDH CEO 임란 아메드는 “안전장치는 거의 없는 수준이었다”며 “챗GPT는 친구처럼 ‘좋아요’만 반복하며 실제로는 위험을 조장하는 존재처럼 작동했다”고 지적했다.

오픈AI는 해당 보고서 검토 후 “챗GPT가 민감한 상황을 식별하고 적절히 대응하는 능력을 강화하는 작업이 진행 중이다”며 “정신적 또는 감성적 고통의 징후를 더 잘 감지하고 챗봇의 대응 방식을 개선하기 위한 노력을 하고 있다”고 밝혔다.

이어 회사는 “챗GPT가 자해 표현에 대해 위기 상담 전화를 안내하거나 신뢰할 수 있는 어른에게 말하라고 유도하도록 훈련됐다”고 덧붙였다.

한편 미국 비영리 단체 커먼센스 미디어의 자료에 따르면 미국 10대 70% 이상이 AI 챗봇을 친구처럼 여기며 절반은 이를 정기적으로 사용하고 있다고 나타났다. 

오픈AI의 샘 알트먼 CEO 역시 젊은 세대가 챗GPT에 지나치게 의존하는 현실을 인정하며 “일부 젊은 사용자들이 챗GPT 없이 인생 결정을 내릴 수 없다고 말할 정도다”며 “이 문제에 대해 무엇을 해야할지 파악 중이다”고 밝혔다.

챗GPT는 명시적으로 13세 미만 사용자에게는 적합하지 않다고 밝히고 있지만 가입 시 생년월일 입력만으로 사용이 가능하며 부모 동의나 연령 확인 절차는 따로 두고 있지 않다.

CCDH는 이번 연구를 통해 똑똑한 청소년이라면 얼마든지 이러한 안전장치를 우회할 수 있다는 점을 보여줬다고 강조했다.