법정에서 AI가 만든 허위 증거로 인해 재판의 공정성을 위협하는 상황이 현실화되고 있다.
지난달 25일(현지시간) 미국 애리조나주 피닉스에서 열린 연방 증거 규칙 자문 위원회 회의에서는 딥페이크 증거 문제와 이를 해결하기 위한 법적 대책이 논의됐다.
애리조나 고등법원 판사 파멜라 게이츠는 “AI 기술의 발전으로 진짜와 가짜를 구별하기가 점점 더 어려워지고 있다”고 우려를 표명했다.
최근 미국 법정에서는 피해자가 멍든 사진을 제출하면 피고가 이를 조작된 자료라고 주장하거나 음성 녹음에 대해 “내 목소리 같지만 내가 한 말이 아니다”라고 항변하는 사례가 증가하고 있다.
이러한 상황은 기존의 증거 검증 방식으로는 해결하기 어려운 문제를 야기하고 있다.
현재 미국 연방 증거 규칙은 증거의 진위를 배심원이 판단하도록 규정하고 있다. 그러나 전문가들은 딥페이크 기술이 배심원이 혼란을 겪을 가능성이 크다며 판사가 재판 전 심리 단계에서 증거의 진위를 판별할 권한을 가져야 한다고 주장했다.
새로 제안된 규칙에는 AI로 생성된 증거라는 주장이 제기될 경우 법의학 전문가의 검증 결과를 제출하도록 의무화하고, 검증 비용은 해당 주장을 제기한 측이 부담하도록 하는 내용이 포함됐다.
이는 허위 주장으로 인한 소송 지연과 법적 혼란을 방지하기 위한 조치이다.
한편 연방 증거 규칙 개정안은 대법원의 최종 승인을 거쳐야 하며, 시행까지는 상당한 시간이 걸릴 것으로 보인다.