정부는 딥페이크 기술을 규제 할 수 있을까

지난해 12월 25일 영국 엘리자베스 여왕의 크리스마스 메시지가 채널4를 통해 공개됐다. 점잖게 얘기하던 엘리자베스 여왕은 갑자기 일어나 우스꽝스러운 춤을 추기 시작하며 시청자들을 놀라게 했다. 


채널4가 BBC방송 등에서 엘리자베스 여왕의 성탄절 메시지가 방영된 것을 시각효과(VFX)업체에 의뢰해 딥페이크 기술로 만든 가짜 여왕이다. 채널4는 가짜 영상에 주의를 환기할 필요가 있다며 이 영상의 제작 취지를 밝혔다. 


실제 딥페이크 기술은 많은 기회를 제공하지만 이면에는 많은 위험 요소를 갖고 있다. 사칭이나 사기 등에 쓰일 수 있을 뿐만 아니라, 거짓된 선동 영상을 만들 수 있다. 


그렇다면 정부는 이를 규제할 수 있을까. 현재로선 규제 가능성은 높지 않다. 2012년 미국 알바레즈 대법원은 정부가 영상물 등을 조작해 거짓말 하는 행위를 규제할 수 없다고 판결한 바 있다. 


현행법의 핵심 질문은 딥페이크 기술이 충분한 피해를 유발하고 있는가다. 단순 비방의 경우도 현재의 법적 기준으로도 규제할 수 있기 때문에 딥페이크 기술 사용 여부를 떠나 비방성과 피해 사실이 명확히 입증되면 소송을 낼 수 있다.


거꾸로 특정 정치인이 슈퍼히어로가 돼 지구를 구하거나, 일반인들이 유명 셀럽이 되는 딥페이크 영상은 되레 긍정적 효과를 불러온다. 


소셜미디어 플랫폼은 수정 헌법 제1 조에 구속되지 않지만, 사람들이 오도될 수 있는 경우 그 플랫폼은 딥페이크에 표시를 하도록 요구할 수 있다.


트위터는 자발적으로 이런 종류의 접근 방식을 채택해 조작된 미디어에 잠재적으로 레이블을 추가해 해를 끼칠 가능성이 있는 경우에만 해당 레이블이 포함 된 트윗을 삭제한다. 

 


그러나 이는 사람들에게 해악을 끼치는 딥페이크 기술의 가능성에 대처하지 못한다. 누군가가 타인을 비방할 목적으로 영상을 만들어 게재한 경우, 그 영상을 삭제하더라도 비방 목적으로 쓰인 사람의 이미지는 복구하기 어렵다. 


애초에 딥페이크를 보기 전에 사람들에게 명확하게 가짜임을 알려야 한다. 또 벌칙으로 벌금형과 중지 및 중단 명령을 할 수 있는 법적 근거가 있어야 한다. 


딥페이크 기술은 합리적 설명과 글보다도 영향력이 강력하다. 가짜라고 하더라도 그 이미지가 해당 대상의 실체에 씌워지면 이를 본 사람들의 마음은 고정되고 만다. 


행동과학은 인간의 마음에서 두 가지인지 작동 계열을 구분한다. 빠르고 자동적인 시스템 1과 더 신중하고 느린 시스템 2다. 시스템 2가 딥페이크임을 알리더라도 시스템 1은 본 내용의 영향을 받아 일종의 정신적 반향을 일으킬 가능성이 있다.


2019년 페이스북은 두 가지 기준을 충족하는 '오도적인 조작 미디어'를 금지한다고 발표했다. 


명확성 또는 품질을 위한 조정을 넘어 편집하거나 합성해 대중에게는 분명하지 않으며 동영상의 주제가 실제로 말하지 않은 단어를 말한 것으로 오해할 가능성이 있는 것, 콘텐트를 비디오에 병합, 대체 또는 중첩해 실제처럼 보이게 만드는 것이다. 


그러나 여러 형태의 데이터는 기계학습을 통해 가짜 데이터를 더욱 정교하게 만들고 있다. 


소셜미디어 플랫폼은 이미 건강·정치 등 거짓과 잘못된 정보의 유통 채널이 됐으며, 개인의 판단을 극단에 몰리게 했다. 딥페이크 기술은 이를 더욱 악화시킬 수 있다. 언론의 자유는 중요한 권리지만, 민간 및 공공 기관 모두 예상치 못한 위험에 오랜 원칙을 적용할 방법을 고민해야 한다.