- 유명 연예인 누드화보부터 일반인 사진 및 영상 합성까지 피해범위 확산
(시사캐스트, SISACAST= 김은서 기자)
AI 기술이 발달함에 따라 이에 따른 범죄 피해도 상상을 초월하고 있다. 특히 딥페이크를 통한 보이스피싱 및 성범죄 등이 늘어가면서 정신적 피해를 호소하는 이들도 늘어나고 있어, 이에 따른 조치가 필요한 상황이다.
딥페이크란 인공지능을 기반으로 활용한 인간 이미지 합성 기술을 말한다. 과거 인물의 사진이나 영상을 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 정교해졌다. 이로 인해 특정 인물 얼굴이나 신체 부위를 기존 사진·영상에 합성하는 AI 딥페이크 기반 음란물도 공공연하게 퍼져가는 상황이다.
방송통신심의위원회에 따르면 국내 딥페이크 기반 성적 허위 영상물에 대한 시정 요구 건수는 2020년 473건, 2021년 1913건, 2022년 3574건, 지난해 1~11월 5996건을 기록했다. 이는 지난 2021년과 비교하면 214% 증가한 수치다.
유명 배우의 얼굴을 합성한 누드 화보를 비롯해 최근에는 한 유명 이커머스 기업의 직원이 부하 직원의 SNS 사진을 무단으로 도용해 딥페이크 합성으로 음란 사진을 제작 및 유포한 일이 발생하는 등 일반인들을 대상으로 한 피해도 퍼져가는 상황이다.
한 보안 전문가는 “딥페이크 범죄 피해에 노출되지 않으려면 디지털 범죄 예방 수칙을 숙지하고 대비하는 것이 중요하다”라며 “페이스·딥보이스 기술은 보이스 피싱 등에 악용될 수 있으니 범죄가 의심될 경우 반드시 확인하고 경찰에 신고해야 할 것”이라고 말했다.
디지털성범죄 방지 위한 정책적 대응 필요
이달 초 방송통신위원회(이하 방통위)는 날로 증가하는 인터넷상의 불법촬영물 등 유통에 적극 대응하기 위해 불법촬영물등 유통방지 체계 강화 사업에 전년대비 14억 9000만원이 증액된 46억 6000만원을 편성했다.
인터넷 개인휴대기기 보급 및 인터넷 접속이 보편화됨에 따라 불법촬영물등이 정보통신망에서 빠른 속도로 확산될 수 있으므로 피해자 권익침해 최소화를 위해서는 지속적인 모니터링을 통한 삭제-차단 및 재유통 방지를 위한 증거자료 채증시스템 구축이 필수적이라는 의견에서다.
이에 방통위는 기존의 불법촬영물 모니터링 시스템에 메타버스 및 인터넷 1인방송에서 발생하는 휘발성음란정보* 모니터링을 위한 인력을 보강하고 증거자료 채증시스템을 개선하는 등 불법촬영물등 유통방지 체계를 강화했다.
아울러, 불법촬영물등 유통방지를 위해 ’20년부터 국가에서 개발하여 정보통신서비스사업자에게 보급해 온 불법촬영물등 비교식별기술*의 안정적 운영 및 신규사업자의 시스템 적용을 지원하기 위한 예산도 2024년도 신규사업으로 편성했다.
김홍일 위원장은 “디지털성범죄물은 피해자에게 회복불가의 피해를 주는 심각한 범죄이므로, 디지털성범죄물을 신속하게 차단하여 피해자의 피해가 최소화될 수 있도록 노력해야 한다”며 “금번 예산 증액으로 실시간 인터넷 방송에서 벌어지는 휘발성음란물에 대해서도 촘촘한 대응체계를 구축할 수 있을 것으로 기대된다”고 말했다.
국회에서도 딥페이크 피해 최소화를 위한 법안 발의가 진행됐다. 김승수 의원은 올해 초 국회는 딥페이크 영상, 음향 등 AI 기술을 이용해 만든 거짓 정보를 온라인에 게재할 경우 이용자들이 인지할 수 있도록 워터마크를 의무화하는 내용의 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’(정보통신망법) 개정안을 지난 12월 발의했다.
발의된 법안에 따르면, 정보통신망을 통해 공개되는 딥페이크 영상에 워터마크 표시를 의무화하고 이를 지키지 않을 경우 1000만원 이하의 과태료를 부과한다.
박성중 국민의힘 의원은 타인의 의사에 반해 사람의 얼굴‧신체 또는 음성을 대상으로 한 촬영물‧영상물 또는 음성물을 편집‧합성‧가공한 정보를 유통 금지하도록 규정했다. 이를 위반하고 다른 사람의 권리를 침해한 자는 7년 이하의 징역, 10년 이하의 자격정지 또는 5000만원 이하의 벌금에 처하도록 명시했다.
한편 딥페이크 식별 기술 고도화 및 컨텐츠 삭제 대응 조치도 중요하다는 의견도 많다. 실제로 딥페이크 기술을 활용한 음란물이 최근 3년 2개월간 9000건을 넘겼지만, 이러한 컨텐츠들이 삭제되는 비율은 5％도 채 되지 않는 것으로 나타났다.
지난해 과학기술정보방송통신위원회 소속 더불어민주당 민형배 의원이 방송통신심의위원회로부터 제출받은 자료에 따르면 불법 성적 허위 영상물에 대한 시정 요구는 2020년 6월부터 지난해 8월까지 총 9006건으로 집계됐다. 반면 삭제된 컨텐츠는 410건으로 약 4.6%에 불과했다. [시사캐스트]
