미 대선으로 인해 딥페이크(Deepfake)가 다시 한 번 주목을 받았다. Deepfake의 기만 기술을 표정 변화, 헤어 변화 심지어 립싱크까지 지원한다. 이미 육안으로 감지할 수 없는 수준에 도달했다. 이 기술은 원래 가짜 포르도 비디오를 만드는 데 널리 사용되었기 때문에 학계와 기업이 공동으로 딥페이크 탐지도구를 개발하기 시작했다.
최근 마이크로소프트는 두 가지 딥페이크 탐지 기술을 도입했는데, 이 목적은 허위 정보의 위협으로부터 미국 선거를 보호하는 것이다.
정치에 대한 잘못된 정보가 최근 몇년 간 SNS 상에 넘쳐났다. 최근 연구결과에 따르면 203년부터 2019년까지 SNS 상에 총 96건의 정치 캠페인이 시작되었으며, 이 중 대부분은 정치인의 명예를 훼손하고 대중을 오도하며 논쟁을 유발하고 있는 것이었다.
관련된 30개 이상의 국가 중 미국이 26%를 차지하고 그 밖에 호주, 브라질, 캐나다, 프랑스, 독일, 네덜란드, 폴란드, 사우디 아라비아, 우크라이나, 영국 등도 포함되어 있었다.
중요한 것은 이러한 캠페인의 93%가 독창적인 콘텐츠이고 86%가 기존 콘텐츠의 재생산이었으며 74%는 사실 왜곡이었다. 이 밖에도 코로나19 바이러스 대유행에 대한 유언비어도 난무하기 시작했다.
딥페이크의 출현과 발전은 다시 한 번 거짓 정보를 생성하는데 더 편리하다. 유튜브에는 트럼프, 오바마, 엘론 머스크 등과 같은 유명 정치인의 딥페이크 비디오가 범람하고 있다.
이와 관련하여 마이크로소프트는 최근 새로 개발한 딥페이크 탐지 도구가 사용자가 허위 정보를 효과적으로 식별하는 데 도움이 될 수 있다고 발표했으며 현재 미국 대선 기간 허위 정보의 위협으로부터 보호하기 위해 여러 미디어와 협력하고 있다.
“민주주의를 방어하기 위해 마이크로소프트, 딥페이크 탐지 도구 출시”
딥페이크 탐지는 마이크로소프트의 “Protect Democracy” 프로그램의 일부다. 이 프로그램은 2018년 부터 널리 사용돼 온 “Election Guard, Accout Guard, Microsoft 365 for Campaigns 및 Election”과 같은 많은 기술을 연속적으로 출시했다.
위 기술 외에도 딥페이크는 발생할 수 있는 정치적 위협에 대한 두 가지 최신 탐지 기술을 개발했다. 기술 중 하나는 Video Authenticator로, 비디오 재생의 각 프레임을 원본 이미지와 실시간으로 비교하고 데이터 분석을 제공할 수 있으며, 육안으로 감지할 수 없는 미묘한 차지까지 감지해낸다.
이 외에도 마이크로소프트가 출시한 또 다른 기술은 정보 출처에서 위조된 내용을 제거하는 것이다. 마이크로소프트는 관련하여 아래와 같은 입장을 표명했다.
“장기적으로 우리는 SNS 정보의 진위를 유지하고 증명할 더 강력한 방법을 찾아야한다. 현재 인터넷에서 보는 정보가 신뢰할 수 있고 변조되지 않았음을 확인하는 데 도움이 되는 도구는 거의 없다. 우리가 오늘 발표할 기술은 조작된 콘텐츠를 감지할 뿐만 아니라 사람들이 보는 미디어가 실제라는 것을 보장한다.”
[원문 출처 : 보안내부참고 / 9.3.]
댓글을 남겨주세요
로그인 후 댓글을 작성할 수 있습니다.