AI 기술의 발전으로 점점 더 성숙한 AI 기술이 허위 정보 활동에 사용되고 있다. 딥페이크 비디오, 오디오, 이미지 및 생성된 텍스트는 개인, 사회 및 국가안보에 위협이 된다. 이를 위해 7월 6일, RAND 연구소는 정책입안자들에게 딥페이크의 위협에 대한 그림을 제공하는 것을 목표로 하는 “AI, 딥페이크 및 허위정보”라는 이름의 보고서를 발표했다.
보고서는 딥페이크 비디오, 오디오, 이미지 및 텍스트 생성을 위한 기반 기술 및 관련 AI 기술과 딥페이크 탐지 및 대응 기술의 발전을 분석하고 정책입안자에게 권장사항을 제공한다.
해당 보고서는 아래와 같은 내용으로 구성되어 있다.
- 딥페이크 콘텐츠의 4가지 카테고리 : 비디오 / 사운드 / 이미지 / 텍스트
- 딥페이크의 위협 및 그 사용에 영향을 미치는 요소 : 위협(선거조작, 사회분열 심화, 정부기관에 대한 신뢰 감소, 정보출처의 신뢰성 저하), 딥페이크의 대규모 사용을 제한하는 요소(전문 요구사항, 감지되거나 우회될 수 있는 많은 수의 훈련 데이터 필요)
- 대응 및 권장사항 : 탐지기술에 대한 투자 및 개선, 탐지기술 표준 및 방법 수립, 규제 조치 및 형법 제정, 새로운 OSI 기술도구 개발, 미디어 활용능력 향상 등
- 논평
[출처 : 中 보안매체 / 7.25.]
