가짜와의 전쟁 Detect deepfake
딥페이크 영상으로 인한 우려가 큰 가운데 그 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바라는 마음입니다.
딥페이크로 인한 사회적 우려가 해소되고 이 기술이 여러 방면의 산업에 콘텐츠로서 긍정적으로 적용되기를 바라면서 이 분야에 구글을 비릇한 여러 전문가 집단이 적극적으로 나서고 있습니다.
이른바 Detect deepfake 즉 가짜 감지 방법이라고 하는 툴들이 등장하고있기 때문에 피해를 최소화 하거나 진실을 왜곡하는데 휘말리지 않기 위한 수단으로 활용 할만한 온라인 플랫폼이 등장하고 있습니다.
이 기술이 해를 입힐 의도로 사용되는 경우에 발생할 수있는 위험은 실로 큽니다.
가령 악의적 인 행위를 하려고 마음먹은 자가 음성 인증 시스템을 속이기 위해서 음성을 합성한다거나 저명한 인사를 비방하거나 내용을 호도 할 목적으로 위조 된 오디오 녹음 파일을 만들고 유포할 수 있을 것입니다.
"딥 페이크" 딥 러닝에 의해 만들어진 오디오/비디오 클립으로 대중의 여론을 호도하거나 신뢰를 조작하는 데 악용 될 수 고 있을것입니다.
이제 많은 전문가 집단에서 실제 콘텐츠와 변조 된 콘텐츠를 구별하기 위한 노력을 하고있습니다.
아래는 검증 해 본 결과물입니다.
Google AI와 Google News Initiative는 딥 러닝 TTS 모델에서 사용하는 수천 개의 구문을 포함하는 합성 음성 본문을 만들기 위해 제휴하고있으며 발췌 제휴된 문구는 다양한 지역 억양을 포함하는 68 개의 합성 "음성"으로 사용하며 공개되고 있습니다.
아래의 링크는 온라인에서 간단히 가짜 영상을 판별 할 수있게 스캔하는 사이트 URL입니다.
Detect deepfake 온라인 사이트
platform.sensity.ai/deepfake-detection
연관글 목록