믿을 수 없는 동영상과 딥페이크(deepfake)프로그램.

딥페이크(deepfake)가 무서운 세상을 만들지도 모릅니다. 

가짜 동영상 만드는 기술인 딥페이크는 딥페이크(deepfake, 딥 러닝(deep learning)이라는 단어에 가짜(fake)로 만든 혼성어이며 인공 지능을 기반으로 만든 사람 얼굴 합성 프로그램입니다.

인공지능 AI가 인간 바둑기사에게 도전을해서 연승을 한것이 엊그제입니다. 
딥페이크는 인공지능의 한 부분으로 충격 그 이상을 주는 무서운 이미지 합성 기술입니다.

이른바 생성적 적대 신경망이라고 불리는 GAN이라고 하는 기계 학습 기술을 이용해서 기존의 사진나 영상에서 데이터를 추출해서 임의 얼굴 영상 에 겹쳐서 새로운 이미지를 만들어 냅니다.

새로운 이미지는 실존 인물일 수도 있고 가공의 인물일 수도 있습니다.
현재까지는 이런 기능을 가진 딥페이크로 유명인의 얼굴을 가진 가짜가 섹스 동영상이나 리벤지(Revenge)같은 것의 주인공이 되어 있는 경우입니다.

벌써 유명인의 얼굴이 포르노 등을 만드는데 도용 되었다는 온라인 보도를 접하며 세계적인 유명 걸그룹 인물이 도용 되어 피해가 발생하고 있는 시대에 와있습니다.

앞으로 더욱 정교한 기술이 발달되고 광범위한 조작이 활개를 친다면 가짜 뉴스나 악의적 사기를 만드는데 사용되어 커다란 혼란을 야기 할 가능성은 충분이 있겠습니다.

얼마 전 까지만 해도 2D로 사람의 손으로 일일이 수동으로 합성을 하던 때는 우스꽝 스러운 남의 얼굴 접목으로 누구나 가짜임을 알아 볼 수 있었습니다.

기술의 발달이 갑자기 빨라 지면서 딥페이크 같은 경우는 좋은 하드웨어를 갖추고 충분한 자료를 확보한다면 기계 학습량이 많아져서 자연스러운 수준의 딥페이크들이 만들어 지게 되는 것입니다.

가령 모델로 선정 할 인물의 동영상이 조명 여건과 상관없이 , 앞,뒤,좌,우나 상 하를 포함하는 3분정도의 데이터만 있으면 다른 사람의 얼굴을 바꾼다고 합니다.

아직은 품질이 떨어지는 영상물로서 관심을 가지고 보면 어딘지 모르게 가짜임을 짐작할 수 있기도 합니다.
그러나 이미 해외의 샘플 동영상을 보면 처리되는 데이터의 양에 따라서 딥페이크 영상과 원본 영상의 구분이 어려울 정도인 것을 보게 됩니다.

유명한 가짜 오바마가 연설을 하는 것은 제작자가 가짜라고 말해 주지 않았다면 큰 혼란이 있을 만한 영상이었습니다.

딥페이크(deepfake)딥페이크(deepfake)
이미지 https://www.youtube.com/watch?v=o2DDU4g0PRo


그러니까 많이 노출된 공인이나 배우 등 유명인의 경우 데이터가 많이 노출 되 있기 때문에 자기 얼굴이 도용 당해서 낭패를 당하기가 보다 쉬울 것으로 추측됩니다.

현재 문제가 되는 장르는 포르노 계 입니다.
하지만 만약에 유명 정치인들의 모습을 합성해서 사실로 여기게 하여 대중을 선동 한다면 사회에 미칠 영향은 그야말로 상상을 초월하는 충격이 될 것입니다.

설사 가짜로 판명되기 까지 SNS가 발달한 오늘날에는 순식간에 전파된 가짜가 일으킨 역 기능들의 피해를 생각하면 끔찍합니다.

일반인들이라고 해서 딥페이크 영상으로 부터 안전한 것은 아닐 것입니다.
도리어 힘 없는 약자들은 가짜 영상으로부터 더 쉽게 당할 수도 있을 것으로 생각됩니다.

아직도 문명의 발전 속도에 둔감한 세대나 그런 지역 사람들은 동영상에 쉽게 속아 넘어 갈 수가있을 것으로 생각됩니다. 
보고도 몯 믿을 사항이라는 전제하에 모든 동영상을 봐야 할지도 모릅니다.

이미 악용 사례는 나왔으며 많은 외국 유명 탤런트들과 한국 여자 아이돌 멤버들이 포르노에 합성 되어 떠돌았다고 하며 현재는 완전 삭제되었다고 합니다.

딥페이크는 점점 발전하며 그 속도도 빨라서 곧 구분할 수 없는 정도의 제작물을 보여주는 성능의 프로그램이 나올 것이며 우리 사회가 가짜 동영상 때문에 심각해지는 건 시간문제라고 생각합니다.

온라인서 머지않아 가짜 뉴스 때문에 사회가 혼란에 빠지고 어떤 체제가 전복되는 위기도 겪을 수 도 있다고 하는 것을 읽은적이 있습니다.

가짜 동영상을 만드는 주범은 딥페이크(deep fake)란 기술입니다.
이 기술의 핵심은 인공지능(AI)이나 얼굴매핑(facial mapping) 기술로 임의 영상에 전혀 엉뚱한 영상을 자동으로 합성하고 편집하는 기술을 가리킵니다.
그렇지만 이런 기술은 현대과학이 발전하는 한 부분으로서 인류가 감당해야 하는 한 부분이기도 한것으로 생각합니다.

현재까지는 어떤 사람의 얼굴 데이터로 어떤 사람의 얼굴을 바꿔치기하는 정도이지만 앞으로 많은 데이터가 인공지능에게 축적 된다면 바꿔치기 정도가 아니라 마음대로 새로은 얼굴을 탄생시키고 그 탄생된 얼굴로 무슨 사기를 칠 지 모르는 일입니다.

자기 눈으로 뻔히 보고있는 영상속의 사람이 말 하는것이 진짜인지 가짜인지 판단할 수 없다면 그 혼란은 무서운 현실이 될 것입니다.

따라서 세계 각국 정부는 I이 분야 전문인을 빨리 양성해서 진짜와 가짜를 구분하는 자동 필터링 장치를 반드시 내놔야 할 것입니다.

딥페이크가 발전 하면 어찌 얼굴 뿐이겠습니까?
진실이 가려지고 가짜가 어떤 사안을 호도하는 세상을 감히 상상하기도 싫습니다.   
우리는 반드시 이런 혼란을 겪지 않도록 방법을 찾아내서 맊아야 할 것입니다.


이 글을 공유하기

댓글(0)

Designed by JB FACTORY