딥페이크는 딥 러닝(deep learning)과 가짜(fake)의 합성어입니다.
인공지능 딥러닝 기술을 이용하여 인물의 얼굴(현재까지는 주로 얼굴을 주로)을 가짜로 합성하여 만든 기술입니다.
딥러닝은 인공지능 학습의 방법론 중에 하나 입니다.
딥페이크는 원래는 좋은 의도로 만든 기술이라고 하지만,
그것이 알고 싶다(이하 '그알')프로그램에서 언급된 논문에 의하면 90%이상이 불법 성인영상에 활용되는 기술이라고 합니다.
아이돌 등 케이팝 스타의 얼굴을 불법 영상에 활용되고 있다고 합니다.
연예인 150명 합성…‘딥페이크’ 음란물 판매 10대 구속 “용돈 벌려고”
인공지능 기술 등으로 인물의 얼굴이나 신체를 합성하는 이른바 ‘딥페이크’ 기술을 이용해 제작된 연예인 허위 영상물을 유포한 10대 등 6명이 경찰에 붙잡혔다. 부산경찰청은 연예…
www.donga.com
그알 초반부에는 딥페이크로 인하여 피해를 받은 여성 분의 사례가 나옵니다.
그녀는 모르는 사람으로부터 메신저 연락을 받게 됩니다.
당신의 얼굴이 합성된 성관계 영상을 유포하겠다는 협박의 메시지였습니다.
사실 자세히 보면 그녀가 아니라는 것을 쉽게 알 수 있어서, 그녀는 처음에 심각하게 생각하지 않았다고 합니다.
그 여성은 그 전에 몰래카메라 영상을 찍은 적이 없었기도 했고요.
그런데, 그 범인은 실제로 얼굴을 합성한 성관계 영상을 유포하게 되고,
피해 여성분은 심각한 고통을 받게 되었습니다.
사실 이 피해자분들의 얼굴이 공개되어 처음에는 의아했는데,
피해자의 동의 하에 '딥페이크'로 만든 얼굴로 재현했던 것이었습니다.
그 피해자 분의 딥페이크 얼굴은 실제인물이 아니었던 것이죠.
이처럼 딥페이크 영상은
별 생각 없이 보면, 알아차리기 어려울 정도로 자연스럽습니다.
딥페이크 영상에 활용된 사진 데이터가 많으면 많을 수록, 더 정교하게 만들어질 수 있을 것 같았습니다.
물론, 예전에도 이러한 얼굴 합성이 가능했는데,
시간과 비용이 많이 들어가는 CG작업이 필요했습니다.
그러나 최근 들어서 인공지능 학습기술이 급속도로 발전하게 되면서,
딥페이크 기술도 발전하게 되었다고 합니다.
한편,
딥페이크 기술로 보이스피싱이 될 수 있는지에 대한 실험도 등장합니다.
실험을 통해 '딥페이크'의 위험성을 알리는 긍정적 기능이 더 많기 때문에 '실험'을 기획했다고 합니다.
그알에서는 실험을 합니다.
일반인의 얼굴을 합성해서 만든 영상으로,
교통사고를 당한 것처럼 위장하여 그 부모님을 속이는 실험이었습니다.
부모님들은 영상을 보고 의심하긴 했지만,
3명 중 2명이 카드를 찍어서 범인에게 메시지로 전송하였습니다.
딥페이크의 부정적인 인식, 사용례와 달리
딥페이크는 좋은 목적으로 교육용 등으로 활용될 수 있다고 말합니다.
실제로 긍정적 사례도 많이 보이는 것 같고요.
개인적으로는
- SNS에 자신의 신상을 드러내는 개인 사진을 무분별하게 올리지 않는 것이 좋을 것 같다는 생각을 했습니다.
- 딥페이크가 잘못된 방식으로 활용되는 경우,
그와 관련된 사이트에는 광고를 붙일 수 없도록 조치가 되어야 할 것 같다는 생각을 했습니다.
보통 딥페이크는 '돈'과 연관되어 있고, 그 돈은 '광고'를 보는 것과 연결되어 있기 때문이죠.
생각해보면, 우리가 유튜브를 보면서 보는 '광고'로 인하여 유튜브, 크리에이터들은 돈을 번다는 점을 생각해보면,
범죄자들이 '딥페이크'를 악용하려는 동기/구조를 잘 이해할 수 있습니다.
당장은 해결하기 어려운 부분이 있긴 하지만, 기술의 어두운 측면을 잘 다뤘다는 측면에서 인상깊게 봤습니다.