콘텐츠
DeepFakes 란 무엇입니까?
DeepFakes는 실제로 이름에서 알 수 있듯이 이미지 또는 비디오에서 한 얼굴을 다른 얼굴로 바꾸는 얼굴 교환 기술입니다. 사실 얼굴 스와핑 기술은 영화 제작 분야에서 새로운 단어는 아니지만, 영화 영상에서 얼굴 스와핑 기술은 예전에는 굉장히 복잡했고, 전문 영상 편집자와 CGI 전문가들이 비디오 클립. 얼굴 교환.
DeepFakes의 등장은 페이스 스와핑 기술의 돌파구라고 할 수 있습니다. DeepFakes 기술을 사용하면 GPU와 일부 훈련 데이터만 있으면 가짜 얼굴 스왑 비디오를 만들 수 있습니다.
수백 개의 캐릭터 샘플 이미지를 알고리즘에 입력하기만 하면 얼굴 교체를 완료하고 매우 사실적인 비디오 효과를 만들 수 있기 때문에 이것은 매우 놀라운 혁신이라고 할 수 있습니다. 동영상 편집에 대해 전혀 모르는 일반인도 할 수 있습니다.
DeepFakes의 출현은 또한 비디오에서 대규모 "얼굴 교환"을 수행할 수 있음을 의미합니다. 우리 대부분은 인터넷에 자신의 사진을 업로드했기 때문에 대부분의 얼굴이 일부 비디오에서 쉽게 교체되고 비디오의 "주인공"이 되며 사람이 한 번도 하지 않은 것을 허공에서 날조할 수 있습니다. 이것은 매우 무서운 일입니다.
DeepFakes 딥페이크는 기업과 유명인에게 영향을 미칠 뿐만 아니라 일반 서민의 삶과 일에 큰 위협이 됩니다. 기술의 발전으로 사기의 정도는 점점 더 심각해지고 범죄자들은 이야기의 배경을 바꾸고 우리가 온라인에서 보는 정보의 진위를 줄이거나 왜곡할 수 있습니다. DeepFakes가 약 6개월마다 두 배로 증가하면서 DeepFakes를 식별하는 방법의 문제가 더욱 시급해졌습니다.
DeepFakes는 어떻게 만들어지나요?
DeepFakes deepfake 비디오는 일반적으로 VAE(Variational Autoencoder) 및 얼굴 인식 알고리즘을 사용합니다. 이미지는 저차원 표현으로 인코딩된 다음 훈련된 VAE에 의해 이미지로 디코딩됩니다.
예를 들어:
- 누군가는 슈퍼볼 광고를 위해 스타의 DeepFakes deepfake 비디오를 만들고 싶어합니다.
- 기술자들은 별의 얼굴 이미지에 대해 훈련된 하나의 오토인코더와 다양한 얼굴 이미지에 대해 다른 하나를 사용합니다.
- 다양한 포즈와 조명 환경을 캡쳐한 영상에 얼굴인식 알고리즘을 적용하여 오토인코더별 트레이닝 세트 선택 가능
- 훈련 후 두 개의 별도 인코더가 결합되어 다른 사람의 몸에 배우의 얼굴이 있는 실제 비디오를 시뮬레이션합니다.
DeepFakes 탐지의 산업 발전
미디어 조작을 식별하는 것은 산업 전반에 걸친 협업이 필요한 기술적 과제입니다. 인간이 식별하기 어려운 DeepFakes의 다양한 징후를 자동으로 감지하기 위해 최근 몇 년 동안 연구 중심의 이니셔티브가 확산되고 있습니다.
AWS, Microsoft, Facebook, Partnership on AI 및 학계가 공동으로 DeepFake Detection Challenge를 시작하여 전 세계 연구원들에게 혁신적인 기술 개발을 지원하기 위해 상금 100만 달러를 제공했습니다. 총 2,000명 이상의 참가자가 35,000개 이상의 DeepFakes 딥 페이크 탐지 모델을 생성했습니다.
인공 지능의 잘못된 정보를 퇴치하기 위한 MIT(Massachusetts Institute of Technology)의 연구 이니셔티브인 Detect Fakes는 참가자들이 실제 비디오 DeepFake와 구별할 수 있는지 확인하기 위한 몇 가지 방법을 도입했습니다.
UC 버클리와 스탠포드의 연구원들은 80% 립싱크로 말할 때 사람들의 입 모양과 목소리 사이의 불일치를 식별할 수 있는 립싱크 기술을 감지하는 인공 지능 기반 접근 방식을 개발했습니다.
Microsoft는 비디오 프레임을 분석하고 비디오 프레임이 진짜인지 또는 인위적으로 위조되었는지 확인하는 소프트웨어 신뢰도 점수를 생성하는 심층 상업 사기 탐지 도구를 출시했습니다. 이 기술은 2020년 미국 선거에서 유용했습니다.
Intel과 Binghamton University의 Graphics and Image Computing Lab의 연구팀은 생물학적 신호와 데이터를 사용하여 96% 정확도로 딥페이크를 식별하고 분류하는 도구를 개발했습니다. 이 도구는 얼굴의 비디오는 합성할 수 있지만 픽셀 색상의 변화로 표현되는 심박수 변동 및 혈류와 같은 정보를 포함한 미묘한 생리 신호는 쉽게 복제할 수 없다는 아이디어에 기반을 두고 있습니다.
딥페이크 식별을 위한 혁신이 등장하고 있지만 대부분은 연구 또는 개발 단계에 있으며 아직 갈 길이 멉니다.
악이 옳은 것보다 낫다
인공 지능은 파괴적인 기술입니다. 나쁜 사람이 속이는 데 사용할 수 있고 좋은 사람도 DeepFake를 감지하는 데 사용할 수 있습니다. 나쁜 사람이 DeepFake를 사용하여 개인, 기업 및 사회를 위협하는 것은 허용되지 않습니다. DeepFakes가 만연함에 따라 AI 탐지 기술은 데이터 조작의 위험을 줄이는 열쇠가 될 것입니다.
인공 지능 탐지 DeepFakes 딥 페이크 기술을 마스터하려면 기술자가 Keras 및 TensorFlow의 딥 러닝 기술과 머신 러닝 기술을 마스터해야 합니다. 학습을 통해 Keras 및 TensorFlow 프레임워크를 사용하는 딥 러닝 및 모델의 개념을 마스터하고 딥 러닝 알고리즘에 능숙해져 전문 AI 엔지니어가 되기 위한 준비를 합니다.