오늘 우리는 이제 널리 퍼지고 아주 흔한 현상이 된 딥페이크에 대해 이야기할 것입니다. 이 기술 덕분에 정보 조작은 새로운 수준에 도달했습니다.
신년 메시지 방송 중에 엘리자베스 여왕이 테이블에서 춤추는 것을 보았습니까? 아니면 김정은의 민주주의 연설을 듣거나 그의 죽음에 대해 이야기한 살바도르 달리를 존경합니까(그는 그것을 믿지 않는가)?
이 모든 놀라운 비디오에는 한 가지 공통점이 있습니다. 바로 가짜입니다. 딥페이크(Deepfake)는 영상, 음성, 사진 등의 형태로 거짓 정보를 만들어 퍼뜨리는 기술이다. 그러한 자료를 접하는 것이 점점 더 쉬워지고 있으므로 인터넷에서 딥페이크 비디오를 생성, 인식 및 검색하는 방법에 대한 지침을 준비했습니다.
또한 읽기: 미래의 블록체인: 간단히 말해서 암호화폐 산업의 미래
Deepfake - 무엇입니까?
딥페이크(Deepfake)는 말 그대로 진짜가 아닌, 가짜, 즉 가짜인 사진, 영상 또는 오디오 자료입니다. Deepfake(딥 러닝 "딥 러닝"과 가짜 "가짜"라는 두 단어의 조합)는 딥 러닝에 인공 지능(AI)을 사용하여 비디오 및 기타 디지털 미디어 자료에서 한 사람과 다른 사람의 유사성을 만듭니다. 실제 음성, 사운드, 비디오 또는 사진 샘플을 함께 꿰매는 알고리즘에 의해 생성됩니다. 알고리즘은 다양한 위치에서 선택된 정보를 가져온 다음 하나의 자료로 결합합니다. 결과적으로 서로 다른 실제 데이터의 조합을 기반으로 하는 새로운(거짓) 무언가가 생성됩니다.
하지만 그게 다가 아닙니다. Deepfake는 또한 예를 들어 존재하지 않는 캐릭터의 얼굴을 생성하여 사진을 처음부터 "페인트"할 수 있습니다.
그러한 행동의 목적은 무엇입니까? 무엇보다도 Deepfake는 인터넷에 잘못된 정보(예: 정치인 또는 이벤트), 절도(예: 음성 명령 위조) 및 포르노 제작(연예인이 출연한 영화 - 딥페이크 포르노)에 사용됩니다. 교육 및 엔터테인먼트 목적으로도 사용할 수 있습니다.
또한 읽기: 간단한 단어로 양자 컴퓨터에 대해
Deepfake - 어떻게 작동합니까?
일반적으로 딥페이크 자료를 만드는 방법에는 두 가지가 있습니다. 첫 번째 방법은 두 가지 알고리즘을 사용합니다. 먼저 첫 번째(인코더)는 두 이미지(하나로 결합할 이미지)의 공통 기능을 찾은 다음 두 번째(디코더)는 새로 생성된 이미지로 이를 전송할 수 있습니다. 예를 들어 배우가 우리처럼 움직이는 비디오를 만들고 싶다면 인코더는 우리가 춤추는 비디오에서 움직임을 가져오고 디코더는 이미 우리의 얼굴을 배우의 얼굴로 대체하고 그가 우리의 움직임을 재현하게 합니다. . 여기서 핵심은 새 이미지에 복사되는 선택된 동작(예: 움직임, 제스처, 표정)입니다.
두 번째 방법은 두 알고리즘이 함께 작동하는 생성적 적대 네트워크(GAN)를 사용하는 것입니다. 첫 번째는 일반 정보를 사용하여 구별되는 특징(사람은 신체, 얼굴, 눈이 있음)을 결합하는 이미지(예: 사람의 이미지)를 생성하기 때문에 생성기라고 합니다. 두 번째 알고리즘은 생성자가 제공한 이미지가 참인지 아닌지를 평가하는 판별자입니다.
시간이 지남에 따라 두 알고리즘 모두 더욱 발전하여 스스로 학습하고 개선합니다. 판별자가 가짜 사진을 인식하지 못하는 방식으로 생성기가 훈련되면(진짜로 간주) 프로세스가 완료됩니다.
스크립트, 프로그램 및 코드를 위한 오픈 소스 커뮤니티인 GitHub에서 많은 양의 위조 소프트웨어를 찾을 수 있습니다. 이러한 프로그램 중 일부는 순전히 오락 목적으로 사용되므로 딥페이크를 만드는 것이 금지되지는 않지만 많은 프로그램이 범죄 목적으로 사용될 수도 있습니다.
많은 전문가들은 미래에 기술의 발전으로 딥페이크가 훨씬 더 복잡해지고 선거 간섭, 정치적 긴장 조성 및 범죄 활동과 관련하여 사회에 더 심각한 위협을 일으킬 수 있다고 믿습니다.
또한 읽기:
Deepfake의 위협 - 언제부터 존재했습니까?
이러한 가짜 정보는 2017년 처음으로 나타났습니다. 그런 다음 사용자는 별칭입니다. 딥 페이크 다음을 포함하여 유명인이 관련된 여러 포르노 영화를 Reddit에 게시했습니다. 스칼렛 요한슨, 갤 가돗, 테일러 스위프트. 그 이후로 거의 모든 사람이 딥페이크 영화를 촬영할 수 있기 때문에 이 산업은 빠르게 발전했습니다.
https://youtu.be/IvY-Abd2FfM
최근 몇 년간 딥페이크 기술이 너무 발달하여 조작된 영상인지 실제 인물의 실제 녹음인지 판별하기가 점점 더 어려워지고 있습니다. 예를 들어 엘리자베스 44세의 메시지가 포함된 비디오나 여러 사이트에 빠르게 게시된 버락 오바마의 연설이 있습니다. 전 미국 대통령의 발언이 담긴 영상은 인터넷에 유포된 잘못된 정보와 가짜 뉴스로 인해 야기될 수 있는 글로벌 위협을 다뤘다. 버즈피드비디오(BuzzFeedVideos) 채널이 공개한 자료에는 미국의 감독이자 배우인 조던 필(Jordan Peele)이 제대 미국 대통령의 목소리가 됐다. 그러나 현재 인공 지능은 이미 가짜 영화에 등장해야 하는 사람의 기록을 기반으로 음성을 생성할 수 있습니다.
이러한 첨단 기술은 미래에 사이버 범죄자와 인터넷 사기범의 손에 있는 위험한 도구가 될 수 있습니다. 중요 정치인의 가짜 연설 동영상 게시는 국제적 차원에서 실질적인 피해를 줄 수 있습니다. 딥페이크 기술을 기반으로 한 이러한 영화는 외교적 갈등과 스캔들을 불러일으킬 수 있어 여론과 행동에 영향을 미칠 수 있다.
또 다른 잠재적인 위협은 가상 공간에서 항상 가장 많은 트래픽을 생성하는 성인 콘텐츠입니다. 딥페이크 기술이 그렇게 빨리 인터넷을 강타한 것은 놀라운 일이 아닙니다. 네덜란드 사이버 보안 회사인 Deeptrace의 보고서에 따르면 딥페이크 기술을 사용하여 만든 조작된 비디오의 96%가 이러한 주제에 관한 콘텐츠입니다. 대부분의 경우 영화 배우, 운동 선수, 심지어 정치인 및 정부 대표의 이미지가 이러한 자료의 제작에 사용됩니다.
또한 읽기: 우주 임무가 어느 순간에도 날 수 없는 이유: 발사 창이란 무엇입니까?
딥페이크를 만드는 방법?
딥페이크 영상을 만들 수 있는 사람이 있다면 집에서도 만들 수 있나요? 물론 그렇습니다. 그러나 품질은 물론 완벽하지 않습니다. 이러한 비디오를 만들려면 대규모 컴퓨팅 리소스와 강력한 비디오 카드가 필요합니다. 일반적으로 가정용 컴퓨터에 있는 컴퓨터로는 충분하지 않으며 개발 프로세스 자체가 몇 주 동안 지속될 수 있습니다. 영화의 품질은 또한 많은 것을 남길 것입니다. 눈에 띄는 오류가 있고, 입 움직임이 소리와 일치하지 않을 수 있으며, "오래된" 내용이 "새"와 겹치는 눈에 띄는 장소가 있습니다.
그러나 사진을 약간 "손질"하거나 짧은 딥페이크 비디오를 만들고 싶다면 이를 위한 프로그램을 스마트폰에 직접 다운로드할 수 있습니다. 매우 사용하기 쉬운 프로그램은 몇 분 안에 외모의 결점을 제거하고 당신을 선택한 유명인사로 바꾸거나 개가 사람의 목소리로 말할 수 있도록 합니다.
또한 읽기:
딥페이크를 식별하는 방법?
전문적인 딥페이크 비디오를 찾기가 점점 더 어려워지고 있습니다. 처음에는 알고리즘이 기본적인 동작(예: 눈 깜박임)에 문제가 있었고 영화가 가짜라는 것이 즉시 분명해졌습니다. 이제 이 오류가 수정되었습니다. 가짜 캐릭터는 눈을 깜박이고 자연스럽게 움직이며 유창하게 말합니다. 그러나 때때로 그들은 여전히 자연스러운 안구 운동에 문제가 있습니다.
그렇다면 딥페이크를 식별하는 방법은 무엇일까요? 동영상을 시청할 때 주의해야 할 사항은 다음과 같습니다.
- 소리가 입의 움직임을 따라가나요? 때로는 일치하지 않고 비디오의 사람이 소리에 비해 입술을 느리게 움직이거나 단어를 잘못 발음합니다.
- 부자연스러워 보이는 모든 종류의 현상. 우리는 무엇보다도 몸통과 관련된 전신 또는 머리의 위치, 물체에 대한 잘못된 빛 반사, 보석의 잘못된 빛 반사 등에 대해 이야기하고 있습니다. 부자연스러운 피부색은 필름이 가짜라는 신호일 수도 있습니다.
- 오디오 및 비디오 품질. 이들의 차이는 딥페이크를 감지하는 데 도움이 됩니다. 일반적으로 사운드트랙의 품질이 낮습니다.
- 이미지 불규칙. 가장 자주 그들은 몸과 머리의 교차점에 나타납니다. 유명인의 머리가 다른 신체에 "접착"되면 목 부분에 흐림이 나타날 수 있습니다. 때때로 프레임 건너뛰기(간헐성) 및 프레임 오류(다른 조명 각도, 유형 또는 방향)가 있습니다.
- 동영상 중에 해시태그를 변경하는 것은 딥페이크 동영상이 있음을 의미할 수도 있습니다.
딥페이크의 관점에서 자료를 볼 때도 자신의 감정에 의존할 가치가 있다. 때때로 우리는 무언가가 "잘못"되었다는 인상을 받습니다. 이것은 무엇보다도 화면에 묘사된 사람의 감정이 표정이나 목소리 톤이 우리에게 보여주는 것과 일치하지 않을 때 발생합니다. 이것은 또한 비디오가 위조되었을 수 있음을 시사합니다.
또한 흥미로운:
딥페이크로부터 자신을 보호하는 방법?
깊은 가짜 사기를 피하기 위해 전문가들은 다음 단계를 따르도록 조언합니다.
- 가족이나 동료 등 사랑하는 사람과 함께 그 상황의 실체를 영상이나 녹음으로 증명해 줄 비밀글이나 슬로건을 만들어 보세요. 이를 통해 상황의 허위성을 신속하게 확인하고 예를 들어 돈 갈취를 피할 수 있습니다.
- 소셜 네트워크나 SMS와 같은 메시지를 통해 절대 묻지 않는 정보 목록에 대해 친척이나 동료와 동의하십시오. 모든 이해 당사자에게 위험의 진정한 범위를 알리는 것이 필수적입니다.
- 각 요청을 확인하기 위한 다단계 인증 채널 구현. 통신이 문자 메시지로 시작되는 경우 정보를 확인하는 가장 안전한 방법은 미리 합의된 보안 통신 채널을 통해 대화 형식으로 메시지 발신자에게 연락하는 것입니다.
- 예를 들어 보안 및 사이버 범죄에 대한 직원 교육의 형태로 보안 역량의 지속적인 개선. 딥페이크가 무엇이며 이 위협에 대처하는 방법에 대한 인식을 높입니다.
- 정보통신기술(ICT) 환경의 보안 시스템 지원 및 개발
딥페이크는 어디에서 만날 수 있나요?
가짜 자료는 많은 청중, 즉 잠재적 딥페이크 청중에게 도달할 수 있는 모든 곳에서 찾을 수 있습니다. Facebook, Instagram, TikTok 및 기타 소셜 미디어 사이트에는 이런 종류의 내용이 가득합니다.
이들은 놀라운 비디오뿐만 아니라 "세련된" 사진 및 오디오 녹음도 포함합니다. 실제 유명인 프로필 중 일부는 때때로 딥페이크 항목으로 가득 차 있습니다!
딥페이크를 찾을 수 있는 곳은 이곳만이 아닙니다. 스마트폰용 응용 프로그램도 이 기술을 기반으로 하므로 콧수염과 수염 또는 기타 특수 효과를 사진에 추가할 수 있습니다(예: 수십 년 노화). 따라서 친구로부터 받은 마지막 사진이 약간 "과소 평가된" 것으로 판명될 수 있습니다.
또한 흥미로운:
딥페이크 영화는 음란물일 뿐만 아니라
딥페이크의 사용은 긍정적일 수도 있고 부정적일 수도 있습니다. 딥페이크 영화는 재미있거나 재미있을 수 있습니다. 여기서 우리는 새해 메시지 동안 테이블에서 춤을 추는 엘리자베스 여왕의 비디오를 언급해야 합니다. 이것은 또한 우리가 스마트폰의 딥페이크 앱으로 수행하는 대부분의 사진 수정의 목적이기도 합니다. 재미있고 재미있어야 합니다.
Deepfake 자료는 예를 들어 이미 죽은 예술가, 가수 또는 음악가를 "부활"시키는 것과 같은 교육적 역할도 할 수 있습니다. 일부 박물관, 특히 플로리다의 살바도르 달리 박물관(Salvador Dali Museum)은 이 기술을 사용합니다. 이 기술은 방문자가 예술가 자신의 작품을 "프레젠테이션"하고 대화하고 사진을 찍을 수도 있습니다.
Deepfake 기술은 음성 생성기에 사용됩니다. 음성 생성기는 말하는 능력을 잃은 사람들을 위해 설계된 장치입니다. 그들 덕분에 그러한 사람들은 여전히 자신의 목소리로 우리에게 말할 수 있습니다. 후두암으로 잃은 Val Kilmer의 목소리는 Top Gun: Maverick에서 모델링되었습니다.
불행히도 딥페이킹의 부정적인 사용 사례도 많이 있습니다. 정치는 이러한 종류의 잘못된 정보가 공인의 불신, 주식 시장, 경제 또는 선거 결과에 영향을 미치거나 심지어 전쟁에서 전쟁 수행과 같은 광범위하고 전 세계적인 결과를 초래할 수 있는 예입니다. 잘 준비된 기록은 여론을 쉽게 조작할 수 있습니다. 기술의 진보적인 발전은 진짜 재료와 가짜 재료를 구별하는 것을 훨씬 더 어렵게 만들 것입니다. 따라서 이것은 사회적 신뢰와 정보 혼돈의 몰락을 향한 한 걸음입니다.
이미 언급했듯이 딥페이크 비디오는 포르노 산업에 널리 퍼져 있습니다. 대부분의 경우 변경 사항은 포르노 배우/배우의 얼굴을 동의 없이 유명인 또는 영화 배우의 얼굴로 바꾸는 것으로 구성됩니다.
또한 읽기: 유인 우주 임무: 지구 귀환이 여전히 문제인 이유는 무엇입니까?
Deepfake는 우리 모두에게 진정한 위협입니다.
딥페이크는 배우와 정치인만의 문제가 아닙니다. 누구나 가짜 콘텐츠의 영향을 받을 수 있습니다. 협박 및 강탈의 요소는 우리가 범죄를 저지르거나 모호한 상황에 빠지는 조작된 비디오일 수 있습니다. 귀하가 지불하거나 공개합니다. 비즈니스에 종사하는 경우 딥페이크를 사용하여 상대방 사이에서 회사의 신용을 떨어뜨릴 위험이 있음을 이해해야 합니다.
조작 자료의 양이 증가하면 제공된 정보에 대한 사회적 신뢰와 자신감에도 영향을 미칠 수 있습니다. 법정에서 증거가 되는 영화가 거짓일 수 있고 뉴스에서 존재하지 않는 사건에 대한 보도가 있는데 어떻게 믿을 수 있습니까?
캐릭터가 다른 사람과 매우 흡사한 악의적인 이미지, 오디오 녹음 또는 영화를 만들 수 있는 기술은 사이버 범죄자의 새로운 수준의 위협입니다. 특히 소셜 네트워크에서 딥페이크를 만들기 위한 소스 자료의 거의 무제한 리소스를 그릴 수 있다는 사실을 감안할 때.
기계 학습 소프트웨어는 다음을 검색할 수 있습니다. Facebook 또는 Instagram, 예를 들어 잠재적인 "배우"의 흥미로운 사진이나 비디오를 포착합니다. 이를 바탕으로 사람의 매우 선명한 음성, 이미지 및 비디오를 만들 수 있지만 예를 들어 납치 또는 사고의 피해자로 심각한 문제에 처한 것처럼 시뮬레이트하는 특수 제작된 가짜 호소를 사용합니다. 다음 단계에서 "피해자"의 친척에게 전달되는 재정과 같은 가짜 도움 요청이 생성됩니다.
또한 읽기: James Webb 우주 망원경: 관찰해야 할 10개 표적
딥페이크와의 전쟁
허위 정보의 흐름이 너무 커서 많은 소셜 네트워크가 딥 페이크에 맞서 싸우기로 결정했습니다. Facebook і Twitter 가짜 동영상을 감지하고 자동으로 삭제해 보세요. 대기업(포함) Microsoft 또는 Amazon)은 가짜 콘텐츠를 탐지하는 소프트웨어에 투자하고 있습니다. 과학자들은 또한 이 문제에 대한 해결책을 찾기 위해 노력하고 있습니다.
하지만 스마트폰 앱 하나로 가짜 영화를 만들 수 있는 상황에서 딥페이크와 싸우는 것은 풍차와 싸우는 것과 같다. 정보를 조작하거나 이러한 방식으로 다른 사람의 이미지를 사용하는 결과를 결정하는 법적 규범도 없습니다.
Deepfake는 점점 대중화되고 있으며 진실과 구별하기가 점점 더 어려워지고 있습니다. 이는 인간의 움직임과 몸짓을 더 잘 모방할 수 있는 기술의 발전 때문이다. Deepfakes는 교육 자료를 만들거나 후두 수술 후 목소리를 잃은 사람들을 돕는 것과 같은 좋은 목적으로 사용될 수 있지만 해커, 협박자 및 인터넷 트롤을 위한 도구이기도 합니다.
그러니 인터넷에서 다시 멋진 영상을 보게 된다면, 가끔 변조되거나 가짜인지 먼저 확인해보세요. 아마도 당신이보고있는 것은 결코 현실이 아니었을 것입니다!
또한 읽기:
그러나 우크라이나에서 전쟁이 진행되고 있음을 잊지 마십시오. 우크라이나가 러시아 점령군과 싸우는 것을 돕고 싶다면 가장 좋은 방법은 다음을 통해 우크라이나 국군에 기부하는 것입니다. 세이브라이프 또는 공식 페이지를 통해 NBU.