FBI, AI 딥페이크 갈취 사기 경고

실제와 같은 이미지를 생성하는 생성 AI의 능력은 인상적이지만, 미국 연방수사국은 범죄자들이 피해자를 갈취하기 위해 딥페이크를 사용하고 있다고 밝혔습니다.

FBI는 월요일 PSA 경보를 통해 "FBI는 미성년자 및 동의하지 않는 성인을 포함한 피해자로부터 사진이나 비디오가 노골적인 콘텐츠로 변조되었다는 보고를 계속 받고 있다"고 밝혔습니다.

FBI는 지난해 법집행기관이 미성년자를 대상으로 한 온라인 강탈 신고를 7,000건 이상 접수했으며, 4월 이후 딥페이크를 이용한 이른바 '성착취 사기' 피해자가 급증했다고 밝혔습니다.

딥페이크는 Midjourney 5.1 및 OpenAI의 DALL-E 2와 같은 생성 AI 플랫폼 덕분에 가짜 사건을 가짜로 식별하기 점점 더 어려워지는 허위 사건을 묘사하는 인공 지능으로 제작된 점점 더 일반적인 유형의 비디오 또는 오디오 콘텐츠입니다.

지난 5월, 암호화폐 투자자들을 사기 위해 만든 Tesla와 Twitter CEO Elon Musk의 딥페이크가 입소문을 냈습니다. 소셜 미디어에 공유된 영상에는 사기에 맞게 편집된 이전 인터뷰의 머스크 영상이 포함되어 있었습니다.

딥페이크가 모두 악의적인 것은 아니며, 흰색 발렌시아가 재킷을 입은 프란치스코 교황의 딥페이크가 올해 초 입소문을 탔고, 최근에는 AI가 생성한 딥페이크가 살인 피해자를 소생시키는 데 사용되기도 했습니다.

FBI는 권고사항에서 몸값을 지불한다고 해서 범죄자들이 딥페이크를 게시하지 않을 것이라는 보장이 없기 때문에 몸값을 지불하지 말라고 경고했습니다.

FBI는 또한 계정을 비공개로 설정하고, 어린이의 온라인 활동을 모니터링하고, 과거에 교류한 사람들의 비정상적인 행동을 감시하는 등 개인 정보 보호 기능을 사용하는 등 온라인에서 개인 정보와 콘텐츠를 공유할 때 주의할 것을 권고합니다. 또한 기관에서는 온라인에서 개인 및 가족 정보를 자주 검색할 것을 권장합니다.

경고를 울리는 다른 기관으로는 미국 연방거래위원회(Federal Trade Commission)가 있는데, 범죄자들이 친구나 가족이 납치되었다고 말하는 오디오 딥페이크를 만든 후 의심하지 않는 피해자를 속여 돈을 보내도록 속이기 위해 딥페이크를 사용해 왔다고 경고했습니다.

FTC는 "인공지능은 더 이상 공상과학 영화에서나 볼 수 있는 터무니없는 아이디어가 아니다. 우리는 지금 여기에서 인공지능과 함께 살고 있다. 사기꾼은 AI를 이용해 사랑하는 사람의 목소리를 복제할 수 있다"고 밝혔다. 3월 소비자 경고에서는 범죄에 필요한 모든 것은 녹음 내용을 실제처럼 만들기 위해 가족 구성원의 목소리를 녹음한 짧은 오디오 클립뿐이라고 덧붙였습니다.

FBI는 아직 Decrypt의 논평 요청에 응답하지 않았습니다.