기업가 기여자가 표현한 의견은 각자의 의견입니다.
요즘에는 자신이 누구인지 증명하지 않고는 아무것도 할 수 없다는 것을 알고 있나요? 은행 계좌를 개설하든, 아니면 그냥 자동차 공유 서비스를 이용하든 상관없습니다. 온라인 신원 확인이 일상 생활에 더욱 통합되면서 사기꾼들은 시스템을 능가하는 데 더 많은 관심을 갖게 되었습니다.
범죄자들은 보안 솔루션을 극복하기 위해 더 많은 돈과 노력을 투자하고 있습니다. 이들의 궁극적인 무기는 인공지능(AI) 기술을 사용해 실제 사람을 사칭하는 딥페이크입니다. 이제 수백만 가지 질문은 다음과 같습니다. 조직이 AI를 효과적으로 활용하여 도구를 사용하여 사기꾼과 싸울 수 있습니까?
Regula 신원 확인 보고서에 따르면 글로벌 기업의 무려 3분의 1이 이미 딥페이크 사기의 피해자가 되었으며, 딥페이크 음성 및 영상과 관련된 사기 활동은 은행 부문에 심각한 위협을 가하고 있습니다.
예를 들어, 사기꾼은 쉽게 귀하인 것처럼 가장하여 귀하의 은행 계좌에 접근할 수 있습니다. 미국에서는 조사 대상 기업 중 거의 절반이 지난해 음성 딥페이크의 표적이 되었다고 자백했는데, 이는 전 세계 평균인 29%를 능가하는 수치입니다. 블록버스터 강도 사건과 비슷하지만 디지털 영역에 있습니다.
그리고 딥페이크를 만드는 AI 기술의 접근성이 높아짐에 따라 기업이 영향을 받을 위험도 증가할 뿐입니다. 이는 다음과 같은 질문을 제기합니다. 신원 확인 절차를 조정해야 합니까?
관련: Deepfake 사기가 너무 정교해지고 있어 상사와 동료를 사칭할 수 있습니다.
끝없는 경주
다행히 아직 ‘터미네이터’ 단계는 아니다. 현재 대부분의 딥페이크는 독수리 눈을 가진 인간이나 이미 꽤 오랫동안 ID 확인 솔루션에 통합된 AI 기술을 통해 탐지할 수 있습니다. 하지만 경계심을 늦추지 마세요. Deepfake 위협은 빠르게 진화하고 있습니다. 우리는 이미 고의적인 조사를 통해서도 의심을 거의 불러일으킬 수 없는 설득력 있는 샘플을 목격하기 직전에 있습니다.
좋은 소식은 우리가 오래된 “수제” 신원 사기에 맞서 싸우기 위해 모집한 슈퍼 히어로인 AI가 이제 동료 AI 친구들이 만든 가짜 물건을 찾아내도록 훈련을 받고 있다는 것입니다. 이 마법을 어떻게 관리합니까? 우선, AI 모델은 진공 상태에서는 작동하지 않습니다. 인간이 제공하는 데이터와 영리한 알고리즘이 이를 형성합니다. 연구원들은 합성 사기 및 딥페이크의 악당을 제거하기 위해 AI 기반 도구를 개발할 수 있습니다.
이 보호 기술의 핵심 아이디어는 ID 활성 확인 및 “셀카” 세션(ID로 라이브 사진이나 비디오를 찍는 곳)을 수행하는 동안 의심스럽거나 일관성이 없는 모든 것을 감시하는 것입니다. AI 기반 신원 확인 솔루션이 디지털 셜록 홈즈가 됩니다. 조명이나 움직임의 변화와 같이 시간이 지남에 따라 발생하는 변화와 까다로운 복사 붙여넣기 또는 이미지 스티칭과 같은 이미지 자체 내의 은밀한 변화를 모두 감지할 수 있습니다.
다행스럽게도 AI로 인한 사기에는 여전히 사각지대가 있으므로 조직은 이러한 약점을 활용해야 합니다. 예를 들어 딥페이크는 그림자를 올바르게 캡처하지 못하고 배경이 이상한 경우가 많습니다. 가짜 문서에는 일반적으로 시각적으로 가변적인 보안 요소가 부족하며 특정 각도에서 특정 이미지를 투사하지 못합니다.
범죄자들이 직면한 또 다른 주요 과제는 많은 AI 모델이 주로 온라인에서 더 쉽게 사용할 수 있는 정적 얼굴 이미지를 사용하여 훈련된다는 것입니다. 이러한 모델은 개인이 고개를 돌려야 하는 실시간 “3D” 비디오 세션에서 현실감을 전달하기 위해 노력하고 있습니다.
조직이 사용할 수 있는 또 다른 취약점은 활성 세션 동안 가짜 얼굴을 사용(또는 “얼굴 교환”)하려고 시도하는 것과 비교하여 인증을 위해 문서를 조작하는 것이 어렵다는 것입니다. 이는 범죄자가 일반적으로 1차원적인 ID 스캔에만 접근할 수 있기 때문입니다. 또한 최신 ID에는 문서가 이동 중일 때만 표시되는 동적 보안 기능이 통합되어 있는 경우가 많습니다. 업계는 이 분야에서 지속적으로 혁신하고 있으므로 문서를 다른 각도로 회전해야 하는 생체 유효성 검사와 함께 캡처 세션을 통과할 수 있는 설득력 있는 가짜 문서를 만드는 것이 거의 불가능합니다. 따라서 활동성 확인을 위해 물리적 ID를 요구하면 조직의 보안이 크게 강화될 수 있습니다.
ID 확인 솔루션을 위한 AI 교육은 계속 발전하고 있지만 본질적으로 사기꾼과의 지속적인 고양이와 쥐 게임이며 결과를 예측할 수 없는 경우가 많습니다. 더욱 흥미로운 점은 범죄자들이 향상된 AI 탐지 기능을 능가하도록 AI를 훈련시켜 탐지와 회피의 지속적인 순환을 만들고 있다는 것입니다.
예를 들어 연령 확인을 해보세요. 사기꾼은 생체 테스트 중에 사람들을 더 나이들어 보이게 만드는 마스크와 필터를 사용할 수 있습니다. 이러한 전술에 대응하여 연구자들은 조작된 미디어의 새로운 단서나 징후를 식별하고 이를 발견하도록 시스템을 교육해야 합니다. 양측이 서로를 능가하려고 계속 노력하는 앞뒤로 계속되는 전투입니다.
관련 항목: Deepfake 위협은 현실입니다. 귀하의 비즈니스를 보호하는 3가지 방법은 다음과 같습니다.
최대 보안 수준
지금까지 우리가 탐구한 모든 것에 비추어 볼 때 다음과 같은 질문이 떠오릅니다. 우리는 어떤 조치를 취해야 합니까?
첫째, ID 확인에서 최고 수준의 보안을 달성하려면 기존 플레이북을 버리고 신원 확인을 위한 생체 중심 접근 방식을 채택하세요. 그것의 본질은 무엇입니까?
대부분의 AI 생성 위조에는 설득력 있는 라이브니스 세션에 필요한 자연성이 여전히 부족하지만, 최대의 보안을 추구하는 조직은 스캔이나 사진 없이 실제 문서와 실제 사람만 사용하여 물리적 개체로만 작업해야 합니다.
ID 확인 프로세스에서 솔루션은 문서와 문서를 제시하는 개인의 유효성과 신뢰성을 모두 검증해야 합니다.
이는 또한 인간의 눈에 보이지 않을 수 있는 가장 미묘한 비디오 또는 이미지 조작까지 감지하도록 훈련된 AI 검증 모델의 지원을 받아야 합니다. 또한 비정상적인 사용자 행동을 표시할 수 있는 다른 매개변수를 감지하는 데 도움이 될 수도 있습니다. 여기에는 서비스에 액세스하는 데 사용되는 장치, 해당 위치, 상호 작용 기록, 이미지 안정성 및 문제의 신원의 진위를 확인하는 데 도움이 될 수 있는 기타 요소를 확인하는 것이 포함됩니다. 그것은 모든 것이 합쳐졌는지 확인하기 위해 퍼즐을 맞추는 것과 같습니다.
그리고 마지막 팁 – 고객에게 라이브 세션 중에 컴퓨터 웹캠 대신 휴대폰을 사용하도록 요청하는 것이 도움이 될 것입니다. 일반적으로 사기꾼이 휴대폰 카메라를 사용할 때 이미지나 동영상을 교환하는 것이 훨씬 어렵기 때문입니다.
결론적으로, AI는 악당이 방어선을 몰래 통과할 수 없도록 보장하는 선한 사람의 궁극적인 조수입니다. 그럼에도 불구하고 AI 모델이 올바른 방향을 유지하려면 인간의 지침이 필요합니다. 하지만 함께일 때 우리는 사기 행위를 적발하는 데 탁월합니다.
