AI 보이스피싱 급증, 음성 딥페이크 탐지 기술로 잡아낼 수 있을까

AI 보이스피싱 급증

 

 

AI 보이스피싱 급증

 

"엄마, 나 사고 났어. 빨리 돈 좀 보내줘"

긴급한 전화를 받아 자녀의 목소리를 흉내 내어 돈을 보내달라는 요청을 받은 피해자들은, 돈을 보내주고 나서야 가해자가 가족 구성원의 목소리를 모방하는 연기로 자신들이 사기에 당했음을 급하게 깨닫게 됩니다.

 

 

하지만 만약 누구라도 실제 가족의 목소리와 동일한 목소리로 도움을 요청하는 전화를 받는다면, 범죄에 휘말릴 가능성이 높습니다. 인공지능(AI)을 활용한 딥페이크 기술이 발전함에 따라 이러한 위험이 현실이 되고 있습니다.

 

15일 정보통신기술진흥센터(IITP) 주간기술동향에 따르면, 이달부터 다음해 12월까지 목표로 정보통신전자공학과 정수환 교수가 특정 인물의 목소리를 모방하는 음성을 딥페이크로 판별하는 소프트웨어 기술을 개발 중입니다.

 

음성 딥페이크 탐지 기술 개발 중

 

기존 음성 사기 탐지 기술은 범죄에 사용된 데이터베이스와 단어를 비교하여 유사성을 판단하는 것이었습니다. 하지만 개발 중인 이 기술은 딥러닝 학습을 통해 음성이 딥페이크로 조작되었는지 여부를 판단하며, 조작된 음성과 실제 음성의 특징을 구별합니다. 이러한 기술을 스마트폰 등의 단말기에 탑재하여 사고를 예방하는 것이 목적입니다.

 

 

정수환 교수의 연구 팀은 기술 동향 보고서에서 "최근 딥러닝 음성 합성 기술의 발전으로 특정 대상을 겨냥한 음성 조작이 가능해졌으며, 음성 사기 조직과의 구별이 쉽지 않은 단계에 이르렀다"고 밝혔습니다. 2019년 영국 한 에너지 회사는 AI가 CEO의 목소리를 위조한 음성 사기 공격에 시달려 24만 3천 달러를 송금하는 금융 사기에 휘말렸습니다.

 

한국에서는 딥페이크 기술을 활용하여 목소리 배우와 유명인의 목소리를 복제하고 원하는 내용의 텍스트를 음성으로 변환하는 음성 합성 기술의 개발이 시작되고 있으며, 이는 범죄에 악용될 가능성을 높이고 있습니다. 이 보고서는 "AI를 이용한 음성 사기 위험이 크게 증가함에도 불구하고, 조작된 목소리를 탐지하는 기술은 거의 없다"고 강조했습니다.

 

AI 기반의 가짜 음성 탐지 기술이 활성화된다면, 음성 사기 방지뿐만 아니라, 공격자가 특정 개인이나 공인을 모방하여 명예를 훼손하는 정체성 합성을 통한 가짜 뉴스와 사기까지 예방하는 데에도 활용될 것으로 예상됩니다.

 

반응형

 

음성 딥페이크 기술 발전의 이점

 

음성 딥페이크 기술의 개발은 일반 대중에게 다양한 이익과 우려를 가져올 것으로 예상됩니다. 이에 대해 몇 가지 예시를 통해 설명하겠습니다.

 

먼저, 음성 딥페이크 기술이 성공적으로 개발되고 보급되면 음성 사기로부터의 보호가 강화될 것입니다. 가족이나 친구처럼 알려진 사람의 목소리로 가장하여 금전적인 도움을 요청하는 사기 전화는 많은 사람들이 속을 수밖에 없었습니다. 그러나 음성 딥페이크를 감지하고 구별할 수 있는 기술이 탑재된 스마트폰이나 다른 단말기가 보급되면 이러한 음성 사기에 대한 방어가 가능해질 것입니다. 예를 들어, 어떤 사람이 자녀로 가장한 목소리로 긴급한 돈을 요청하는 전화를 받았을 때, 음성 딥페이크 탐지 기술이 작동하여 사기 의심 여부를 판단할 수 있게 됩니다.

 

또한, 음성 딥페이크 기술의 개발은 가짜 뉴스와 사기 방지에도 큰 도움이 될 것입니다. 악의적인 공격자가 특정 개인이나 공인의 목소리를 모방하여 가짜 정보를 전파하거나 사기를 시도하는 경우가 많이 있습니다. 하지만 음성 딥페이크 탐지 기술이 활용되면 이러한 공격을 사전에 예방할 수 있습니다. 예를 들어, 어떤 공인이 자신의 목소리로 왜곡된 정보를 전달하여 혼란을 일으키는 경우, 음성 딥페이크 탐지 기술은 이를 식별하고 가짜임을 알려줄 수 있습니다.

 

음성 딥페이크 기술 발전의 우려점

 

하지만 음성 딥페이크 기술의 발전에는 우려도 존재합니다. 가장 큰 우려는 개인의 음성 데이터가 악용될 가능성입니다. 딥러닝 학습을 위해서는 대량의 음성 데이터가 필요하며, 이러한 데이터 수집 과정에서 사생활 침해와 개인정보 유출의 위험이 따를 수 있습니다. 또한, 음성 딥페이크 기술이 악용될 경우, 범죄나 명예훼손과 같은 심각한 결과를 초래할 수 있습니다. 따라서 이러한 기술의 발전과 함께 개인정보 보호와 법적 규제가 충실히 이루어져야 합니다.

 

음성 딥페이크 기술의 미래 전망, 기대감

 

앞으로 음성 딥페이크 기술은 계속해서 발전할 것으로 기대됩니다. 정수환 교수의 연구와 같이 음성 딥페이크 탐지 기술이 개발되고 보급됨에 따라 사기와 가짜 정보의 전파에 대한 방어가 강화될 것입니다. 또한, 음성 딥페이크 기술의 발전은 다양한 분야에서 활용될 수 있을 것으로 예상됩니다. 예를 들어, 음성 합성 기술을 활용하여 소설이나 오디오북을 제작하거나 목소리가 힘들거나 상처를 입은 사람들을 위한 보조 음성 기술로도 활용될 수 있습니다.

 

음성 딥페이크 기술의 미래는 밝고 유망하며, 대중의 생활에 긍정적인 영향을 줄 것으로 기대됩니다. 하지만 이러한 기술이 발전함에 따라 개인정보 보호와 법적 규제의 중요성도 더욱 커질 것이며, 이를 위한 노력이 필요합니다. 기술과 윤리가 조화를 이루는 선에서 음성 딥페이크 기술이 발전해 나가길 기대합니다.

 

https://typenine9.tistory.com/243

인공지능 시대에 살아남을 직업은?

https://typenine9.tistory.com/242

AI 혁명에 따른 취업 위협과 우려