“엄마, 나야”…AI로 흉내낸 ‘아들 목소리’에 부모도 속았다

“엄마, 나야”…AI로 흉내낸 ‘아들 목소리’에 부모도 속았다

김민지 기자
김민지 기자
입력 2023-03-07 14:22
수정 2023-03-07 14:41
  • 기사 읽어주기
    다시듣기
  • 글씨 크기 조절
  • 댓글
    0
이미지 확대
아이클릭아트
아이클릭아트
인공지능(AI) 기술이 보이스피싱에 악용된 사례가 나왔다. 가족이나 친척 등 가까운 지인의 목소리를 AI로 흉내내 피해자를 속이는 신종 수법이다.

6일(현지시간) 영국 더 타임스에 따르면 캐나다 앨버타에 사는 벤저민 파커(39)는 최근 부모님이 자신의 목소리를 사칭한 보이스피싱 범죄 피해를 당했다고 밝혔다.

당시 파커의 부모는 자신을 아들의 변호사라고 소개한 한 사람의 전화를 받았다. 이 변호사는 아들이 교통사고로 미국인 외교관을 숨지게 한 혐의로 수감됐다고 말했다.

그가 파커의 부모에게 아들을 바꿔준다고 했다. 이후 수화기 너머로 파커와 닮은 목소리가 흘러나왔다.

하지만 이는 AI로 만든 가짜 목소리였다. 보이스피싱범은 아들을 흉내낸 목소리로 “다음날 있을 법원 심리 전까지 2만 1000 캐나다 달러(약 2000만원)를 송금해 달라”고 요청했다.

파커의 부모는 통화 내용을 수상히 여기면서도, 아들의 목소리가 맞다고 확신해 비트코인으로 돈을 보냈다.

파커의 부모는 이날 저녁 진짜 아들의 전화를 받고서야 사기를 당했다는 사실을 깨달았다.

파커는 이들이 어디에서 자신의 목소리를 수집했는지 모르겠다면서도, AI 기술을 활용하면 단 몇 개의 문장만으로도 목소리를 위조할 수 있다고 말했다.

파커는 “당신의 전화기에 등록된 음성 사서함 메시지로도 충분할 것”이라며 “내 음성 사서함에는 30~35초짜리 메시지가 등록돼 있다. 그거면 된다”고 했다.

더타임스는 온라인에서 무료로 배포하는 소프트웨어 프로그램을 통해서도 쉽게 목소리를 위조할 수 있다고 전했다.
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
close button
많이 본 뉴스
1 / 3
AI의 생성이미지는 창작인가 모방인가
오픈AI가 최근 출시한 ‘챗GPT-4o 이미지 제네레이션’ 모델이 폭발적인 인기를 끌면서 인공지능(AI)이 생성한 이미지의 저작권 침해 문제가 도마 위에 올랐다. 해당 모델은 특정 애니메이션 ‘화풍’을 자유롭게 적용한 결과물을 도출해내는 것이 큰 특징으로, 콘텐츠 원작자의 저작권을 어느 범위까지 보호해야 하는지에 대한 논쟁을 불러일으켰다.
1. AI가 학습을 통해 생성한 창작물이다
2. 저작권 침해 소지가 다분한 모방물이다.
광고삭제
광고삭제
위로