텍사스 회사, 조 바이든 AI로 미국 유권자를 호도한 혐의로 형사 조사 직면

법무장관실 선거법 부서는 조 바이든 대통령처럼 들리는 AI 생성 자동녹음전화를 사용하여 유권자를 오도하는 데 책임이 있는 사람과 단체를 식별했습니다.

 

1월 23일 예비선거에서 투표하지 말라고 뉴햄프셔 시민들에게 지시하는 조 바이든 미국 대통령의 음성처럼 들리는 자동녹음전화의 가해자는 라이프 코퍼레이션(Life Corporation)과 월터 몽크(Walter Monk)라는 개인으로 밝혀졌다.

뉴햄프셔 법무부의 발표에서 John Formella 법무장관은 AG의 선거법 부서가 출처를 텍사스에 본사를 둔 회사인 Life Corporation과 Walter Monk라는 개인으로 식별했다고 밝혔습니다.

해당 자동 메시지는 2024년 대선에 개입하기 위해 인공지능(AI) 딥페이크 도구를 사용해 생성됐다. 주 법무장관실은 자동녹음전화를 잘못된 정보로 규정하고 뉴햄프셔 유권자들에게 이 메시지를 무시하라고 권고했습니다.

 

 

AI 딥페이크 도구는 고급 AI 알고리즘을 사용하여 비디오, 오디오 녹음, 이미지 등 매우 사실적이고 기만적인 디지털 콘텐츠를 생성하는 소프트웨어 또는 애플리케이션을 의미합니다.

주 법무장관은 1월 중순 뉴햄프셔에서 유권자 억압 요청을 확인했으며, 로보콜 반대 다주 소송 태스크 포스(Anti-Robocall Multistate Litigation Task Force) 및 연방 통신 위원회 집행국(Federal Communications Commission Enforcement Bureau)과 같은 주 및 연방 파트너와 협력하여 조사가 시작되었습니다.

선거법 부서는 뇌물, 협박 및 억압에 관한 2022년 뉴햄프셔 개정 법령 Title LXIII을 위반한 Life Corporation에 정지 명령을 발령했습니다. 이 명령은 즉각적인 준수를 요구하며 해당 부서는 이전 행위에 따라 추가 집행 조치를 취할 권리를 보유합니다.

선거법조사국 조사관들은 텍사스 소재 통신업체인 Lingo Telecom에 걸려온 전화를 추적했습니다. 한편, 미국 연방통신위원회(Federal Communications Commission)도 인공지능(Robocall)에서 AI가 생성한 음성 복제를 주장한 혐의로 링고 텔레콤(Lingo Telecom)에 중지 서한을 발송했습니다. 이 서한은 불법 자동녹음전화 트래픽 지원을 즉각 중단하라고 명령합니다.

1월 31일, 제시카 로젠워셀(Jessica Rosenworcel) FCC 위원장은 전화 소비자 보호법(Telephone Consumer Protection Act)에 명시된 규정 및 처벌에 따라 AI가 생성한 음성을 포함하는 통화를 불법으로 간주하는 것을 제안했습니다.

딥페이크는 AI 생성 콘텐츠에 대한 우려를 심화시켰으며, 세계경제포럼(World Economic Forum)은 제19차 글로벌 위험 보고서에서 AI 기술의 부정적인 결과를 강조했습니다. 캐나다의 주요 국가 정보 기관인 캐나다 보안 정보국(Canadian Security Intelligence Service)도 AI 딥페이크를 사용하여 인터넷에서 진행되는 허위 정보 캠페인에 대한 우려를 제기했습니다.