인공지능과 선거, 2024년 ‘딥페이크 선거의 시대’
커버스토리
0
2024.02.09 09:15
지난 해 SNS에 유포된 도널드 트럼프 전 대통령의 가짜 체포 사진
지난 달 뉴햄프셔 프라이머리에서 논란이 된 조바이든 대통령의 가짜 전화 사건
2024년, 미 대선 포함해 전세계 76개국에서 선거 치러져 … ‘슈퍼 선거의 해’
“선거운동에 인공지능이 본격적으로 활용되는 첫해”로 남을 것
오는 11월 미 대선을 포함해 2024년은 전세계 76개국에서 전국 선거가 치러지는 ‘슈퍼 선거의 해’이다.
컨설팅 회사인 앵커 체인지(Anchor Change)에 따르면 올해 전세계 달력에는 최소 83번의 선거가 예정되어 있는데, 이는 최소 향후 24년 사이에 최대 규모의 선거다.
일부 추산에 따르면 유권자가 전 세계 인구의 절반가량인 40억 명이 넘을 것이라는 예측도 있다.
대만을 포함해 1월에만 최소 7번의 선거가 있었다. 인구가 많은 무슬림 국가인 파키스탄은 이달 8일(목) 총선을 치렀고, 오는 14일(수) 인도네시아도 선거를 치른다.
총리가 직접 AI(인공지능) 콘텐츠의 위험성을 거론한 인도에서는 4월~5월 봄에 총선이 예정되어 있다.
또한 6월에는 27개국이 속한 유럽연합(EU) 의회 선거가 치러지며 같은달 멕시코에서도 대통령 선거가 치러진다. 그 외 장기화된 전쟁 속에 있는 러시아와 우크라이나도 선거를 치른다.
특히 올해는 선거운동에 인공지능이 본격적으로 활용되는 첫해로 기록될 것으로 보인다.
이에 ‘민주주의가 인공지능(AI) 시대의 도래 속에서도 살아남을 수 있을까?’에 대한 화두가 제기되고 있다.
뉴욕타임스(NYT)는 지난달 9일(화) 전 세계에 향후 수십년간 영향을 미칠 주요 선거가 올해 예정된 가운데 가짜뉴스가 세계적 위협으로 진화하고 있다고 진단했다.
이어 2024년 선거의 해를 맞아 AI(인공지능)의 급속한 성장이 큰 영향을 미칠 것이라고 전망하며 올해 세계 각국의 선거판은 AI로 무장한 가짜뉴스로 범벅이 될 것이라고 우려했다.
전문가들은 “2000년대 초반에는 막 대중화가 시작된 인터넷을 통해 가짜뉴스가 확산됐고 빠른 확산세는 20세기에는 경험해 보지 못한 것이었다”라며 “이것은 2010년대 들어 소셜미디어(SNS)로 확대됐고 이제는 AI로 만든 딥페이크의 시대가 도래했다”고 밝혔다.
◈ 딥페이크의 공격 이미 시작됐다.
올해 예정된 미 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다는 우려는 계속 제기되어 왔다.
지난 한 해 동안 오픈AI의 생성형 인공지능(AI) 챗GPT 등의 AI 동영상 생성기 같은 강력한 도구가 확산되면서 AI가 선거를 지배할 것이라는 우려가 현실이 되고 있다.
과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다.
조 바이든 대통령이 서점에서 치매 관련 책을 고르는 사진이나 도널드 트럼프 전 대통령이 경찰에 쫓기는 듯한 사진이 대표적이다.
또 지난달 뉴햄프셔 프라이머리(예비선거)에서 조 바이든 대통령의 가짜 목소리를 활용한 전화도 한 예다. 이 전화에는 민주당 당원들에게 프라이머리 투표 거부를 독려하는 ‘가짜 바이든 대통령 목소리’가 담겼다.
NPR 보도에 따르면 “말도 안되는 허튼소리”(What a bunch of malarkey)라는 말은 지난달 수천 명의 뉴햄프셔 유권자들이 문제의 자동 녹음 전화를 받았을 때 들었던 내용이다.
이 목소리는 바이든 대통령의 것과 같았고, 이 말은 바이든 대통령이 즐겨 쓰는 표현이었다. 이 목소리는 “공화당은 무소속 유권자와 민주당 유권자가 예비 경선에 참여하도록 압력을 가해 왔다. 정말 말도 안 되는 소리”라고 하면서 “당신의 표를 11월 선거를 위해 아껴두는 게 중요하다. 이번 예비 경선에 투표하지 말라”고 전했다.
한편 백악관은 즉시 해당 로보콜이 생성형 AI가 만든 딥페이크(deepfake)라고 해명했다.
그간 ‘AI 기술이 민주주의를 위협할 것’이란 우려가 전문가들을 사이에서 제기됐지만, 선거 기간 특정 후보의 득표를 방해하려는 목적으로 AI 로보콜이 광범위하게 유포된 건 미 선거 역사상 이번이 처음이었다.
올해 미 대선이 직면한 딥페이크 문제는 다방면에 걸쳐 있다.
AI 기술의 급격한 발달을 기반으로 한 가짜 콘텐츠들은 매우 쉽게 제작될뿐더러 여론을 조작하고 불화를 조장하는 데 악용된다. 그리고 이는 대선 후보 및 정치 기관에 대한 신뢰를 약화한다.
전문가들은 정부, 기업, 사회 전체가 디지털 문해력과 인식을 증진하는 한편 AI의 악용에 대응하기 위한 공동의 노력을 기울여야 한다고 입을 모으고 있다.
이들은 언론과 정당에 대한 불신이 높은 나라일수록 딥페이크가 치명적 영향을 줄 수 있다고 말한다.
딥페이크로 조작된 ‘그럴듯한’ 가짜정보를 선택적으로 받아들여 극단화된 의견에 갇힐 경우, 정치 양극화는 더 악화할 수 있다는 것이다.
또한 패배 진영은 불리한 이미지나 영상이 조작되었다고 주장하며 선거 결과에 불복하고 폭력 사태를 일으킬 수도 있다.
◈ FCC, AI로 유명인 목소리 위조한 전화 마케팅 불법화
세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워지고 있다.
사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황 속에 슈퍼 선거의 해를 맞아 그 영향은 더욱 클 것으로 예상된다.
이에 미 정부는 전화 마케팅에 인공지능(AI)을 활용한 가짜 목소리인 ‘오디오 딥페이크’를 사용하는 것을 금지했다.
지난 8일(목) 연방통신위원회(FCC)는 ‘전화 마케팅에 대한 소비자보호법’(TCPA)을 근거로 이 같은 결정을 내렸다.
FCC는 전화에 AI 기술로 만든 가짜 목소리를 사용하기 위해선 먼저 상대방의 동의를 받아야 한다고 규정했다.
불특정 다수에게 전화를 건 뒤 유명 인사가 직접 녹음한 것처럼 상대방을 오도해 상품을 판매하거나, 광고를 하는 것이 불가능해진 셈이다.
FCC는 금지 규정을 지키지 않은 업체에 대해선 벌금을 부과하고, 주 검찰에도 단속권을 부여하기로 했다. 이번 규정은 즉시 발효된다.
FCC의 결정은 지난달 뉴햄프셔 프라이머리(예비선거)에서 조 바이든 대통령의 가짜 목소리를 활용한 전화가 기승을 부린 사건이 계기가 됐다.
당시 민주당은 바이든 대통령에게 피해를 주려는 목적에서 꾸민 정치공작이라고 반발했다. 프라이머리 개최를 방해하려는 시도라는 이유에서였다.
특히 11월 대선을 앞두고 AI 기술로 만든 유명인의 가짜 목소리가 가짜 정보를 퍼뜨리는 수단으로 악용될 수 있다는 우려도 확산했다.
조사 결과 바이든 대통령의 목소리를 조작한 전화 음성은 텍사스의 한 업체가 제작한 것으로 확인됐다. FCC는 이 업체에 대해서는 경고장을 보냈다고 밝혔다.
한편 연방 정부가 아닌 개별 주(州) 차원에서도 AI를 활용한 가짜 정보 확산을 막으려는 움직임이 본격화하고 있다.
올해 들어서만 10여개 주의회가 AI를 활용한 가짜 이미지나 오디오로 선거운동을 하는 것을 금지하는 법안을 추진 중이다.
또한 주 및 지방 정부는 AI부터 개인 폭력 위협까지 늘어나는 선거철 위협에 대처하기 위해 더 많은 자금과 자원이 필요하다고 말한다.
미네소타 , 애리조나 및 기타 주에서는 허위 정보 선거 딥페이크에 대응하는 방법에 대한 훈련을 위해 미 국토안보부 산하 기관인 사이버보안 및 인프라 보안국(Cybersecurity and Infrastructure Security Agency, CISA)와 협력해 왔다.
CISA에 따르면 CISA는 2023년에 주 및 카운티와 27회의 선거 관련 모의 훈련을 실시했으며 127회의 훈련을 실시했다.
특히 사이버, 물리적, 운영적 위험에 관해 7천명이 넘는 선거 관리 공무원들이 참여했다.
달라스 카운티의 선거 관리자인 헤이더 가르시아(Heider Garcia)는 “불행히도 선거의 해를 맞은 2024년에 대비해야 한다고 생각한다”라며 “사람들을 실제 정보 소스로 안내하는 것”이라고 밝혔다.
박은영 기자 © KTN
Comments
