인공지능과 선거, 2024년 ‘딥페이크 선거의 시대’

0
지난 해 SNS에 유포된 도널드 트럼프 전 대통령의 가짜 체포 사진
지난 해 SNS에 유포된 도널드 트럼프 전 대통령의 가짜 체포 사진
지난 달 뉴햄프셔 프라이머리에서 논란이 된 조바이든 대통령의 가짜 전화 사건
지난 달 뉴햄프셔 프라이머리에서 논란이 된 조바이든 대통령의 가짜 전화 사건

2024년, 미 대선 포함해 전세계 76개국에서 선거 치러져 … ‘슈퍼 선거의 해’

“선거운동에 인공지능이 본격적으로 활용되는 첫해”로 남을 것


오는 11월 미 대선을 포함해 2024년은 전세계 76개국에서 전국 선거가 치러지는 ‘슈퍼 선거의 해’이다.
컨설팅 회사인 앵커 체인지(Anchor Change)에 따르면 올해 전세계 달력에는 최소 83번의 선거가 예정되어 있는데, 이는 최소 향후 24년 사이에 최대 규모의 선거다.
일부 추산에 따르면 유권자가 전 세계 인구의 절반가량인 40억 명이 넘을 것이라는 예측도 있다.
대만을 포함해 1월에만 최소 7번의 선거가 있었다. 인구가 많은 무슬림 국가인 파키스탄은 이달 8일(목) 총선을 치렀고, 오는 14일(수) 인도네시아도 선거를 치른다.
총리가 직접 AI(인공지능) 콘텐츠의 위험성을 거론한 인도에서는 4월~5월 봄에 총선이 예정되어 있다.
또한 6월에는 27개국이 속한 유럽연합(EU) 의회 선거가 치러지며 같은달 멕시코에서도 대통령 선거가 치러진다. 그 외 장기화된 전쟁 속에 있는 러시아와 우크라이나도 선거를 치른다.
특히 올해는 선거운동에 인공지능이 본격적으로 활용되는 첫해로 기록될 것으로 보인다.
이에 ‘민주주의가 인공지능(AI) 시대의 도래 속에서도 살아남을 수 있을까?’에 대한 화두가 제기되고 있다.
뉴욕타임스(NYT)는 지난달 9일(화) 전 세계에 향후 수십년간 영향을 미칠 주요 선거가 올해 예정된 가운데 가짜뉴스가 세계적 위협으로 진화하고 있다고 진단했다.
이어 2024년 선거의 해를 맞아 AI(인공지능)의 급속한 성장이 큰 영향을 미칠 것이라고 전망하며 올해 세계 각국의 선거판은 AI로 무장한 가짜뉴스로 범벅이 될 것이라고 우려했다.
전문가들은 “2000년대 초반에는 막 대중화가 시작된 인터넷을 통해 가짜뉴스가 확산됐고 빠른 확산세는 20세기에는 경험해 보지 못한 것이었다”라며 “이것은 2010년대 들어 소셜미디어(SNS)로 확대됐고 이제는 AI로 만든 딥페이크의 시대가 도래했다”고 밝혔다.

◈ 딥페이크의 공격 이미 시작됐다.
올해 예정된 미 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다는 우려는 계속 제기되어 왔다.
지난 한 해 동안 오픈AI의 생성형 인공지능(AI) 챗GPT 등의 AI 동영상 생성기 같은 강력한 도구가 확산되면서 AI가 선거를 지배할 것이라는 우려가 현실이 되고 있다.
과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다.
조 바이든 대통령이 서점에서 치매 관련 책을 고르는 사진이나 도널드 트럼프 전 대통령이 경찰에 쫓기는 듯한 사진이 대표적이다. 
또 지난달 뉴햄프셔 프라이머리(예비선거)에서 조 바이든 대통령의 가짜 목소리를 활용한 전화도 한 예다. 이 전화에는 민주당 당원들에게 프라이머리 투표 거부를 독려하는 ‘가짜 바이든 대통령 목소리’가 담겼다.
NPR 보도에 따르면 “말도 안되는 허튼소리”(What a bunch of malarkey)라는 말은 지난달 수천 명의 뉴햄프셔 유권자들이 문제의 자동 녹음 전화를 받았을 때 들었던 내용이다. 
이 목소리는 바이든 대통령의 것과 같았고, 이 말은 바이든 대통령이 즐겨 쓰는 표현이었다. 이 목소리는 “공화당은 무소속 유권자와 민주당 유권자가 예비 경선에 참여하도록 압력을 가해 왔다. 정말 말도 안 되는 소리”라고 하면서 “당신의 표를 11월 선거를 위해 아껴두는 게 중요하다. 이번 예비 경선에 투표하지 말라”고 전했다.
한편 백악관은 즉시 해당 로보콜이 생성형 AI가 만든 딥페이크(deepfake)라고 해명했다. 
그간 ‘AI 기술이 민주주의를 위협할 것’이란 우려가 전문가들을 사이에서 제기됐지만, 선거 기간 특정 후보의 득표를 방해하려는 목적으로 AI 로보콜이 광범위하게 유포된 건 미 선거 역사상 이번이 처음이었다.
올해 미 대선이 직면한 딥페이크 문제는 다방면에 걸쳐 있다. 
AI 기술의 급격한 발달을 기반으로 한 가짜 콘텐츠들은 매우 쉽게 제작될뿐더러 여론을 조작하고 불화를 조장하는 데 악용된다. 그리고 이는 대선 후보 및 정치 기관에 대한 신뢰를 약화한다.
전문가들은 정부, 기업, 사회 전체가 디지털 문해력과 인식을 증진하는 한편 AI의 악용에 대응하기 위한 공동의 노력을 기울여야 한다고 입을 모으고 있다.
이들은 언론과 정당에 대한 불신이 높은 나라일수록 딥페이크가 치명적 영향을 줄 수 있다고 말한다.
딥페이크로 조작된 ‘그럴듯한’ 가짜정보를 선택적으로 받아들여 극단화된 의견에 갇힐 경우, 정치 양극화는 더 악화할 수 있다는 것이다.
또한 패배 진영은 불리한 이미지나 영상이 조작되었다고 주장하며 선거 결과에 불복하고 폭력 사태를 일으킬 수도 있다. 

◈ FCC, AI로 유명인 목소리 위조한 전화 마케팅 불법화
세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워지고 있다.
사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황 속에 슈퍼 선거의 해를 맞아 그 영향은 더욱 클 것으로 예상된다.
이에 미 정부는 전화 마케팅에 인공지능(AI)을 활용한 가짜 목소리인 ‘오디오 딥페이크’를 사용하는 것을 금지했다.
지난 8일(목) 연방통신위원회(FCC)는 ‘전화 마케팅에 대한 소비자보호법’(TCPA)을 근거로 이 같은 결정을 내렸다.
FCC는 전화에 AI 기술로 만든 가짜 목소리를 사용하기 위해선 먼저 상대방의 동의를 받아야 한다고 규정했다.
불특정 다수에게 전화를 건 뒤 유명 인사가 직접 녹음한 것처럼 상대방을 오도해 상품을 판매하거나, 광고를 하는 것이 불가능해진 셈이다.
FCC는 금지 규정을 지키지 않은 업체에 대해선 벌금을 부과하고, 주 검찰에도 단속권을 부여하기로 했다. 이번 규정은 즉시 발효된다.
FCC의 결정은 지난달 뉴햄프셔 프라이머리(예비선거)에서 조 바이든 대통령의 가짜 목소리를 활용한 전화가 기승을 부린 사건이 계기가 됐다. 
당시 민주당은 바이든 대통령에게 피해를 주려는 목적에서 꾸민 정치공작이라고 반발했다. 프라이머리 개최를 방해하려는 시도라는 이유에서였다.
특히 11월 대선을 앞두고 AI 기술로 만든 유명인의 가짜 목소리가 가짜 정보를 퍼뜨리는 수단으로 악용될 수 있다는 우려도 확산했다.
조사 결과 바이든 대통령의 목소리를 조작한 전화 음성은 텍사스의 한 업체가 제작한 것으로 확인됐다. FCC는 이 업체에 대해서는 경고장을 보냈다고 밝혔다.
한편 연방 정부가 아닌 개별 주(州) 차원에서도 AI를 활용한 가짜 정보 확산을 막으려는 움직임이 본격화하고 있다. 
올해 들어서만 10여개 주의회가 AI를 활용한 가짜 이미지나 오디오로 선거운동을 하는 것을 금지하는 법안을 추진 중이다.
또한 주 및 지방 정부는 AI부터 개인 폭력 위협까지 늘어나는 선거철 위협에 대처하기 위해 더 많은 자금과 자원이 필요하다고 말한다.
미네소타 , 애리조나 및 기타 주에서는 허위 정보 선거 딥페이크에 대응하는 방법에 대한 훈련을 위해 미 국토안보부 산하 기관인 사이버보안 및 인프라 보안국(Cybersecurity and Infrastructure Security Agency, CISA)와 협력해 왔다.
CISA에 따르면 CISA는 2023년에 주 및 카운티와 27회의 선거 관련 모의 훈련을 실시했으며 127회의 훈련을 실시했다. 
특히 사이버, 물리적, 운영적 위험에 관해 7천명이 넘는 선거 관리 공무원들이 참여했다.
달라스 카운티의 선거 관리자인 헤이더 가르시아(Heider Garcia)는 “불행히도 선거의 해를 맞은 2024년에 대비해야 한다고 생각한다”라며 “사람들을 실제 정보 소스로 안내하는 것”이라고 밝혔다.

박은영 기자 © KTN

  • 페이스북으로 보내기
  • 트위터로 보내기
  • 구글플러스로 보내기
  • 카카오스토리로 보내기
  • 네이버밴드로 보내기
  • 네이버로 보내기
  • 텀블러로 보내기
  • 핀터레스트로 보내기

Comments

텍사스 국경서 맞붙은 바이든 VS. 트럼프

바이든, 텍사스 브라운즈빌 방문 “국경 혼란의 책임은 트럼프 탓”트럼프, 텍사스 이글패스 방문 “재선시 고강도 반(反)이민 정책 실시할 것”오는 11월 미국 대선에서의 재대결이 확… 더보기

텍사스 공중보건 흔들리나? 신생아 선천성 매독 감염 급증세 우려

선천성 매독 감염 신생아 10만명당 247건, 전미 평균 두배 웃돌아 …텍사스가 미국에서 선천성 매독 신생아 수가 가장 많은 주에 속한다는 보고가 나왔다.미국의 매독 환자는 텍사스… 더보기

북텍사스 한인원로회, ‘제2회 2024 커뮤니티 어워드’ 개최

달라스 시의회, 북텍사스 한인원로회에 표창 수여북텍사스 한인원로회(회장 박영남)가 지난달 27일(화) 달라스 New-Ko 오디토리엄에서 ‘2024 커뮤니티 어워드’를 개최했다.이번… 더보기

ROTC달라스 문무회 “선후배 간 돈독한 정을 나누는 시간”

텍사스 A&M 대학 연수 중인 한국 ROTC 후보생들과 만남 가져 …지난달 17일(일) 육군학군사관(ROTC) 달라스 문무회(회장 이경철)가 텍사스 A&M 대학에 연… 더보기

주 달라스 영사출장소, 제5대 소장으로 도광헌 신임 소장 부임

주 휴스턴 대한민국 총영사관 달라스 출장소에 도광헌 신임 소장이 부임했다.도 신임 소장은 주 달라스 영사출장소 제5대 소장이며, 김명준 전임 소장의 후임으로 지난달 24일(토)부로… 더보기

‘700만 대변’ 재외동포 비례대표 의원 이번에는 배출될까

유권자 197만명중 15만명 등록 … 일각선 “동포당 창당” 주장도오는 4월의 제22대 총선을 앞두고 700만 재외동포의 목소리를 대변할 비례대표 국회의원이 재외선거 시작 12년 … 더보기

쿠쿠, 나를 이해하는 고급형 안마의자 ‘리네이처4D’ 출시

대한민국 대표 생활가전 브랜드 쿠쿠가 오는 2월 맞춤형 기능을 탑재한 최고급 안마의자, ‘리네이처(re:nature) 4D 안마의자’를 출시했다.해당 제품은 어깨 압력 감지 센서와… 더보기

“한국어 교육의 새로운 지평”, NAKS-ACTFL 교사인증제 워크샵 개최

NAKS-ACTFL 교사인증제 수강생들과 교수진이 지난 23일(금) 워크샵을 개최했다.NAKS-ACTFL 교사인증제는 재미한국학교협의회(National Association of … 더보기
Hot

인기 장소 안가리는 총기 난사 위협 텍사스 방어 안전 산업 호황

휴스턴 레이크우드 교회 총격에 이은 머스큇 대안학교 총격 사건까지…학교, 종교 시설 등 공공장소 안전 강화 위한 방어산업, 88억 달러 규모로 성장머스큇(Mesquite)의 한 차… 더보기
Hot

인기 전미주장애인체전 성공적 개최 기원 “도전 속에 싹트는 희망”

달라스장애인체육회, 재미 장애인체육회와 간담회 개최제2회 전미주장애인체전의 성공적 개최를 위한 간담회가 지난 17일(토) 열렸다.이날 간담회는 달라스장애인체육회(회장 우성철)가 주… 더보기