AI 생성 콘텐츠, '선거의 신뢰성' 저해해

내년 대선을 앞두고 AI 생성 콘텐츠가 유권자를 혼란에 빠뜨릴 가능성이 제기됐습니다. 

전문가들은 특히 소셜미디어(SNS) 플랫폼에서는 수십억명이 정보를 찾아 다니고 '악당'이 종종 가짜 주장을 퍼뜨린다는 점에서 관련 기업의 위험 관리 책임이 크다고 지적했습니다.

제빈 웨스트 워싱턴대 교수는 "캠페인이 늘어나기 시작했고 선거가 빠르게 다가오고 있으며 기술도 빠르게 발전하고 있다"며 "우리는 AI가 끼칠 수 있는 영향력의 증거를 이미 봤다"고 말했습니다. 

CNN은 지금 상황은 선거 관련 오보의 물결을 따라잡기가 어느 때보다 어려운 탓에 SNS는 '퍼펙트 스톰'에 직면해있다고 전했습니다. 

AI가 만들어내는 글이 매우 설득력 있고 이미지가 사실적이라 유권자가 잘못된 정보에 쉽게 휘둘릴 가능성이 크기 때문입니다. 

또 일부 메이저 SNS 네트워크는 선거 오보 관련 대응에 미온적이며 일부는 대량 해고 사태까지 겪었습니다. 

이는 선거 뉴스와 관련해 책임 있는 AI 팀을 구축하는데 지장을 주고 있습니다. 

CNN은 규제당국도 아직 AI 기술과 관련한 실질적인 방호책을 구축하지 못한 상태라고 전했습니다. 

일각에선 AI 도구가 선거 개입을 의도하는 조직이나 외국 세력에게 특히 유용할 것이라는 지적도 나오고 있습니다. 

과거에는 선거에 영향을 끼치려면 대규모의 댓글부대를 고용해야 했지만, 이제는 한 명이 수많은 생성형 AI봇을 운용할 수 있기 때문입니다.

Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]