美대선 앞두고 AI 딥페이크 판별할 수 있는 서비스 무료로 공개

11월 미 대선을 7개월 가량 앞둔 상황에서 트루미디어가 최근 논란이 뜨거운 AI 딥페이크를 판별할수 있는 서비스를 무료로 홈페이지에 2일 공개했습니다. 

현재는 상업적 목적이 없는 정부기관이나 비영리단체, 언론 등에 이용을 승인하고 있습니다. 

트루미디어는 AI가 만든 가짜사진을 판별하고 약 50초 뒤엔 평가한 근거 8가지도 알려줍니다. 

‘AI 이미지 생성 도구 활용 가능성’ 항목은 “100% 확실”, ‘명도·색상 정보로 분석한 조작 가능성’ 항목은 “88% 확실” 등입니다. 

트루미디어를 이끄는 이는  AI 연구의 선구자로 꼽히는 앨런 AI연구소 창립자 오렌 에치오니 워싱턴대 교수입니다. 

그는“언론사의 인력은 줄어들고 제작 시간은 갈수록 촉박해지고 있는데, 허위정보는 기하급수적으로 증가하고 있다”며 개발 이유를 설명했습니다. 

트루미디어는 해당 서비스의 정확도가 90%에 이른다고 보고 있습니다. 

하지만 약점도 분명했습니다. 생성형 AI 도구로 제작하지 않고, 실제 촬영한 사진을 편집 프로그램으로 조작한 경우엔 오류가 드러나기도 했습니다. 

에치오니 교수는 한계를 인정하면서도 “아무리 최고의 도구라도 100% 확실하게 답할순 없다”며 “선거를 앞두고 잘못된 정보의 쓰나미를 보게 될 가능성이 높아 겁이 난다”고 했습니다. 

허위 정보를 막으려면 규제당국과 기술기업들의 협력이 갈수록 필요하단 점도 강조했습니다. 

Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]