dalkora

• 목록

인공지능(AI)의 발전 속도에 따라 AI의 속임수 능력도 갈수록 정교해지고 있다는 연구 결과가 나왔습니다. 

매사추세츠공과대(MIT) 연구진은 최근 국제학술지 ‘패턴’에 발표한 논문에서 AI 시스템이 상대방을 배신하고 허세를 부리고 인간인 척 속임수를 쓴 많은 사례를 확인했다고 소개했습니다. 

연구진은 페이스북을 소유한 메타가 20세기초 유럽 7대 열강의 대전을 배경으로 한 고난도 전략게임 ‘디플로머시’에서 인간에 필적하는 성적을 거둔 ‘시세로’(Cicero)라는 AI 프로그램을 공개하자 AI 속임수 능력에 대해 조사하기 시작했습니다. 

공개된 데이터를 분석한 연구진은 시세로가 계획적으로 거짓말을 하고, 다른 참여자를 음모에 빠뜨리기 위해 공모에 나서기도 했다는 사례들을 발견했습니다.

MIT의 피터 박 박사는 “메타의 AI가 속임수의 달인이 되는 법을 배웠다는 사실을 알게 됐다”고 말했습니다. 

연구진은 온라인 포커 게임인 ‘텍사스 홀덤’ 등에서도 AI가 인간을 상대로 허세를 부리고 자신의 선호도를 가짜로 흘리는 것을 확인했습니다. 

박 박사는 “매우 우려스러운 일”이라며 “AI 시스템이 테스트 환경에서 안전한 것으로 판단되더라도 실제 환경에서까지 안전하다는 의미가 아니다. 테스트 환경에서 안전한 척하는 것일 수 있다”고 지적했습니다. 

연구진은 각국 정부에 AI의 속임수 가능성을 다루는 ‘AI 안전법’을 설계하라고 촉구했습니다.    

Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]