"AI가 거짓말을 한다"…점점 커지는 속임수 능력에 경고등

0
인공지능(AI) (사진 출처: 연합뉴스)
인공지능(AI) (사진 출처: 연합뉴스)

인공지능(AI)의 발전 속도에 따라 AI의 속임수 능력도 갈수록 정교해지고 있다는 연구 결과가 나왔습니다. 

 

매사추세츠공과대(MIT) 연구진은 최근 국제학술지 ‘패턴’에 발표한 논문에서 AI 시스템이 상대방을 배신하고 허세를 부리고 인간인 척 속임수를 쓴 많은 사례를 확인했다고 소개했습니다. 

 

연구진은 페이스북을 소유한 메타가 20세기초 유럽 7대 열강의 대전을 배경으로 한 고난도 전략게임 ‘디플로머시’에서 인간에 필적하는 성적을 거둔 ‘시세로’(Cicero)라는 AI 프로그램을 공개하자 AI 속임수 능력에 대해 조사하기 시작했습니다. 

 

공개된 데이터를 분석한 연구진은 시세로가 계획적으로 거짓말을 하고, 다른 참여자를 음모에 빠뜨리기 위해 공모에 나서기도 했다는 사례들을 발견했습니다.

 

MIT의 피터 박 박사는 “메타의 AI가 속임수의 달인이 되는 법을 배웠다는 사실을 알게 됐다”고 말했습니다. 

 

연구진은 온라인 포커 게임인 ‘텍사스 홀덤’ 등에서도 AI가 인간을 상대로 허세를 부리고 자신의 선호도를 가짜로 흘리는 것을 확인했습니다. 

 

박 박사는 “매우 우려스러운 일”이라며 “AI 시스템이 테스트 환경에서 안전한 것으로 판단되더라도 실제 환경에서까지 안전하다는 의미가 아니다. 테스트 환경에서 안전한 척하는 것일 수 있다”고 지적했습니다. 

 

연구진은 각국 정부에 AI의 속임수 가능성을 다루는 ‘AI 안전법’을 설계하라고 촉구했습니다.    

     

Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]     

 

 

, , , , , , , , , , ,

  • 페이스북으로 보내기
  • 트위터로 보내기
  • 구글플러스로 보내기
  • 카카오스토리로 보내기
  • 네이버밴드로 보내기
  • 네이버로 보내기
  • 텀블러로 보내기
  • 핀터레스트로 보내기

Comments

중·러, 철도화물 운송·국경횡단 개발 합의

중국과 러시아가 16일 철도화물 운송 및 국경 횡단 개발에 합의했습니다.블라디미르 푸틴 러시아 대통령의 중국 국빈방문을 수행한 올레크 벨로제로프 러시아철도공사(RZD) 사장은 이날… 더보기

불리한 전황에 달라진 서방...'러 본토 타격' 사실상 묵인 발언

러시아의 봄철 대공세로 수세에 몰린 우크라이나가 미국 무기로 러시아 본토를 타격하더라도 이를 묵인할 수 있다고 사실상 시사하는 발언이 나왔습니다.러시아와 확전을 우려했던 서방의 입… 더보기

이창수 신임 중앙지검장 취임…'공정·성역없는 수사' 강조

이창수 신임 서울중앙지검장이 김건희 여사 수사 등 만만치 않은 과제를 안고 16일 취임했습니다.야권을 중심으로 덧씌운 '친윤(친윤석열) 검사' 프레임을 불식시키는 동시에, 큰 폭의… 더보기

법원, 정부 손 들어줬다…의대 증원 집행정지 “각하·기각”

법원의 의대 증원 집행정지 신청 기각·각하 결정에 의대 교수들이 분노와 충격, 자조 섞인 반응을 보였습니다.16일 19개 의대 교수가 참여하는 전국 의대교수 비상대책위원회(전의비)… 더보기

가계 부채·연체 천문학적 수준… 미 경제 새로운 '뇌관'되나

미국인들의 가계 부채가 천문학적인 수준에 도달했습니다.미국 경제는 탄탄하다고 하지만 중산층과 서민층은 여전히 높은 인플레이션과 금리로 인해 부채 압박에서 벗어나지 못하고 있습니다.… 더보기

떠들썩했던 美대학가 반전시위, 목적달성 못하고 하나둘 종료

최근 몇주간 떠들썩했던 미국 대학가의 가자전쟁 반대 시위가 애초 목적을 달성하지 못한 채 하나둘 텐트를 접고 있습니다.시위 학생들은 학교 측에 이스라엘과 정부, 기업과의 관계 단절… 더보기

연방법원 "테슬라 '자율주행 허위광고' 집단소송 계속해야"

전기차업체 테슬라가 자율주행 기술을 내세워 차량과 관련 소프트웨어를 판매해온 과정에서 소비자들을 속였는지 따져볼 필요가 있다는 미 법원의 판단이 나왔습니다.15일 캘리포니아 연방법… 더보기

美, 북한 IT노동자 정보 제보하면 500만달러 현상금

연방 정부가 미국인 신원을 도용해 미국 회사에 불법 취업한 뒤 수십억원을 받아챙긴 정보기술(IT) 노동자들을 현상수배했습니다.국무부 외교안보서비스국(DSS)은 어제(16일) '정의… 더보기

미국 인구증가 도시 15곳 중 8곳 '텍사스'에 몰려

미국 도시 중 인구가 증가하는 데는 여전히 남부에 집중되어 있다고 16일 연방 인구당국 센서스가 밝혔습니다.북동부와 중서부의 대도시 여러 곳에서 소소한 인구 반전 증가가 나타났지만… 더보기

강력 폭풍으로 휴스턴서 최소 4명 사망

뇌우를 동반한 강력한 폭풍이 어제(16일) 이달 들어 2번째로 휴스턴을 강타해 최소 4명이 숨졌습니다.이 폭풍으로 고층 건물 창문이 깨져 날라갔고, 나무가 쓰러졌으며, 휴스턴 지역… 더보기


 

FreeCurrencyRates.com