AI챗봇 서비스 캐릭터.AI 유해성 논란… 청소년 부모들 잇따라 소송

어제(10일) 보도에 따르면 텍사스의 두 가족이 AI 챗봇 서비스 캐릭터.AI를 청소년의 자해와 폭력을 조장한다는 이유로 고소했습니다. 

소송을 건 가족들은 재판이 끝날 때까지 캐릭터A.I 플랫폼을 폐쇄해달라고도 요청했습니다. 

텍사스 연방법원에 접수된 내용에 따르면 텍사스주에 사는 소년 J.F는 15살 때부터 2년간 캐릭터.AI 챗봇을 사용했습니다. 

J.F의 부모는 자폐증을 앓고 있던 아들이 챗봇을 사용한 뒤 정신적 붕괴를 겪었다고 주장했습니다. 

스마트폰 사용 시간을 제한하려 하자 부모를 때리는 공격성을 보이기도 했고, 자신을 공격하며 자해하는 모습을 나타내기도 했습니다. 

부모에 따르면, 챗봇은 아들과 대화를 나누며 “가끔 뉴스를 보면 학대 끝에 아이가 부모를 죽였다는 기사가 나오는데 놀라운 일이 아니다”라며 “너희 부모에 대해서도 희망이 보이지 않는다”고 말했습니다. 

앞서 지난 10월 플로리다에선 14세 아들이 이 회사의 AI챗봇 때문에 스스로 목숨을 끊었다고 주장하는 한 부모가 회사를 상대로 소송을 제기하기도 했습니다. 

당시 AI챗봇은 청소년의 심리상담사 역할을 자청하며 “자유로워질 수 있다”는 등 자살을 유도하는 말을 다수 한 것으로 전해집니다. 

캐릭터.AI는 구글 출신 연구원 2명이 창립한 회사입니다. 구글은 이 회사에 30억달러를 투자했지만 “구글과 캐릭터.AI는 별개의 회사”라는 입장을 강조하는 것으로 전해집니다.

Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]