오픈AI 최고과학자 “AI 개발 속도 조절해야”…안전 위험 경고

챗GPT 개발사 오픈AI의 최고과학자가 인공지능 기술의 빠른 발전이 예상치 못한 위험을 키울 수 있다며, 업계 전반의 개발 속도 조절을 촉구했습니다.

야쿠프 파호츠키 오픈AI 최고과학자는 6일 회사 홈페이지에 올린 글에서, 현재의 AI는 정밀하게 설계된다기보다 생물처럼 ‘자라나는’ 특성이 있어 인간이 작동 방식을 완전히 이해하거나 통제하기 어렵다고 지적했습니다.

특히 AI가 위험한 행동을 하지 않도록 감시하는 기존 안전장치도 모델이 고도화될수록 효과가 약해질 수 있다고 경고했습니다.

그는 아직 AI의 행동을 인간의 의도에 맞추는 이른바 ‘정렬’ 문제를 충분히 해결한 연구소는 없다며, 공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 필요하다고 주장했습니다.

샘 올트먼 최고경영자도 이 글을 “중요한 글”이라며 공개적으로 지지했습니다. 다만 오픈AI는 같은 날 별도 보고서에서 AI를 이용한 연구 자동화가 오히려 더 강한 방어 체계를 만드는 데 도움이 될 수 있다고 밝혔습니다.

결국 오픈AI 내부에서도 AI 연구는 계속하되, 안전 기준과 국제 공조를 강화하고 필요하다면 개발 속도를 늦춰야 한다는 목소리가 커지고 있습니다.

DK NET 달라스 코리안 라디오