오픈AI 수석 과학자의 경고..."외계인 같은 AI, 자기개선에 대비해야"

AI가 인간의 능력을 빠르게 넘어서는 가운데 자기개선까지 현실화할 가능성이 커지면서, 오픈AI에서조차 속도 조절과 강력한 안전장치를 요구하는 목소리가 커지고 있다. 야쿠부 파초키 오픈AI 수석 과학자는 6일현지시간 장문의 블로그 게시물을 통해 AI 발전 속도가 앞으로도 유지되면 수년 안에 기계가 스스로 AI 개발을 진전시키는 재귀적 자기개선RSI 단계로 진입할 수 있다고 전망하면서 "지속적인 기계 지능의 급격한 상승에 따른 결과에 아무도 준비돼 있지 않다"고 경고했다.그는 2023년 오픈AI의 추론 모델 연구 프로젝트인 ‘R