아모데이 CEO, AI 개발 속도 늦춰야…재귀적 자기개선·AI 에이전트 군집 위험 경고

인공지능AI 선도기업 앤트로픽의 다리오 아모데이Dario Amodei CEO가 AI 모델의 성능 향상 속도를 의도적으로 늦춰야 한다고 공개적으로 제안했다. 이는 AI 기술 발전 자체를 중단하자는 것이 아니라, AI의 능력이 향상되는 속도와 안전성 연구 및 검증이 따라가는 속도 사이의 격차를 줄여야 한다는 주장이다.특히 아모데이는 최근 AI가 차세대 AI 개발에 직접 관여하는 ‘재귀적 자기개선Recursive SelfImprovement, RSI’이 업계 전반에서 나타나면서 AI 발전 속도가 크게 빨라지고 있다고 진단했다