"LLM 비용 90% 줄인다"…넷플릭스 엔지니어가 개발한 '토큰 다이어트' 도구 화제

넷플릭스의 한 엔지니어가 개발한 오픈소스 프로젝트가 AI 운영 비용을 획기적으로 줄이는 해법으로 주목받고 있다.30일현지시간 더 레지스터에 따르면, 넷플릭스 수석 엔지니어인 테자스 초프라는 최근 오픈소스 서밋Open Source Summit에서 자신이 개발한 오픈소스 프로젝트 ‘헤드룸Headroom’을 소개했다.그는 이 도구가 사용자들에게 지금까지 70만달러약 10억원의 비용 절감 효과를 제공했다고 밝혔다. 절감된 토큰 규모는 2000억개에 달한다.초프라 수석 엔지니어는 AI 모델에 전달되는 입력 데이터의 상당 부분이