산업
AWS, 세레브라스와 초고속 AI 추론 서비스 제공한다…LLM 추론 속도 대폭 향상 목표
아마존 웹 서비스AWS가 인공지능 반도체 기업 세레브라스 시스템즈Cerebras Systems와 협력해 클라우드 환경에서 초고속 AI 추론 서비스를 제공하는 새로운 인프라를 구축한다.AWS는 지난 13일현지시간 세레브라스와 협력을 통해 생성형 AI와 대형언어모델LLM 워크로드를 위한 초고속 추론 시스템을 개발하고 이를 자사 생성형 AI 플랫폼인 아마존 베드록Amazon Bedrock을 통해 제공할 계획이라고 밝혔다.이번 협력은 AWS 데이터센터에 구축되는 새로운 인프라를 기반으로 하며, AWS의 AI 칩 트레이니엄
이 콘텐츠는 인공지능신문 원본 기사의 요약입니다. 전문은 원본 사이트에서 확인해주세요.
원문 기사 보기 →