산업
아마존, 하이퍼스케일러 중 처음으로 세레브라스 '추론 칩' 채택
아마존이 세레브라스의 추론 전용 칩을 서비스에 도입한다. 하이퍼스케일러 중에서 이를 채택한 것은 처음으로, 늘어나는 추론 수요에 대응하려는 것이다.아마존웹서비스AWS는 13일현지시간 자체 AI 칩과 세레브라스 칩을 결합한 새로운 AI 인프라 서비스를 2026년 하반기부터 제공할 계획이라고 발표했다.이번 협력은 사용자 질문에 AI가 답을 생성하는 추론inference 작업을 빠르게 처리하기 위한 것이다. 아마존의 '트레이니엄Trainium 3' 칩이 사용자 입력을 처리하는 프리필prefill 단계에서 역할을 맡고,
이 콘텐츠는 AI타임스 원본 기사의 요약입니다. 전문은 원본 사이트에서 확인해주세요.
원문 기사 보기 →