Root Nation소식IT 뉴스인텔은 수천 개의 Gaudi2 AI 가속기를 갖춘 가장 강력한 슈퍼컴퓨터를 만들 것입니다.

인텔은 수천 개의 Gaudi2 AI 가속기를 갖춘 가장 강력한 슈퍼컴퓨터를 만들 것입니다.

-

Datacenter Dynamics 사이트에 따르면 Intel Corporation은 생성 AI 작업을 위한 세계에서 가장 강력한 슈퍼컴퓨터 중 하나를 만들 계획입니다. 플랫폼 리소스는 관련 분야의 프로젝트를 구현하는 Stability AI 회사에서 사용됩니다. LPC 플랫폼은 Xeon 프로세서를 기반으로 합니다. 이밖에도 가우디4000 가속기 약 2개를 사용한다고 한다.

가우디 프로세서는 인텔이 2019년 2억 달러에 하바나 랩스를 인수한 결과 등장했다. 당시 이스라엘 사업을 위해 이전 너바나 인수에서 AI 칩을 버렸다.

Intel은 최근 2억 개의 매개변수가 있는 LLM(대형 언어 모델)을 기반으로 하는 GPT-J 벤치마크(MLPerf Inference v3.1에 포함)에서 Gaudi6 테스트 결과를 발표했습니다. 추정에 따르면 Gaudi2는 대체 솔루션이 될 수 있습니다 NVIDIA AI 시장의 H100.

인텔

그러나 H100은 AI 애플리케이션 처리 측면에서 여전히 경쟁 제품보다 뛰어납니다. 전에 NVIDIA 소프트웨어를 발표했다 텐서RT-LLM 대규모 언어 모델(LLM)의 실행을 가속화하도록 특별히 설계된 오픈 소스입니다. 추정에 따르면 NVIDIA, TensorRT-LLM을 적용하면 GPT-J 100B 벤치마크에서 H6 가속기의 성능을 두 배로 높일 수 있습니다. Llama2 모델을 사용하면 A100에 비해 속도 증가가 4,6배에 이릅니다.

Intel과 Stability AI 프로젝트는 기업이 생성 AI 시장에서 입지를 강화하는 데 도움이 될 것입니다. 시스템 시운전 시기와 예상 성능에 대해서는 보고된 바가 없습니다.

또한 읽기:

가입하기
에 대해 알림
손님

0 코멘트
임베디드 리뷰
모든 댓글 보기