마이크로소프트(MS)가 자체 개발한 AI 가속기 ‘마이아 300’을 공개했다. 대형 AI 모델의 추론 작업에 맞춘 칩으로, 2027년부터 데이터센터에 배치한다.
12일(현지시간) 마이크로소프트에 따르면 마이아 300은 같은 전력으로 더 많은 토큰을 처리한다. 주요 GPU 기반 시스템보다 메가와트당 최대 40% 많은 토큰을 처리할 것이란 회사 추정이다.
가속기 96개를 넣은 서버 랙 하나의 토큰 처리량은 이전 세대인 마이아 200 기반 랙보다 최대 7배 많다. MS는 현재 마이아 200을 코파일럿과 애저의 오픈AI 모델 서비스에 쓰고 있다.
스콧 거스리 MS 클라우드·AI 부문 부사장은 2027년부터 애저 마이아 제품군을 수 기가와트 규모로 늘리겠다고 밝혔다. 마이아 칩을 MS 제품과 서비스의 주요 추론 시스템으로 삼겠다는 계획이다.
MS는 자체 칩으로 엔비디아 등 외부 칩 공급사 의존도를 낮추고 AI 서비스 운영 비용을 줄이려 한다. 마이아 칩은 학습보다 완성된 모델을 돌리는 추론 작업에 주로 투입된다.
마이아 300의 데이터센터 배치는 2027년 시작되며, MS는 이후 수 기가와트 규모까지 늘린다. 실제 운영에서 회사가 제시한 전력 대비 효율이 나오는지가 다음 변수다.