
AI 인프라 솔루션 기업 모레가 엔비디아와 AMD 등 서로 다른 AI 가속기를 하나의 자원처럼 활용하는 '토큰 팩토리 OS'를 공개했다. 특정 GPU에 의존하지 않고 여러 가속기에 AI 추론 작업을 나눠 처리해 데이터센터의 연산 효율을 높이는 기술이다. 모레는 15~17일(현지시간) 미국 산타클라라 컨벤션센터에서 열리는 'AI 인프라 서밋 2026'에 참가해 토큰 팩토리 OS와 이기종(Heterogeneous) 가속기 기반 분산 추론 기술을 선보였다고 16일 밝혔다. 이기종 가속기는 엔비디아와 AMD처럼 제조사나 설계 방식이 서로 다른 AI 연산용 반도체를 뜻한다. 토큰 팩토리 OS는 데이터센터에 있는 여러 종류의 가속기를 하나의 자원 풀로 묶어 운용하는 AI 인프라 소프트웨어다. 특정 GPU나 추론 엔진에 종속되지 않고 AI 모델과 요청, 가속기의 연산 특성에 따라 추론 작업을 배분한다. 모레는 이를 구현하는 기술로 'MoAI Inference Framework'를 제시했다. 엔비디아와 AMD, 텐스토렌트 등 서로 다른 가속기를 하나의 클러스터처럼 구성하고 각 가속기의 특성에 맞춰 추론 작업을 분산하는 방식이다. 실제 엔비디아 H100과 AMD MI300X를 결합한 분산 추론 결과도 공개했다. 입력된 문맥을 처리하는 프리필(Prefill)은 H100이, 이를 바탕으로 답변을 생성하는 디코드(Decode)는 MI300X가 각각 맡도록 구성했다. 두 가속기 사이의 데이터 처리는 모레의 분산 추론 소프트웨어로 연계했다. 모레에 따르면, 이 방식은 동일 업체의 가속기로 구성한 시스템보다 처리량이 최대 1.67배 높았다. 하나의 가속기에서 전체 추론 과정을 처리하는 대신 작업별로 적합한 가속기에 연산을 나눠 처리 효율을 높였다는 설명이다. 모레가 이기종 가속기 운용에 나선 것은 AI 데이터센터에서 서로 다른 업체와 세대의 가속기를 함께 사용하는 환경이 확대되고 있어서다. 생성형 AI 확산으로 GPU 확보량이나 개별 GPU의 성능뿐 아니라 보유한 연산 자원을 얼마나 효율적으로 활용해 토큰을 처리하느냐가 중요해지고 있다는 게 회사 측 설명이다. 조강원 모레 대표는 “AI 데이터센터는 GPU를 제공하는 공간에서 토큰을 생산하고 판매하는 '토큰 팩토리'로 진화하고 있다"며 “중요한 것은 특정 GPU의 성능이 아니라 서로 다른 가속기를 얼마나 효율적으로 활용해 낮은 비용으로 토큰을 생산하느냐"라고 말했다. 모레는 이기종 가속기 통합 운용 기술을 데이터센터 단위로 확대할 계획이다. GPU와 NPU 등 다양한 가속기를 특정 하드웨어에 종속되지 않고 하나의 인프라처럼 운용할 수 있도록 토큰 팩토리 OS 개발을 이어간다는 방침이다. 김나현 기자 knh@ekn.kr

![[보험사 풍향계] 삼성생명, 대학생 아이디어 모은다 外](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260916.97b9838fa15248d4ac4ff3f3a3928198_T1.jpg)
![“금리 왜 올렸나가 핵심”…증시 운명 가를 ‘워시의 입’ [머니+]](http://www.ekn.kr/mnt/thum/202609/rcv.YNA.20260807.PRU20260807124701009_T1.jpg)
![[금융권 풍향계] 수은, 카자흐 포르테뱅크와 7000만달러 금융협력 업무협약 체결 外](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260916.f70823f5fd7146849584542856184a46_T1.png)






![[송윤주의 부동산생태계] 은퇴자마을, 노인용 임대아파트로만 보면 안된다③](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260917.a2257882f3ea47e9a4bfec1e2fc8ffa3_T1.png)


![[금융 풍향계] JB금융, 업스테이지와 ‘금융특화 AI’ 만든다 外](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260917.09314c7e143c41d0adef4a1e40c875d5_T1.jpg)





![[EE칼럼] 최고가격제의 부담 떠안은 정유사도 명분이 필요하다](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260406.75a3eda72eb6449aa7826a69395d10f7_T1.png)
![[EE칼럼] 정치와 규제가 합작한 한전의 부실](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20240311.590fec4dfad44888bdce3ed1a0b5760a_T1.jpg)
![[김병헌의 체인지] 벌써 ‘레임덕’이라는 말이 흘러나오는 이유](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260416.e74981dbd1234907aa315469fbcafa49_T1.png)
![[이슈&인사이트] 겪어보지 않은 지진위험](http://www.ekn.kr/mnt/thum/202609/news-a.v1.20260129.e3f0c367a7b1402eb00967f9348eace6_T1.jpg)
![[데스크 칼럼] 죽은 산업을 위한 나라는 없다](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260913.fa32741b6b7c4555b062d6befa54cc65_T1.png)
![[기자의 눈] ‘윤리경영’ 내걸었던 김가네 김용만의 아이러니](http://www.ekn.kr/mnt/thum/202609/news-p.v1.20260129.684d119b57734d0d9f0ae25c28ea8bc9_T1.jpg)












