KT클라우드, 비용 낮춘 AI 인프라 서비스 출시

▲KT클라우드 관계자들이 인공지능(AI) 추론 전용 인프라 서비스 ‘AI SERV’를 소개하고 있다.

[에너지경제신문 정희순 기자] KT클라우드(kt cloud)가 슬라이싱 기술을 그래픽처리장치(GPU)에 적용한 인공지능(AI) 추론 전용 인프라 서비스 ‘AI SERV’를 출시했다고 16일 밝혔다.

초거대 AI 분야에서 학습 영역은 단기간 집중적으로 대용량·고사양의 GPU가 필요한 것과는 달리, 추론 영역은 적은 양의 GPU를 끊김 없이 상시 사용해야 하는 특성을 가지고 있다. 그런 만큼 학습에 사용한 인프라를 그대로 추론 인프라로 활용할 경우 필요 이상의 비용 부담이 발생해 왔다.

kt cloud가 이번에 출시한 AI SERV는 AI 개발·학습을 마치고 AI 서비스를 제공 중인 AI 전문기업, 스타트업 등이 고성능 GPU 인프라를 각 서비스에 필요한 만큼만 분할하여 최적의 양을 사용할 수 있는 것이 특징이다. 비용 효율성뿐 아니라 성능, 호환성 등 추론 영역에서 가장 중요한 조건까지 갖추고 있어 추론형 AI 인프라 시장의 혁신을 이끌 것으로 기대된다.

윤동식 kt cloud 대표는 "이번 AI SERV 출시로 고객들이 AI 학습부터 추론, 서빙 환경 구성까지 각 단계에서 최적의 인프라를 보다 합리적인 비용으로 사용할 수 있게 됐다"며 "다양한 AI 전문기업, 스타트업들이 부담 없이 AI 인프라를 활용하도록 힘쓰는 한편, 국내외 파트너사와 협력해 초거대 AI 산업의 활성화 및 생태계 확장을 위해 지속 노력할 것"이라고 말했다.
hsjung@ekn.kr