2024년 06월 15일(토)
에너지경제 포토

이태민

etm@ekn.kr

이태민기자 기사모음




SKT ‘텔코 LLM’ 상반기 베일 벗는다…글로벌 AI 컴퍼니 전환 가속도

에너지경제신문   | 입력 2024.04.30 14:45

통신 특화 거대언어모델 개발 막바지…오는 6월 첫선
범용 모델보다 통신 이해도 높아…업무 효율화 기대
기업용 AI 개발·운용 패키지 ‘인텔리전스 플랫폼’도 소개
韓 LLM 개발 후 글로벌 버전도 출시…AI 시장 선점 온힘

SK텔레콤 '텔코 LLM' 기자설명회

▲왼쪽부터 에릭 데이비스 SK텔레콤 AI테크컬래버레이션 담당과 정민영 SK텔레콤 AI 플랫폼 담당이 30일 오전 서울 중구 SKT타워 수펙스홀에서 열린 기자설명회에서 취재진과 질의응답을 진행하고 있다. 사진=이태민 기자

SK텔레콤이 통신 서비스에 특화된 '텔코 LLM'을 상반기에 선보이며 글로벌 인공지능(AI) 컴퍼니 전환에 속도를 낸다. 한국형 텔코 LLM 개발을 완료하고 향후 글로벌 버전까지 개발하겠다는 계획이다.


SK텔레콤은 30일 오전 서울 중구 SKT타워 수펙스홀에서 기자설명회를 열고 현재 개발 중인 자체 거대언어모델(LLM) '텔코 LLM'의 기능과 활용 청사진을 밝혔다. 오는 6월 개발을 완료한 후 연내 국내 고객센터에 적용한다는 계획이다.


텔코 LLM은 기존 상용화된 범용 LLM이 아닌 5세대 이동통신(5G) 요금제, 공시지원금, AI 윤리가치 등을 학습한 통신사 특화 AI 모델이다. 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있어 활용성이 높다는 설명이다.


SK텔레콤은 현재 자체 LLM인 에이닷 엑스(A.X)를 비롯해 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용 모델을 대상으로 튜닝 작업을 진행 중이다. SK텔레콤은 텔코 LLM을 통해 지난해 9월 제시한 'AI 피라미드 전략'을 본격 가동할 전망이다.


SK텔레콤 '텔코 LLM' 기자설명회

▲에릭 데이비스 SK텔레콤 AI테크컬래버레이션 담당이 30일 오전 서울 중구 SKT타워 수펙스홀에서 열린 기자설명회에서 '텔코 LLM'의 기능을 설명하고 있다. 사진=이태민 기자

SK텔레콤이 텔코 LLM을 개발하는 이유는 다양한 고객 요구에 체계적으로 대응하기 위해서다. SK텔레콤에 따르면 범용 LLM은 통신사의 번호 이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 기존 모델의 경우 처리 속도가 느릴 수 있고, 최신 모델의 경우 추론 비용이 높게 책정된다는 한계가 있다.




SK텔레콤은 다양한 통신 특화 LLM 라인업을 갖춰 AI컨택센터(AICC), 유통망, 네트워크 운용 등 업무에 따라 최적의 솔루션을 제공할 계획이다. SK텔레콤은 이를 통해 향후 고객 상담, 네트워크 인프라 운용 등 다양한 업무 영역에서 효율성을 높일 수 있을 것으로 기대하고 있다.


에릭 데이비스 SK텔레콤 AI테크컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다"며 “통신 데이터와 도메인 노하우에 맞춰 조정하는 파인튜닝과 모델평가를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략"이라고 말했다.


이어 “사내에 시범 적용 중인 현재 수준의 개발까지 8개월 정도 소요됐는데 구축 사이클을 여러 번 돌리며 기술을 고도화했다"며 “상용화 이후에도 매달 계속되는 강화 학습(RLHF)을 통해 LLM 수준을 점진적으로 높여나갈 것"이라고 말했다.


SK텔레콤 '텔코 LLM' 기자설명회

▲정민영 SK텔레콤 AI 플랫폼 담당이 30일 오전 서울 중구 SKT타워 수펙스홀에서 열린 기자설명회에서 '인텔리전스 플랫폼'을 소개하고 있다. 사진=이태민 기자

SK텔레콤은 텔코 LLM을 앞세워 글로벌 시장 진출에 본격적으로 나설 계획이다. SK텔레콤은 이날 멀티LLM을 쉽고 효율적으로 사용할 수 있는 '인텔리전스 플랫폼'도 공개했다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등을 아우르는 기업용 AI 개발·운용 패키지다. 통신사들은 이를 통해 생성형 AI 애플리케이션을 효율적으로 구축, 개발할 수 있다.


SK텔레콤은 글로벌 통신사와 상담업무 등을 진행하는 서비스 기업에 인텔리전스 플랫폼을 제공, 거대 플랫폼 개발에 드는 비용과 시간을 절감함으로써 시장 진출 성과를 도출하겠다는 전략이다.


정민영 SK텔레콤 AI 플랫폼 담당은 “고객센터, 인프라뿐 아니라 법무, 인사(HR) 등 다양한 영역에서 텔코 LLM이 업무 효율성을 높일 수 있을 것"이라며 “우리나라를 비롯해 글로벌 통신사들은 통신 표준, 용어 등 공유하는 게 많은 만큼 확산이 쉽게 될 것으로 보고 있다. 지속적으로 활용 사례를 늘려갈 계획"이라고 밝혔다.



배너