김성훈 업스테이지 대표, 美국무부서 'AI윤리·신뢰성' 발표

▲김성훈 업스테이지 대표가 미국 워싱턴 국무부에서 개최된 ‘한미 ICT 정책 포럼’에서 ‘AI 윤리·신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 발표하고 있다.

[에너지경제신문 윤소진 기자] 업스테이지는 미국 워싱턴 국무부에서 개최되는 ‘한미 정보통신기술(ICT) 정책 포럼’에서 인공지능(AI) 윤리 및 신뢰성 관련 발표를 진행했다고 15일 밝혔다.

한미 ICT 정책 포럼은 과학기술정보통신부와 미국 국무부 간 ICT 분야 협력 증진을 위해 2013년부터 매 1~2년 주기로 개최되는 정부 간 협의체다. 이번 포럼은 지난 12일부터 13일까지 이틀간 민간기업과 정부가 함께 참여하는 민관 세션과 정부 세션으로 나눠 진행됐다.

업스테이지는 12일 진행된 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 업스테이지 대표는 ‘AI 윤리·신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 자사가 운영하는 데이터 수집 및 공유 플랫폼인 ‘1T 클럽’을 대표적인 사례로 소개했다.

김 대표는 "데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 컨텐츠 제공자와 수익을 공유하고 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있는 ‘1T 클럽’을 통해 다양한 분야의 전문가들과 협력을 위해 이를 위한 정부의 협력이 필요하다"고 말했다.

그는 이어 "글로벌의 연구그룹과 기업 등 다양한 조직들이 대규모언어모델(LLM)의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있는데 AI 기술 발전의 절반 이상은 데이터의 역할이 크다"며 "데이터 수집 단계부터 집중하며 수익을 공유함으로써 데이터를 제공하는 컨텐츠 부문도 더 활성화될 것"이라고 강조했다.

김 대표는 업스테이지가 좋은 데이터를 모으기 위해 △사람중심 △신뢰성 △공정성 △안전성 △보편성의 5대 윤리원칙에 기반, 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환이 이뤄져 가장 중요한 진실되고 윤리적인 양질의 데이터를 모으는 데 앞장서고 있다는 것이다.

지난달부터 신청을 받고 있는 업스테이지의 ‘1T 클럽’은 한국어 데이터의 부족 문제 해결과 데이터 제공자와 모델 제작 기업이 상생하는 생태계 확립을 통한 국내 LLM의 독립을 목표로 한다. 업스테이지는 1T 클럽을 통해 한국어 데이터를 확보하고 공유함으로써 한국문화 정서를 담아낼 수 있는 고품질의 LLM을 개발하고 이를 통해 국내 생성 AI 다양한 분야의 애플리케이션에 활용, 인공지능의 발전에 기여할 수 있을 것으로 기대하고 있다.

‘1T 클럽’에 참여하는 파트너사들은 데이터 제공량에 비례해 어플리케이션환경(API) 사용료를 할인해 주고 LLM의 API 사업으로 창출될 수익을 공유하는 등 두 가지 방식의 혜택을 받을 수 있다.

김 대표는 "이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고, 협력을 강화하는 중요한 기회가 될 것이라고 기대한다"며 "업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고 다양한 파트너들과 협력하고자 한다"고 말했다.


sojin@ekn.kr