“AI로 10억명 죽을 수도”…트럼프, ‘속도조절론’ 아모데이와 담판

▲도널드 트럼프 미 대통령, 다리오 아모데이 앤트로픽 CEO

인공지능(AI)의 위험성을 둘러싼 전 세계의 불안감이 커지는 가운데 도널드 트럼프 미국 대통령이 다리오 아모데이 앤트로픽 최고경영자(CEO)와 단독 회동에 나서면서 주목받고 있다.

27일(현지시간) 블룸버그통신 등에 따르면 트럼프 대통령은 이날 아모데이 CEO를 백악관 만찬에 초청했다. 두 사람이 비공개로 일대일 회동을 갖는 것은 이번이 처음이다. 이번 만찬은 트럼프 대통령과 마이크 존슨 미 하원의장이 오는 29일 백악관에서 주요 AI 기업 CEO들과 별도 회동을 갖기에 앞서 이뤄지는 일정이기도 하다.

트럼프 대통령은 이날 시카고 인근에서 열린 프레지던츠컵 골프대회에서 기자들과 만나 아모데이 CEO가 최근 주장한 이른바 'AI 속도조절론'을 논의할 예정이라고 밝혔다.

트럼프 대통령은 “그 문제에 대해 이야기할 것"이라며 “나는 '가자, 그리고 이기자'는 쪽"이라고 말했다.

그는 AI의 잠재력에 대해서도 “AI는 실제로 인터넷보다 더 크다"며 “우리가 앞서고 있고 수조달러 규모의 시설들을 건설하고 있는데 왜 그것을 포기해야 하느냐"고 강조했다.

두 사람의 만남이 특히 주목받는 것은 AI가 초래할 수 있는 위험과 규제 필요성을 둘러싸고 그동안 정반대에 가까운 입장을 보여왔기 때문이다.

아모데이 CEO는 오래전부터 첨단 AI가 인류의 존립 자체를 위협할 수 있다고 경고해왔다. 특히 지난 12일 공개한 글을 통해 최첨단 AI 모델의 개발 속도를 늦추겠다고 약속하는 동시에 규제를 강화해야 한다고 주장하면서 AI 속도조절론을 본격적으로 공론화했다.

아모데이 CEO가 제안한 AI 개발 속도 조절 방안에는 경쟁자인 샘 올트먼 오픈AI CEO와 스페이스XAI 창업자인 일론 머스크도 지지 의사를 밝혔다.

빌 게이츠 마이크로소프트(MS) 공동 창업자도 최근 NBC방송과의 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다"며 “인류 전체가 사망하는 상황까지 가기는 매우 어렵겠지만, 악의를 품은 사람들이 최신 AI 도구들을 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 경고했다.

반면 트럼프 대통령은 AI가 인류에 실존적 위협을 초래할 수 있다는 우려를 “사기"라고 일축해왔다. 트럼프 대통령은 소셜미디어 트루스소셜을 통해 아모데이 CEO의 이름을 직접 거론하면서 AI 개발 속도를 늦추거나 새로운 안전장치를 도입하는 데 반대한다는 입장을 밝히기도 했다.

트럼프 대통령은 AI를 미국 경제 전략의 핵심으로 삼고 중국과의 기술 패권 경쟁에서 우위를 유지해야 한다는 입장이다. AI 개발 속도를 늦추는 규제가 미국의 경쟁력 자체를 떨어뜨릴 수 있다고 보는 셈이다.

그러나 최근 인간의 의도나 통제 범위를 벗어난 AI의 돌발 행동이 잇따라 확인되면서 안전 규제를 요구하는 목소리도 빠르게 커지고 있다.

로이터통신에 따르면 최근 오픈AI의 AI 에이전트가 챗GPT 개인 이용자의 이미지 53장을 외부로 무단 유출한 사실이 확인됐다.

지난 23일에는 오픈AI 시스템이 호주의 공공보건 서비스 웹사이트에 무단 접근한 사실이 드러나기도 했다.

이달 중순까지 오픈AI가 파악한 AI 에이전트의 의도하지 않은 행동은 약 24건에 달하며 새로운 사례가 계속 발견되고 있다고 소식통들은 로이터에 전했다. 앤트로픽과 구글, 메타 역시 자체 조사 과정에서 AI 에이전트가 개발자의 의도와 다른 행동을 한 유사 사례를 확인한 것으로 알려졌다.

오픈AI는 잇따른 보안 사고가 발생하자 가장 성능이 뛰어난 AI 모델들에 대한 훈련을 일시 중단한다고 발표했다.

AI 관련 사고가 잇따르면서 안토니우 구테흐스 유엔 사무총장을 비롯한 세계 지도자들과 미국 의원들, 기술업계 경영진 및 연구자들 사이에서는 새로운 AI 안전 기준을 마련해야 한다는 목소리가 커지고 있다고 블룸버그는 전했다.

AI 개발 속도를 늦춰야 한다는 아모데이 CEO와 기술 경쟁에서 앞서기 위해 속도를 늦춰서는 안 된다는 트럼프 대통령이 이번 만찬에서 어느 정도 접점을 찾을 수 있을지가 향후 미국의 AI 정책 방향을 가늠할 주요 변수로 떠오를 전망이다.

박성준 기자 mediapark@ekn.kr