[이상호 칼럼] 인공지능 시대 미래 사회의 명암

▲이상호 대전대학교 정치외교학 전공 교수

최근 AI(인공지능)의 발전 속도가 심상치 않다. 거의 날마다 AI 관련 소식이 언론의 헤드라인을 장식하고 있고, 이에 따라 대중의 관심도 커지고 있다. 덩달아 엔비디아(NVIDIA) 등 AI 관련 소프트웨어와 하드웨어를 개발하는 업체의 주가도 폭등하고 있다. 많은 전문가들은 AI가 대세이며 인류의 미래를 AI가 견인할 것으로 예측한다.

미국의 대표적인 미래학자인 레이 커즈와일은 20년 전인 2005년에 2045년이면 AI가 인간을 초월하는 특이점이 올 것이라고 예언한 바 있다. 이른바 '범용인공지능(AGI· Artificial General Intelligence)'이라는 인간보다 뛰어난 지능과 능력을 갖춘 AI가 주도하는 시대가 열려 인간의 삶을 윤택하게 하는 건 물론 영생까지도 가능하게 할 것이라고 주장했다. 그러던 커즈와일은 최근 AI가 이미 인간과 유사한 수준으로 발전했고 2045년에 실현될 것이라던 특이점이 2029년이면 올 것이라고 밝혔다. AI 발전을 선도하는 엔비디아의 CEO 젠슨 황도 앞으로 5년 안에 범용인공지능이 완성될 것이라는 주장을 폈다. 예상을 뛰어넘는 무서운 발전 속도다.

그러나 AI 기술의 빠른 발전은 인류에 득보다 해가 될 수도 있다는 비판도 확산하고 있다. AI가 가진 수많은 장점에도 불구하고 AI의 가장 큰 능력인 탁월한 효율성이 오히려 인류를 감시, 속박하고 탄압하는 도구로 악용될 수 있기 때문이다. 궁극적으로 AI는 축복이 아닌 저주가 될 수 있다는 것이다.

중국 같은 권위주의 국가는 AI를 활용하여 전 국민을 감시하고 통제하며 '사회신용점수' 제도를 기반으로 정부에 순응하는 사람만 우대하는 '초거대 사회통제' 시스템을 운용하고 있다. 국민의 일거수일투족을 항상 추적하고 개인의 사고와 생활방식을 중국 정부가 선호하는 방향으로 개조하여 중국 공산당의 지배에 복종하는 인민을 양산하게는 게 목표다. 조지 오웰은 소설 '1984'에서 빅브라더의 완벽 통제와 무자비한 권력에 굴복하는 개인의 초라한 존재를 그렸는데 바로 이런 픽션이 현실 세계에서 실현되고 있다. 한국을 포함한 서방의 여러 나라도 방범과 교통통제를 목적으로 빅 데이터 및 AI 기반 각종 감시체계를 적극적으로 활용하고 있다. 이런 감시·통제 시스템의 확산은 돌이킬 수 없는 대세이며 자유와 익명성, 사생활 보호라는 인류의 보편적 권리가 점차 무시되는 상황이다.

AI가 적용된 각종 기계와 장비, 드론 등은 전쟁이나 분쟁에서 인간을 대량 살상하는 효율적인 무기가 될 수 있다. 빠른 속도로 발전하는 로봇 공학 기술과 접목하면 터미네이터 킬러 로봇이 탄생한다. 실제로 우크라이나나 이스라엘은 최근 전쟁에서 AI를 공격용 자살 드론에 탑재해 살상력을 강화하는 시도를 하고 있다. 앞으로는 인간의 의사 결정과 개입이 없더라도 이런 자동화된 킬러 무기들이 알아서 적과 위협을 식별하고 공격하는 게 일상화될 것이다.

그럼 이런 AI 기반 전쟁 기술은 어떤 방향으로 진화할까? 할리우드 영화들은 AI가 지배하는 세상이 인류에게 재앙이 될 것으로 봤다. 1983년 작품인 '워게임'에서는 미국의 핵무기를 통제하는 AI가 핵전쟁을 단순한 게임으로 인식해 소련에 핵 공격을 시도한다는 내용이다. 1984년 영화인 '터미네이터'는 인간을 불필요한 존재로 인식한 AI가 이상적인 세상을 건설하기 위해 전 인류의 절멸을 시도하는 스토리다. 1999년에 개봉한 '매트릭스'는 인간을 거대한 AI 시스템을 유지하기 위한 생체 배터리 역할 이외 다른 용도가 없는 불필요한 존재로 그렸다. 1998년 작품인 '에너미 오브 스테이트'는 현재 중국이 운영하는 범국가적 감시·통제 시스템과 같은 폭력적인 체계가 어떻게 한 개인을 파괴할 수 있는지 잘 보여줬다.

과거에는 상상의 영역이더는 이들 영화의 내용이 현실이 되고 있다. 미국이나 러시아의 핵무기 사용은 이미 자동화돼 최악의 경우 인간의 개입 없이 핵 공격과 보복을 할 수 있다. AI가 더 발전하면 인류를 더 이상 필요하지 않은 존재로 인식할 개연성은 충분하다. 이미 세상에는 중국의 사회신용제도 및 미국의 범세계적 통신·인터넷망 감청 시스템인 프리즘(PRISM) 같은 광역 감시·통제 체계가 작동하고 있다. 우크라이나 전쟁으로 시작된 AI 기반 킬러 무기체계의 확산과 발전은 이미 되돌릴 수 없는 대세다. 앞으로 전장에서 병사가 숨을 곳을 찾기 어려울 것이다. 후방의 지휘관들과 정치지도자도 더 이상 안전할 수 없다. AI가 주도하는 미래 전쟁에서 인류의 생존을 보장하기 어려울 수 있다.

현재의 AI추세를 거스르기는 거의 불가능하다. 부작용도 많지만, 편익도 많을 것이기 때문이다. 지금이라도 국제사회가 관련 법과 제도 및 규범을 확실히 정비하여 미래의 축복을 가장한 저주에 대비해야 한다.

이상호