[데스크 칼럼] AI! 나는 너를 못 믿겠다

▲▲박상주 자본시장부장(부국장)

'AI로 신문 기사를 수집해서, 과거 주가 변동 추세를 딥러닝으로 분석해서, 주가를 정확히 예측해서, 기계적으로 매매해서, 고수익을 올리고 있다'라는 소문이 시장에 떠돈다. 펀드매니저보다 똑똑하고 횡령·조작도 못할 테니 인간보다 믿을 만하단다. 나는 그러나, AI가 하는 매매에 내 자산을 맡기고 싶지 않다. AI는 매매 판단의 근거를 설명하지 않고, 책임도 지지 않기 때문이다. 나는 차라리 완벽하지 않은 인간에게 책임을 묻고 싶다.

AI 개발 수준을 가늠하는 기준 중 하나가 튜링 테스트다. 영국의 수학자 앨런 튜링(Alan Mathison Turing, 1912~1954)이 고안한 인공지능 평가 방법이다. 1950년 철학 저널 '마인드'에 게재한 '기계가 생각하는 것이 가능한가?'라는 논문이 시초다. 테스트의 개념은 간단하다. 채팅으로 알 수 없는 상대방과 말을 주고받는데, 상대방이 인간인지 기계인지 구분할 수 없다면 기계인 상대방은 '인간과 같은 지능이 있다'라고 평가한다. 고릿적 인공지능 능력 평가 기준이지만 고전이다.

튜링 테스트를 통과하기 위한 알고리듬을 작성해 보면, 여러 경우의 수를 따져 봐야 한다. 인간은 질문이나 대답에 얼마나 빠르게 혹은 느리게 반응하는지, 얼마나 감정적인지 논리적인지, 얼마나 지식의 폭이 넓은지 좁은지 등등을 일일이 따져봐야 한다. 심지어 인간이 어떤 말에 신경질을 내는지, 어떤 타이밍에서 거짓말을 해야 하는지 등을 먼저 예상해 봐야 한다. 알고리듬을 짜다 보면 '인간은 왜 이 모양으로 불완전한가?'하는, 우리 종에 대한 회의마저 느껴진다.

물론 현재 인류를 휩쓸고 있는 AI 기술 수준을 보면, 튜링 테스트(1단계)쯤은 쉽게 통과한다. 최근까지 알려진 기술력으로 보면, 2단계 시청각(이미지나 음성 처리)도 통과한다. 갈겨쓴 손 글씨를 인식하거나 박보검 같은 연예인의 목소리를 합성해 내는 게 어렵지 않기 때문이다. 보이스 피싱에까지 영상통화가 사용되는 걸 보면 2단계는 이미 통과된 거다. 3단계는 화상전화를 통한 실시간 상호작용이라고 보면 된다. 학습 연산 속도에 달린 일이라, 통과가 멀지 않았다.

그래서 AI는 불안하다. AI의 시작점은 '뛰어난 지능'이 아니라 '인간 같은 지능'이라서다. 눈치 빠른 사용자는 AI 서비스를 사용하다 이상한 점을 발견할 수 있다. 뭔가 잘하는 거 같은데, 한두 가지 꼭 빠뜨린다. 더욱 완벽한 결과물을 만들어내려면 또다시 내 생각을 입력해야 한다. 그걸 여러 번 반복해야 하는데, 결과물이 개선되는 것 같긴 한데 또 한두 가지 부족하다. 나는 분명히 기계에게 일을 시키는데, 결국 내가 일을 하고 있다는 느낌이다. 그렇게 바이트를 소진하다 보면 어느새 페이월이 뜬다.

기계의 '의도된 실수'인데, AI가 인간처럼 느껴지게 만드는 로직 중 하나다. 튜링 테스트가 AI 설계 철학의 기반이기 때문이다. 기계처럼 완벽한 결과물을 내는 게 아니라 인간처럼 불완전한 결과물을 제출해야, 지능으로 인정받는다. 그리고 사실 '완벽한 결과물'이란 건 있을 수 없다. 그래서 AI 개발자들은 생성형 AI의 설계 철학을 두고 '아직도' 싸운다. AI를 인간처럼 만들었으니. 돈도 인간처럼 버는 거다.

불완전한 AI가 판타지로 활용된다. 기계에 자산을 맡겨두면 24시간 돈을 불려줄 것만 같다. 또 그럴 것처럼 광고한다. 그러나 모두 헛소리다. AI는 학습 구조상 어떤 판단 근거로 매매를 하는지 설명할 수 없다. 손실을 낸 기계는 절대 책임지지 않는다. 기계를 만든 사람도 책임지지 않는다.

박상주 기자 redphoto@ekn.kr