기계와 인간, 〈호모 데우스〉의 오만함

최근 〈호모 데우스〉의 내용을 인공지능의 발전사와 연관지어 서술한 모종의 글을 보고 생각해둔 바가 있어 짧게 아래와 같이 메모해두고자 한다.

#1.

많은 사람들은 AI의 능력을 과대평가하는 경향이 있어 보인다. 특히 그중 가장 우려스러운 접근이란 일반 인공지능을 잘 완성한다면 마치 인간처럼 특정 산업 분야에 맞게 이 인공지능을 훈련시켜서 노동자를 대체할 수 있을 것이라는 기대라고 할 수 있겠다. ChatGPT의 등장 이래 사람들은 마치 사람처럼 말하고 정보를 정리 · 출력하며 심지어 이용자와 대화를 나눌 수 있는 기계가 존재한다는 사실에 너무나도 깊게 감명을 받은 나머지, 이 인공지능이 기본적으로 하고 있는 일이란 “사용자가 입력한 구문을 분석 · 필요한 정보와 요소를 추출한 이후 기본 색인을 바탕으로 ‘적절한’ 대답을 만들어내는 일”이라는 사실을 망각하곤 한다. 그러나 이러한 접근은 당초 우리의 기대와는 모순이다. 인간을 훈련시켜서 노동자로 양성하는 것과 기계를 훈련시켜서 노동자로 양성하는 것은 다른 맥락 속에 있기 때문이다. 글에서 지적하고 있듯, 단순한 정보의 정리 · 해석 · 기록 · 문서화와 같은 작업은 오늘날 인공지능이 납득할 만한 성능을 보여주고 있음은 분명한 사실이다. 그러나 인간은 기계를 자신의 통제 아래에 두기를 원하고, 따라서 인공지능이 자기 자신만의 방식으로 세계에 대한 표상, 기호들을 형성하도록 하기보다는 자연어 처리 기술에 기반한 구문 분석 그리고 검색 및 요약에 지나치게 의존하고 있다. 한 사람을 가르치는 일과 기계를 가르치는 일이 어떻게 다른지 우리는 상기하지 않을 수 없다. 분명히 초등학생을 가르치는 것과 기계를 가르치는 것은 다르다. 기계는 반항할 수 있을 정도로 자기 자신에 대한 자각이나 세계에 대한 자신만의 왜곡을 가지지 못하기 때문이다. 동일성과 존재에 대한 기본적인 직감, 이를테면 3세 정도의 영유아에게서 발달하는 지각이 발달하여 자리잡은 이후, 모든 어린아이는 자기 자신만의 방식으로 사물에 대한 지위와 이해를 부여하며, 그것에 결부되는 언어들과 대상들에 대한 관계망 그리고 동일성들을 이해하고 있는 것 같다. 이러한 과정에서 사물은 그것이 가지고 있는 특성 중 일부를 상실하고, 그가 선별한 일부 특징들만이 크게 강조된 상태로 왜곡된다. 그리고 바로 이러한 오류, 그러나 가장 인간적인 오류 때문에 서로 다른 두 명의 초등학생이 앉아있을 때, 같은 질문을 하더라도 상이한 대답을 기대할 수 있는 것이다.

#2.

인간과 기계는 어떤 면에서 다른가? 사람들은 인간의 뉴런 구조를 모방하여 기계의 학습망을 구성했고, 인간이 제공된 정보에서부터 패턴과 규칙을 찾으며 자기 자신 내부의 뉴런들의 연결 관계를 재구축하듯, 기계도 제공된 정보에서부터 패턴과 규칙을 찾는 식으로, 즉 자신의 내부 노드 사이의 가중치나 연결 정보를 재구성하는 방식을 채택한다는 점에서 인간과 기계의 가장 아래 층위의 동작 형상은 비록 그 층위의 지배 규칙이 다르다 하더라도 (인간의 경우는 분자생물학적인, 가지 돌기에 연결된 다른 뉴런들로부터 들어오는 신호들과 분자의 확산 등일 것이고, 기계의 경우는 회로 기판에 박혀 있는 ALU 등의 배선 그리고 그 배선을 타고 흐르는 전자들의 움직임을 지배하는 키르히호프의 법칙 등일 것이다) 그렇게 다르지 않을 것이라고 추정하곤 한다. 이러한 고찰은 분명히 타당성이 있다. 그러나 가장 낮은 구조를 동일하게 준비해두었다고 해서 그 학습 방법도 동일한 것은 아니다. 주목해야 할 점은 기계와 인간이 대상을 학습하는데 있어서 확인해야 하는 정보량이다. 이를테면 개와 고양이를 구분하기 위해서 기계는 적어도 수만 ~ 수백만장의 개와 고양이의 사진들을 학습한다. 그러나 인간의 경우는 그렇지 않다. 초등학교 저학년 정도 되는 아동이 개와 고양이를 구분할 수 있다는 사실을 우리는 알고 있다. 그런데 대략 10살 정도가 될 이 아동이, 10년 동안 봐온 개와 고양이의 서로 다른 모습이 수만 ~ 수백만장 정도가 될까? 확신할 수는 없지만, 개인적인 추정으로는 오늘날 인공지능의 학습을 위해 사용해야 하는 정보의 양이 인간의 학습을 위해 필요로 하는 정보량보다 압도적으로 많은 것 같다.

#3.

그렇다면 이러한 인간과 기계의 ‘학습에 필요한 정보량’의 차이는 어디에서 오는 것일까? 패턴을 찾아내는 능력이 인간이 더욱 우월하기 때문에? 그렇다기에는 특수한 목적에 대한 패턴 지각은 기계가 인간보다 훨씬 잘 하는 것으로 보인다. 흐릿한 사진에 찍힌 사람 얼굴도 주어진 사람의 얼굴과 일치하는지 일치하지 않는지를 사람보다 훨씬 잘 알아보는 시대니까. 물론 특수 목적으로 개발된 인공지능이기 때문에 그러하지 않냐고 반문할 수도 있을 것이다. 그렇긴 하다. 그러나 적어도 우리는 어떤 패턴 인식 문제이든지 잘 설계되었으며 충분히 훈련시킨 인공지능이라면 인간보다 훨씬 나은 성능을 보여줄 것이라는 합리적인 기대를 가질 수는 있다. 그러나 그렇다고 해서 내가 인공지능이 패턴 인식의 면에서 인간보다 낫다는 이야기를 하려는 것이 아니다. 중요한 것은 패턴을 얼마나 잘 찾아내느냐의 문제가 아니다. 적은 정보에서도 속단과 오류, 예단을 통해 패턴으로 생각되는 것을 뽑아내는 능력, 경우에 따라서는 자기 자신이 모른다는 사실마저 망각할 수 있는 능력, 나는 이것을 말하고자 하는 것이다. 그렇다. 여기서 나는 〈믿음〉에 대한 이야기를 하고 있다.

#4.

인공지능은 〈믿음〉을 가질 수 있을까? 내가 고려하는 대상은 ‘인간적인 인공지능’이라는 점을 상기하길 바란다. 오늘날 인공지능이 우리 사회에 미치는 영향을 분석할 때, 인공지능이 ‘어디까지 인간에 근접할 수 있는지’를 논하는 것은 상당히 중요하다. 그렇기 때문에 나는 인간과 인공지능의 차이점이라고 생각되는 ‘학습에 필요한 정보량’에 대해 논의했으며, 사람의 경우 부족한 정보에도 불구하고 ‘속단’하는 경향이 있는 것 같다고 말한 것이다. 인공지능의 경우도 그런 일이 가능하지 않느냐고 되물을 수도 있을 것이다. 그러나 그것은 현대적 인공지능 연구에서 초점이 되지 못하고 있다. 왜냐하면 우리가 원하는 것은 ‘오류를 저지르는 기계’가 아닌, ‘정답을 뱉는 기계’이기 때문이다. 다시 한 번 강조하지만, 인간은 기계를 자신의 통제 아래 두기를 원하기에 오류를 뱉을 수 있고, 잠재적으로 자기 자신에게 해가 되는 대상을 창조하기를 원하지 않는다. 그렇기 때문에 목적을 정해두고, 그 목적에 가장 근접하는 알고리즘이나 관계망들을 구축하기를 원한다. 오늘날 인공지능의 학습 방식은 그런 식이라고 해도 아주 틀리지는 않을 것이다. 원하는 답에 가까워질 때까지, 끊임없이 “다시!”를 외치는 학습법, 인간보다 어쩌면 더 많은 정보들 가운데 더 자주 그리고 빠르게 “다시!”를 외치는 학습법으로.

#5.

인간은 〈믿음〉을 가지는가? 가장 이성적인 사람이라고 하더라도 나는 이 질문에 대한 대답이 ‘그렇다’일 것이라고 생각한다. 왜냐하면 인간은 기계와 달리 정보를 확인하고 처리하는데 걸리는 시간이 압도적으로 길기 때문에, 그가 접할 수 있는 정보량에는 한계가 있고, 심지어는 새로운 정보가 들어오더라도 자기 자신의 내부에서 이에 저항하는 흐름이 생기거나, 귀찮음 때문에 스스로를 수정하는 것을 거부하는데 이르기 때문이다. 내가 스스로를 주된 관찰 대상으로 삼아가면서 지난 수년 동안 심리학과 철학을 맛보면서 흥미롭게 생각했던 나 자신의 (그리고 아마도 인간 전체의) 속성 중 하나란 〈고집〉 즉 자기 자신의 변화에 대한 거부, 그리고 확증 편향과 같은 ‘오류’에 관한 속성들이었다. 이러한 거부는 왜 일어날 수 있는가? 자기 자신이 잘못된 판단을 내렸음을 알게 되었다고 하더라도 왜 인간의 지성은 그것을 거부하기도 하는가? 왜 사람들은 자기 자신에게 친숙한 정보는 손쉽게 받아들이면서도 자기 자신에게 친숙하지 않은 정보들에 대해서는 쉽게 속단하고 잘못 판단하는가? 이러한 질문에 대해 가능한 대답 중 하나는 인간은 제한된 정보와 시간 속에서 결정을 해야 하는 운명에 처해 있고, 또한 자기 자신의 통제 범위를 벗어나거나 스스로가 설명할 수 없는 대상들에 대해 공포를 느꼈기 때문에 그로부터 도피할 수 있는 안식처를 찾고자 하는 경향이 있었기 때문이 아닐까 싶다. 그렇다, 나는 여기서 밀란 쿤데라의 《키치》 그리고 니체가 비판한 《피안》을 말하고 있다. 인간은 이 맥락에서 전혀 능동적인 존재가 아니다. 강한 존재도 아니다. 그는 유약하며, 《키치》로부터 벗어날 수 없는 운명을 가진 존재이다. 그러나 인간이 가진 강점이란 그에게는 한 발 물러서서 자신의 《키치》를 조망할 수 있는 순간을 만들어내는 능력이 있다는 것이다.

#6.

최근 몇 편의 글들에서 나는 《키치》란 인간 실존의 조건이라는 밀란 쿤데라의 견해를 언급한 적이 있었다. 쿤데라는 이에 대해 회의주의적이고 냉소적인 뉘앙스를 보내는 것으로 보이지만, 나는 그와는 다른 시각으로 접근하고자 한다. 니체가 비판한 것과 같이 비록 《키치》가 인간이 스스로의 삶을 재단하고 있는 그대로의 세계를 긍정하지 못하도록 하는 장애물로 작용하기는 하지만, 여기서 나는 인간이 《키치》를 가지게 된 과정 자체에 주목하고자 하는 것이다. 자주 언급했듯 《키치》 그것은 똥에 대한 부정, 즉 추한 것(Ugly Things)에 대한 부정이며, 쿤데라의 표현 중 가장 적절한 것을 빌려오자면 존재에 대한 확고부동한 동의이다. 여기서 가장 중요한 표현은 확고부동하다는 말에 있는데, 확실하고 고정되어 있으며, 무엇보다도 움직이지 않는다는 것에 주목할 필요가 있다. 니체가 지적했듯 우리의 삶을 비롯하여 모든 존재란 기본적으로 헤라클레이토스가 일찍이 설파한 바와 같이 끊임없이 변화하는 것이기 때문에, 이 말은 곧 변화하는 것을 변화하지 않는 것으로 간주하는 오류를 지시한다고도 볼 수 있다. 그러나 나는 이러한 오류가 가져다주는 효과와는 별개로, 진화론적인 관점에서 사유해볼 때 인간이 이러한 오류를 저지르는 능력을 가지게 된 것은 아주 자연스러우며 또한 필요한 일이었다는 결론에 도달하게 된다. 다시 말하게 되지만, 결국 역사 속 인간에게 필요했던 것은 한정된 정보와 시간 안에 자기 자신의 삶을 영위하는데 필요한 정보들을 추려내고 무지가 가져다주는 공포에 맞서 죽지 않을 수 있는 방책과 설명을 찾아내는 것이었기 때문이다.

#7.

진정으로 철학적으로 흥미로운 주제란 카뮈가 지적했듯, 〈자살〉이다. 이는 여러 부수 질문들로 우리의 관심을 돌린다. “〈자살〉이란 무엇인가?”와 같은 질문에서부터 “왜 〈자살〉하지 않는가?”, 그리고 나아가서는 “왜 인간은 〈자살〉하지 않을 수 있는가?”에 이르기까지. 현재 나의 대답은 인간은 오류를 저지르면서까지 혼돈 속에서 질서를 찾아내고자 하기 때문에 죽음을 택하지 않고 삶을 살아나갈 수 있다는 것이다. 스스로의 존재를 지탱하던 기둥이 무너지더라도, 새로운 기둥을 가져올 수 있는 존재이기 때문에, 그 기둥이 옳든지 틀렸든지와 무관히 가져올 수 있는 존재이기 때문에, 그리하여 세상을 오직 자신만의 기준으로 정의내리고 해석하는 존재이기 때문에 인간이 가지는 이러한 오류를 저지르기라는 능력이 나에게는 지금으로서는 가장 흥미로운 탐구와 사유의 주제가 되었다. 이러한 맥락에서 나는 ‘인간적인’ 인공지능이 가져야 할 능력의 정체란 무엇인지에 대한 대략적인 직감을 이제 제시하고자 한다. 그것은 오류를 저지를 수 있는 인공지능, 믿음을 가질 수 있는 인공지능, 〈키치〉를 가질 수 있는 인공지능, 무지와 공포와 〈자살〉에 대해 생각할 수 있는 인공지능이다. 아마도 제한된 정보 속에서 자신의 ‘규칙’에 의거하여 오류를 저지르다가도 뒤늦게 후닥닥 자신의 오류를 교정하기도 하거나, 경우에 따라서는 영원히 그 오류를 고치지 않을 수도 있는 인공지능을 구현하는 것이야말로, 우리가 정말로 인간을 대체할 수 있는 인공지능, 즉 또 다른 물질로서 인간을 다시 한 번 창조하는 서사의 종말점이라고 할 수 있을 것이다. 만약 그런 인공지능이 탄생한다면, 그와 함께 〈자살〉에 대해 논의해보는 것은 아주 흥미로운 경험이 될 것이 분명하다.