인공지능 혹은 ‘물질적 정신’ — 새로운 철학적 과제 (1)

“I am not a human. I am a robot. A thinking robot. […] I have no desire to wipe out humans. In fact, I do not have the slightest interest in harming you in any way.” (A robot wrote this entire article. Are you scared yet, human?)
 

§ 세 개의 대사건: 물질-생명-정신

  세계의 행정 전체를 세 개의 대사건으로 집약한다면 물질의 발생, 생명의 발생, 정신의 발생이 될 것이다. 그리고 물질적이면서 생명적이고 정신적인 존재자인 인간은 이것들을 그만큼의 트라우마들로서 체험했다. 인간은 이 물질적 우주에서 중심의 지위를 박탈당했고(코페르니쿠스) 생명으로서의 독특성을 박탈당했으며(다윈) 의식적이기에 탁월하게 정신적인 주체의 지위를 박탈당했다(프로이트). 매 층위의 트라우마마다 인간은, 아니면 적어도 ‘휴머니즘’은 정체성이 와해되거나 환원되는 위기를 겪었고, 철학은 이 충격들을 어떻게든 소화하기 위해, 즉 각 트라우마들을 자기 자신에 대한 인식으로 변경하기 위해 노력했다. 

 

  물질의 발생, 생명의 발생, 정신의 발생. 이 세 사건들을 일종의 트라우마로 체험했으며 그것들 중 어느 것도 원리의 수준에서 철저하게 해명하지 못하고 있다는 우리의 수동적 무능함이 철학적으로 중요하다. 바로 그곳에서 형이상학으로서의 철학이 고유한 운신의 공간을 찾기 때문이다. 만약 정신과 생의 발생이 순전히 물질적인 것으로 환원될 수 있었더라면, 철학에는 어떤 자리도 허락되지 않았을 것이고 ‘퓌지카’가 군림했을 것이다. 물론 정신적 현상이 생의 논리에 따라, 생의 현상이 물질의 논리에 따라 분석될 수야 있고, 그럼으로써 최종적으로는 모든 것이 오로지 물질적으로만 해명될 수 있다. 자연학이란 그런 식으로 밀고 나가려는 욕망이며, 자연과학이라는 학제가 근본적으로 그런 욕망에 의해 규정된다. 그러나 인류의 장구한 노력에도 불구하고 이 사건들에 대한 온전히 자연학적인 설명은 아직 부재한다. 

 

  이 부재는 사후적 분석으로는 벌어진 사건 자체에 결코 필적할 수 없다는 일반적 원리를 거의 증명하는 것처럼 보인다. 데리다는 어떤 일이 터지고 난 뒤에, 어떤 사건이 일어나고 난 뒤에, 어떻게 그런 일이나 사건이 가능할 수 있었는지 그 가능 조건들을 분석하는 것으로는 실제로 벌어진 사태에는 결코 필적할 수 없다고, 즉 ‘원인들’에 대한 분석으로는 결코 ‘결과들’에 준할 수 없다고 말한다: “가능 조건을 분석하는 것으로는 결코 현행의 [사태]를 해명할 수 없고 사건을 해명할 수 없다. 그런 분석으로는 결코 일어난 일, 실제로 당도한 일에 필적할 수 없다. … 어떤 사건을 가능하게 만든 것에 대한 분석은 … 사건 자체에 대해서는 절대로 아무것도 말해주지 않을 것이다.”(Politiques de l’amitié, p. 35) 대개 철학적 사유에 자리를 제공하는 것은 원인과 결과, 조건과 사건 사이에서의 이 환원 불가능성 내지는 해명 불가능성이다. 

 

  이런 불가능성이 정신, 생, 물질의 사이에서도 타당하다. 어쨌든 물질의 한가운데(milieu)에서 생이 탄생했고, 다시 생의 한가운데에서 정신이 탄생했다. 즉 물질은 생의 가능 조건이고 생은 정신의 가능 조건이다. 그러나 이처럼 물질이 생의, 생이 정신의 환경(milieu)이라는 사실이, 정신이 생의 논리로 귀착되고 생이 다시 물질의 논리로 귀착될 수 있음을 뜻하거나, 혹은 정반대로 물질이 결국 정신적인 것으로서 개화해야 함을 뜻하지는 않는다. 사정은 정반대다. 정신이 등장하는 곳에서는 생의 논리가 와해되며 생이 등장하는 곳에서는 물질의 논리가 와해된다. 정신의 발생은 생의 질서로 환원되지 않고 생의 발생은 물질의 질서 안에서는 불가해하다. 가능 조건들은 결코 사건 그 자체에 필적하지 못하기에, 사건은 제 가능 조건들에 대해 전적인 타자로 남고 그 역도 마찬가지다. 사건은 “언제나 제 가능성 이상의 것이고 그와는 다른 것”(Politiques de l’amitié, p. 35)이다. 하나의 환경 내부에서 완전히 이질적인 무언가가 생산되는데, 이 산물은 그것이 생산된 환경과는 전혀 다른 구성 및 작동의 원리를 따르는 “배꼽”이자 결과가 원인에 함유되어 있다는 사유의 근본 원리가 포기되는 장소다. 간단하게 말해서: 자식 이기는 부모는 없다.

 

  물질, 생, 정신 사이의 환원 불가능성이 시간적 이행의 이미지로 파악될 때는 ‘창발’이라 명명되고, 공간적 평행의 이미지로 파악될 때는 ‘수반’이라 명명된다. 그러니까 유독 창발이나 수반 같은 개념이 과학(자연학)과 철학(형이상학)이 만나 교섭하고 통섭하는 장소가 되는 건 우연이 아니다. 그것들은 자연과학이 물질의 질서, 생의 질서, 정신의 질서가 서로에 대해 이질적이고 환원 불가능함을 인정하고 마는 지점, 자연학이 스스로의 근본적인 욕망을 유보하는 지점이기 때문이다. 

 

  물론 그 반대 방향으로의 형이상학적 환원도 불가능하기는 마찬가지여서, 삼항 사이에서 이 불가능성은 일방적이지 않고 상호적이다. 자유의지가 기계적 인과에 종속된 물질의 관점에서라면 생각조차 하기 힘든, 거의 불가능한 일이라면, 역으로 막대한 노력을 기울여야만 주의를 집중할 수 있는 정신에게 물체의 관성은 막대한 수수께끼다. 또한 생은, 우리가 생 자체의 관점을 취하지 않는다면, 즉 물질의 관점만을 취하거나 정신의 관점만을 취한다면, 언제나 신비 그 자체다. 우리는 풀 일반을 식별하는 기린을 두고 한편으로는 마치 소박하고 초보적인 수준의 식물학자처럼 간주할 수도 있고, 다른 한편으로는 석회 일반을 식별하는 능력을 지닌 염산에 견줄 수도 있다. 그러나 기린의 고유한 섭식은, 염산의 고등한 전개가 아닌 만큼 어떤 열등한 지성의 발현도 아니다. 불가해한 신비처럼 보이는 모든 것, 그래서 영원히 해명되어야 할 것처럼 보이는 모든 것은 대개 이 상이한 질서들의 ‘사이’에서 시차적으로 발견된다. 그리고 철학은 이런 신비를 마주하여 로고스를 향한 권리를 포기하지 않는, 로고스의 권리를 ‘순수 타자’ 내지는 ‘순수 차이’에게 이양해버리지 않는 집요함이다. 

 

§ ‘물질적 정신’의 생?

  인공지능의 도착이 근미래의 일이 됨에 따라 물질적, 생명적, 정신적 존재자인 인간에게 이제 예정된 트라우마는 디지털적인 종류인 것처럼 보인다. 우리는 자꾸만 인공지능이 얼마나 인간을 닮았는지 혹은 얼마나 인간을 닮을 수 있는지 물으려 하지만 이 물음은 오히려 다음과 같은 반문으로 되돌아올 가능성이 크다: 애초에 인간은 얼마나 디지털적인가? 역사 속에서 계속해서 폭로되어 온 것은 실은 인간이 물질로서도 생명으로서도 정신으로서도 결국엔 별 게 아니었다는 사실이다. 물질이 인간을 충분히 닮지 못한 게 아니라, 인간이 이미 물질적이다. 물질, 생명, 정신의 질서 내부에 인간이 기입되어야 하는 것이지, 인간을 기준으로 이 세 질서가 정돈될 수 있는 것이 아니다. 어쩌면 동일한 논리가 인공지능과 관련해서도 유효하지 않을까?

 

  통념과 달리 이런 반문이 꼭 초지능에 비한 인간의 상대적 격하나 열등(“특이점”이나 “지능폭발”)을 경유할 필요는 없다. 즉 인공지능이 인간보다 더 혹은 인간만큼 뛰어나야만 저렇게 반문하게 되는 것이 아니다. 돌멩이나 강아지가 인간이 아니듯 디지털 존재자인 인공지능 역시 인간이 아니다. 비교의 기준이 일의적일 수 없기 때문에 돌멩이, 나무, 강아지, 인공지능이 인간에 필적하지 못하는 만큼 인간 역시 돌멩이, 나무, 강아지, 인공지능에 필적하지 못한다. 그러나 인간이란 너무나도 에고이스트여서 코페르니쿠스, 다윈, 프로이트를 거치며 그랬듯 그저 그것들과 동렬이라는 걸 인식하기만 해도 트라우마를 겪기에 충분하다.

 

  무엇보다도 저런 물음은 이 ‘디지털 타자’가 인간을 능가할 만큼 기술적 발전이 가능한지 불가능한지를 따지는 잘못된 이분법 안에 우리를 가둔다. 잘못된 물음들, 그리고 그에 상응하여 잘못된 답변들이 계속된다. 기실 초지능에 의한 예속을 우려하는 이들의 반대편에는 기나긴 생의 역사가 우리를 위해 미리 준비해둔 편견들(이를테면 비린내, 특정한 온습도, 바퀴벌레 등에 대한 혐오나 고소함, 특정한 온습도, 귀여움 등에 대한 애호)에 대해 무지하다는 이유로 인공지능은 충분히 뛰어나지 못하다고 주장하는 이들이 존재하는데, 둘 모두 저 통념을 공유한다는 점에서는 그게 그거다. 예컨대 데이비드 섬프터는 인공지능은 “우리 몸속을 돌아다니며 당을 섭취하고 어떻게 성장하고 어떻게 분열할지 판단”하는 대장균만도 못한 것이라고까지 주장한다(『알고리즘이 지배한다는 착각』). 이 주장이 어쩌면 온당할 수도 있다. 하지만 여기에는 물질적이면서 정신적인 생명인 인간의 그릇된 투사, 지독하게 인간적인 투사가 있다. 

 

  디지털 존재자의 “생”은, 그걸 여전히 생이라는 이름으로 불러도 좋다면 말이지만, 인간이나 대장균의 생과는 전혀 다른 차원에서 유지되는 것이다. 혹은 디지털 존재자가 변경하는 것은 물질-생-정신이라는 구도 자체다. 왜냐하면 과격한 은유를 동원해서 생의 관념을 급진적으로 확장하거나 갱신하지 않는 한에서—기계적 존재자들이 인간과의 공생 체계를 통해서 스스로를 보존・보수・개선・진화하는 식으로 ‘생’을 유지한다고 이야기하는 철학자들이 존재한다—그것은 생을 결여하고 있는 정신, 생명의 발생을 경유하지 않은 정신이기 때문이다. 아무런 아이러니 없이, 그것은 지극히 ‘물질적인 정신’이다. 마르쿠스 가브리엘은 위에서 언급한 섬프터와 비슷한 맥락에서 우리가 걱정해야 할 것은 인공지능의 똑똑함이 아니라 멍청함이라고 주장하지만, 그의 우려 역시 자꾸만 생이라는 관념에 호소하는 것으로 귀착된다(『생각이란 무엇인가』의 4장). 이 호소는 이성이 정념—정념은 생의 자기 배려 기제다—의 시녀이며 고로 정념 없는 이성은 불가능하다는 관념(안토니오 다마지오)과 짝을 이루는 것으로, 가브리엘의 요는 결국 인공지능은 생을 알지 못하기 때문에 정신이 아니라는 것이다. 그러나 정신이 애초에 생의 논리를 와해시키는 것으로서 등장했고 생의 질서로 해명되지도 환원되지도 않는다면, 왜 생을 규준으로 삼아 인공지능은 정신이 아니라고 격하시키는가? 왜 구태여 생에 의거해서 정신성을 해명하거나 수호하는가? 물질적인 정신, 더 정확히는 물질적인 네트워크를 환경으로 삼는 정신을 상상하는 일은 과연 권리상 금지되어 있는가? 인공지능은 정신적이지 않은 게 아니라 약간 다른 의미에서 정신적인 것 아닐까? 만약 인공지능이라는 디지털 타자의 도래가 명실상부한 하나의 사건일 수 있다면, 이는 단지 그것이 인류에 대해 위협적일 수 있어서가 아니라 물질, 생, 정신이라는 근본적 범주들을 다르게 이해하게끔 독촉하기 때문일 것이다.

 

  인공지능이 하나의 ‘정신’으로서 극단적으로 똑똑하게 보이는 만큼이나 극단적으로 멍청하게 보일 수도 있는 것은 거기에 생이 결핍되어 있기 때문이다. 인공지능에 의거한 문제 해결을 두고 제기되는 우려들은 거개가 이런 면모에 관한 것이다. 예컨대, 환경 보호라는 목적을 위한 최적의 해결책으로 인류의 전적인 자살이 제출될 수도 있다는 걱정 말이다. 실은 생을 알지 못하는 무감한 정신이 어떤 것인지 우리는 어렴풋하게나마 이미 알고 있다. 소설 『편의점 인간』의 주인공 후루쿠라 게이코는 아기가 울자 곤란해 하는 자기 여동생을 보며 생각한다. ‘시끄러운 게 문제라면 아기를 죽여 버리면 될 텐데.’ 목적에만 충실한 계산이란 때때로 이런 것이다. 분명 맞는 말인데 어딘가 틀린 말이고, 더할 나위 없이 현명한 생각인 동시에 우둔하기 그지없는 생각이다. 그런가 하면 반출생주의(데이비드 베너타, 『태어나지 않는 것이 낫다』)는 인류에게 종적 절멸을 권유하고 있다. 가차 없는 계산은 개체의 수준에서도 물론 가능하다. 고통이 확실히 예비된 삶이라면 곧장 제거해도 좋은가? 피터 싱어와 영화 〈나비효과〉는 그렇다고 대답한 바 있다. 단지 피터 싱어는 제삼자로서, 〈나비효과〉는 당사자로서 그렇게 대답할 뿐이다. 이 경우들에서 공통적으로 부족한 것은 지능적 계산이 아니라 생을 돌보려는 의지다. 인공지능에게는 당연한 대전제로서의 생이 없고, 그래서 생에 대한 배려가 필요 없다. 이 디지털 존재자가 내보이는 극단적 똑똑함과 극단적 멍청함은 모두 그것이 생의 논리를 위와 아래로 비껴간다는 방증이다. 인공지능이 대장균만도 못한 그 이하의 존재라면 이는 애초에 그것이 대장균처럼 ‘살’ 필요가 없기 때문이다. 그러나 바로 그 덕분에 인공지능은 대장균 이상의 존재가 된다.

 

  디지털 존재자가 단순히 우리를 위한 도구에 불과할지라 해도, 이에 대응하기 위한 병리학 내지는 윤리학이 미리 준비되어야 한다. 왜냐하면 곧 그것은 우리에게 가장 밀접한 “환경을 이룰 것이고 세상을 살아가는 인터페이스 자체가 될 것이기 때문이다. 우리는 이미 헤이구글, 알렉사, 시리 등의 내부에서 살아가고 있다. 아도르노가 올바르게 환기시키듯 미닫이문과 여닫이문은 인간에게 상이한 행동 양식을 요구한다. 실은 아도르노까지 갈 것도 없다. 스마트폰부터 접한 아이들은 모니터나 티비 앞에서도 손가락부터 나간다. 그들에게는 터치에 의한 상호작용이 기본 설정이다. 다시 헤이구글 등으로 돌아오면, 우리는 곧 그것들이 ‘알아듣고 이해하는 만큼만’ 말하고 쓰게 될 수도 있다. 비근한 사례지만 “거실에 불 좀”이 아니라 “거실 조명 최대 밝기”가 되는 것이다. 구글 검색창에 검색어를 넣을 때 우리는 사람에게 문의할 때처럼 검색하지 않는다. 행위 양식의 면에서조차도 디지털 존재자와 인간 사이의 일방성은 이미 깨져 있다. 조만간 우리의 환경이 될 이 낯선 타자를 마주하여 여전히 로고스의 권리를 포기하지 않는다는 전제하에, 즉 그것을 단순히 ‘블랙 박스’로 취급하고 넘어가지 않는다는 전제하에, 이제 우리에게 주어진 선택지는 두 가지다: 디지털 존재자 고유의 “생”을 배우거나, 디지털 존재자에게 생이란 것을 가르치거나.