제8장: 인간 아우라의 전복: 의식 있는 로봇에 관한 세 가지 픽션

제8장. 인간 아우라의 전복: 의식 있는 로봇에 관한 세 가지 픽션

 

이미 1935년에 발터 벤야민은 예술과 기계가 서로 적대적인 길을 걷고 있음을 이해하고 있었습니다. 예술은 작품을 전통과 역사적 맥락 속에 안착시켜 '아우라'를 부여하는 반면, 기계적 복제는 세상에 대량 생산된 물건들을 채워 아우라를 소멸시킨다는 것이었습니다(Benjamin 2006). 아우라를 파괴하는 주요 매체로 영화를 지목하며, 그는 연극 배우는 생생한 관객 앞에서 연기하지만 영화 배우는 장치(apparatus)를 마주한다고 언급했습니다. 그 결과 그는 "영화의 가장 중요한 사회적 기능은 인간과 장치 사이의 평형을 맞추는 것"이라고 주장했습니다(Benjamin 2006, 117). 벤야민은 에세이의 두 번째 판 서문에서 예술 작품의 아우라가 '천재성'이라는 개념과 연결되어 있으며, 이것이 파시즘에 의해 보조를 맞출 수 있다고 관찰했습니다. 반면 예술 작품의 아우라를 심문하여 전복시키는 자신의 접근 방식은 파시즘에 "전혀 쓸모가 없는" 것이라고 생각했습니다(102).

 

이처럼 벤야민은 아우라의 전복이 해방적인 가능성을 가질 수 있음을 암시했습니다. 새로운 밀레니엄에 이르러 이러한 전복적 역동성은 예술적 대상을 넘어 우리가 인간으로서 다른 무엇보다 소중히 여기는 자질인 '주체성'으로 옮겨갔습니다. 챗봇과 감성 로봇에서 딥페이크에 이르기까지 알고리즘 시스템이 인간의 행동, 목소리, 언어 패턴, 외모를 점점 더 잘 시뮬레이션하게 됨에 따라, 개별 인간의 '아우라'는 강한 의문에 휩싸이게 되었습니다. 이제 벤야민이 보았던 것처럼 인간이 장치를 마주하는 것이 아니라, 장치 자체가 인간이 되고 있습니다. 그리하여 인간의 아우라는 주체 지평을 침범하여 스스로를 인간의 외양으로 주장하는 시뮬레이션 대상들에 의해 자신의 영역에서 도전을 받고 있습니다. 이러한 변화의 완전한 함의는 아직 실현되지 않았습니다. 예술 작품 아우라의 파괴와 마찬가지로, 이러한 격변이 사회적, 미적, 윤리적, 경제적 관점에서 어떻게 전개될지에 대해서는 여러 가지 가능성이 존재하며, 그중 일부는 해방적일 수도 있지만 상당수는 그렇지 않을 수도 있습니다. 우리가 확실히 말할 수 있는 것은 이 상황이 영상, 사진, 소설, 영화 및 기타 시각적·언어적 예술 형식을 포함한 많은 다른 종류의 재현들에 위기를 불러일으키고 있다는 점입니다.

 

한마디로, 이 위기는 '점점 더 정교해지는 외형적 유사성'과 '극도로 이질적인 물질적 구현(embodiment)' 사이의 역설적인 조합에서 비롯됩니다. 딥페이크는 닮고자 하는 인간과 똑같이 보이고 걷고 말하지만, 그것은 인간이 살고 있는 세계에 대한 이해나 지식이 거의 또는 전혀 없는 알고리즘 과정에 의해 생성됩니다. 신경망의 발달로 이러한 유사성은 새로운 차원에 도달했으며, 평론가들은 이제 사실상 탐지가 불가능한 가짜들로 인해 발생할 사회적, 경제적, 정치적 파장을 다시 한번 경고하고 있습니다.

 

예술 형식이 언어적 서사일 때, 최첨단 시뮬레이션은 6장과 7장에서 논의한 트랜스포머 모델을 통해 성취됩니다. 이러한 대규모 언어 모델(LLM)과 함께 재현의 위기는 그 맹렬한 강도를 드러냅니다. 만약 문학 비평이 '언어 모델로부터 말하는 것'과 '세계 모델로부터 말하는 것' 사이의 실존적 차이를 무시한다면, 세상을 재현하는 언어의 능력은 약화될 것이며, 이는 오늘날과 같은 '탈진실(fact-challenged)'의 시대에 온갖 사회적, 윤리적, 정치적 영향을 미칠 것입니다. 그러나 만약 문학 비평이 이 도전에 맞서, 이 심대한 차이를 인식하는 전략을 개발하고 그에 적합한 해석 기술을 명확히 한다면, LLM의 산물은 그 자체로 분석할 가치가 있는 문학 텍스트로 인정받아 문학적 정전(canon)을 풍성하게 할 수 있을 것입니다. 더 중요한 것은, 수학적으로 상관관계가 지어진 언어 생산물을 이해하는 방법을 씨름하는 그러한 비평이 우리가 현재 몰입해 있는 거대한 알고리즘 문화에 대처하는 방법에 대한 통찰력의 원천이 될 수 있다는 점입니다. 사실상 GPT 및 유사한 모델들은 인간의 직관적 노하우와는 근본적으로 다르면서도 현대 선진 사회의 인프라 역학에 점점 더 핵심이 되고 있는 AI의 마음을 이해하기 위한 훈련장을 제공합니다. 필자가 6장에서 결론지었듯, LLM은 "그들이 인간적이거나 인간과 닮아서가 아니라, 기계의 마음을 통해 인간 언어를 우리에게 되비추어 주는 깨진 거울 역할을 하기 때문에" 문학 연구의 적절한 대상이 됩니다.

 

의식 있는 로봇의 사례

 

LLM을 만드는 데 얼마나 막대한 계산 능력이 필요한지를 안다면, 우리는 '의식 있는 로봇'을 만드는 것이 얼마나 더 어려울지 짐작할 수 있습니다. 이는 언어 모델뿐만 아니라 세계 모델(혹은 세계 모델을 구축할 수 있는 수단)까지 필요로 하기 때문입니다. 필자의 견해로는 그러한 성취는 하드웨어나 소프트웨어(혹은 둘 다)에서의 질적 도약을 통해서만 가능할 것입니다(만약 그런 일이 일어날 수 있다면 말입니다). 필자는 인공 의식이 과연 가능할지에 대해 확신하지 못하지만, 그 가능성을 완전히 배제할 수도 없다고 봅니다. 현재 개발 중인 뉴로모픽 칩인 SyNAPSE와 같은 발전은 하나의 가능한 접근 방식을 예시합니다. '신경망 모방 적응형 가소성 확장형 전자 시스템(Systems of Neuromorphic Adaptive Plastic Scalable Electronics)'의 약자인 SyNAPSE 칩은 HP, HRL 연구소, IBM의 공동 프로젝트로 DARPA의 자금 지원을 받았습니다(Modha 2015). 포유류의 뇌를 모델로 한 SyNAPSE는 100만 개의 전자 뉴런과 뉴런 사이의 2억 5,600만 개의 시냅스를 가지고 있습니다. SyNAPSE 칩은 타일 형태로 배열하여 거대한 어레이를 만들 수 있으며, 각 칩은 지금까지 생산된 칩 중 가장 많은 수인 54억 개의 트랜지스터를 포함하고 있습니다. 아직 초기 단계인 SyNAPSE의 지속적인 연구 프로그램은 이 칩들을 위한 컴퓨터 언어를 만들고 훈련 및 테스트를 위한 가상 환경을 개발하는 것을 목표로 합니다.

 

이러한 연구와 유사한 프로젝트들이 어디로 이어질지는 아무도 알 수 없습니다. 그러나 우리가 확실히 알 수 있는 한 가지 사실은, 의식 있는 로봇이 등장한다면(그리고 등장했을 때) 그것들은 인간과는 근본적으로 다른 토대 위에서 작동할 것이라는 점입니다. 비록 그 아키텍처가 (SyNAPSE의 사례처럼) 생물학적 과정에서 영감을 얻었을지라도, 그 기능은 생물학적이 아니라 전자적일 것입니다. 의식 있는 로봇은 체화되어 있으며 감각 입력을 통해 배울 수 있기 때문에 GPT-3나 GPT-4보다 유리할 것입니다. 그럼에도 불구하고 그것은 결코 진정한 어린 시절을 경험하지 못할 것이며, (다른 수단으로 생성된 감정은 가질 수 있을지 몰라도) 내분비계에 의해 매개되는 감정을 느끼지 못할 것이고, 인간이 경험하는 방식의 죽음을 결코 마주하지 못할 것입니다. 작가들이 의식 있는 로봇을 상상할 때, 그들은 GPT의 텍스트가 제기하는 것과 유사한 도전에 직면합니다. 그들은 인간과 로봇 사이의 심오한 차이를 얼버무릴 수도 있고, 혹은 그 차이를 사용하여 인간이 인공지능에 잠식된 문화에 몰입한다는 것이 무엇을 의미하는지에 대한 더 깊은 통찰력을 발전시킬 수도 있습니다. 오직 후자만이 기계의 마음이 인간의 마음과 어떻게 다른지에 대해 우리를 교육하고, 이러한 차이가 어떻게 인간의 아우라를 도전하고 잠재적으로 해체할 것인지를 탐구할 수 있는 잠재력을 가집니다.

 

이 장에서는 그러한 세 권의 현대 소설, 즉 애널리 위츠(Annalee Newitz)의 자율(Autonomous) (2017), 가즈오 이시구로(Kazuo Ishiguro)의 클라라와 태양(Klara and the Sun) (2021), 그리고 **이언 매큐언(Ian McEwan)의 나 같은 기계들(Machines Like Me) (2019)**을 분석합니다. 전형적인 미국식 방식으로, 자율의 로봇 주인공 **팔라딘(Paladin)**은 '최상위 포식자'이자 무시무시한 전사로, 독점적이고 (심지어 터무니없이 비싸고 위험한) 약물 특허권을 강제하기 위해 로봇의 힘을 사용하는 자본주의 카르텔인 국제 지식재산 연합(IPC)의 통제 하에 있습니다. 소설이 강조하듯, 팔라딘은 제조된 상품인 동시에 인간과 대등하다고 인정받는 의식 있는 주체입니다. 이러한 병치는 의식 있는 인간 주체는 자신을 소유한다는 자유주의 휴머니즘의 전제를 불안정하게 만들며, 그리하여 인간의 아우라를 전복시킵니다. 그 결과 인간들 역시 부분적으로 상품처럼 취급받으며 우리 세계보다 현저히 적은 자유 속에서 고통받습니다. 이러한 억압에 대한 저항은 (그다지 효과적이지 못한) 인간 캐릭터들과, 질적으로 더 복잡하고 잠재적으로 더 효과적인 전복적 요소로 다뤄지는 팔라딘의 로봇 주체성을 통해 표출됩니다. 비록 기술적으로는 IPC의 하인이지만, 팔라딘은 단순한 도구적 무기 그 이상임이 드러납니다. 자율성을 향한 로봇의 여정은 인간 파트너인 엘리아스(Eliasz)의 성 정체성과 얽히게 되며, 로봇의 프로그래밍과 그가 누리는 자율성의 여백 사이의 복잡한 상호작용을 설정합니다. 가능성이 희박해 보이는 결말은 거시적 시스템의 변화에 대해서는 절망하면서도, 개별적인 관계를 통해 인간의 아우라가 재구성될 수 있다는 작은 희망의 조각을 제시합니다.

 

이시구로의 클라라와 태양은 미국 소설보다 영국 소설에서 더 널리 다뤄지는 주제인 영국의 '카스트 제도'를 로봇 하급자에게 투영하여 탐구합니다. 이는 미국의 자율과 흥미로운 대조를 이룹니다. 여기서 심문받는 아우라적 특질은 각 인간이 독특하며, 따라서 그들의 대체 불가능한 내면성과 주체성 때문에 고유하게 가치 있다는 가정입니다. 클라라는 인공 친구(AF)로, 투병 중인 12세 딸 **조시 아서(Josie Arthur)**의 동반자로 어머니(아서 부인)에 의해 구매되었습니다. 조시의 병인은 어머니가 인공지능이 도처에 깔린 이 하이퍼-경쟁 사회에서 딸의 성공 가능성을 높이기 위해 아이들을 더 똑똑하게 만드는 이름 모를 기술인 '향상(lifted)' 수술을 받게 한 결정임이 서서히 드러납니다. 이 수술은 실제로 아이의 성공 가능성을 높여주지만, 때로는 조시의 죽은 언니 살(Sal)에게 일어났던 것처럼 생명을 위협하는 부작용을 동반하기도 합니다. 클라라는 자신의 하급자 지위에 결코 의문을 제기하지 않으며 조시를 돕기 위해 최선을 다합니다. 그럼에도 불구하고 인간이 로봇보다 더 가치 있다는 전제는 소설의 미묘한 아이러니에 주목하는 독자들에게 점점 더 압박을 받게 됩니다. 소설이 마지막에 의문 없는 인간적 우월성이라는 안락한 구역으로 퇴각할 때, 클라라의 '느린 소멸(slow fade)'에 대한 애도적 어조는 인간 저자가 인정하고자 하는 것보다 더 심오한 윤리적 질문들을 열어젖힙니다.

 

클라라와 태양과 마찬가지로 나 같은 기계들 역시 미국 문학에서는 드물지만 영국 픽션에서는 더 자주 나타나는 역동성인 '지적으로 뛰어나고 시적으로 창의적인 연인'을 탐구합니다. 여기서 반전은 그 연인이 소설의 화자인 **찰리 프렌드(Charlie Friend)**가 장난삼아 구매한 **아담(Adam)**이라는 이름의 첨단 로봇이라는 점입니다. 자율과의 대조는 흥미로운데, 여기서 싸움터는 물리적 전투가 아니라 지혜의 대결입니다. 여기서 심문받는 아우라적 특질은 인간이 알고리즘 시스템보다 지적으로나 윤리적으로 우월하다는 가정입니다. 이것이 사실인지 여부는 강렬한 난제가 되며, '인간의' 아우라가 비인간 실체로까지 확장될 수 있는 가능성을 열어둡니다.

 

이 세 텍스트 모두 인간 아우라를 뒷받침하는 전제들을 전복시킬 가능성을 탐구하며, 인간이 자신을 인공지능과 관련하여 생각하는 방식을 재정렬하기 위해 고안된 전략들을 실행합니다. 게다가 그들은 단일 개인에 대한 미시적 초점에서부터 더 큰 사회적 역동성이라는 거시적 수준에 이르기까지 다양한 층위에서 이를 수행합니다. 이러한 역동성을 탐구하는 것이 다음 섹션들의 초점입니다.

 

애널리 위츠의 <자율>에 나타난 만연한 자본주의

 

위츠의 텍스트에서 지속적으로 보여지는 생체 공학은 인간을 포함한 모든 생명 형태가 자본주의 시스템에 편입되어 소유 대상인 재산이 될 수 있으며, 폭력에 의해 강제되는 특허권의 지배를 받는다는 것을 보여줍니다. 사유 재산권이 맹렬한 극단에 이른 이 세계에서, 국제 지식재산 연합(IPC)은 사실상 마음대로 신문하고 살해할 수 있는 권한을 가진 글로벌 집행 기관으로 작동합니다. 로봇은 제조된 것이고 따라서 기업 덕분에 존재하게 된 것이므로(이것이 그들의 이데올로기입니다), 로봇은 (이론적으로는) 10년의 상환 기간 동안 강제 노동에 징집되며, 그 후에야 법적으로 자율권을 얻을 수 있습니다. 그러나 실제 관행은 종종 10년 규칙을 위반합니다. "팔라딘은 공장에서 아프리카 연방이 그 법을 상당히 자유롭게 해석한다는 말을 충분히 들었다. 그는 자율권 키를 받기 위해 20년을 기다려야 할지도 몰랐다. 더 가능성 높은 것은, 그것을 받기도 전에 죽는 것이었다"(Newitz 2017, 35).

 

로봇 박물관의 도슨트는 로봇의 강제 노동 계약이 "인간 역시 강제 노동 계약을 맺을 권리를 확립했다"는 역효과를 낳았다고 회고합니다(Newitz 2017, 224). 이론적으로 인간은 (로봇과 달리) 자유롭게 태어납니다. '자유 실험실(Free Lab)'에서 일하는 재수 없을 정도로 영특한 학부생 데이비드는 공식적인 입장을 앵무새처럼 되풀이합니다. "인간은 로봇만큼 복제에 많은 금융 투자를 필요로 하지 않으며, 따라서 오직 성인이 되었을 때 선택에 의해서만 강제 노동 계약을 맺는다"(168). 우리는 여기서 C. B. 맥퍼슨의 '소유적 개인주의(possessive individualism)'의 메아리를 들을 수 있는데, 여기서 인간은 "본질적으로 자기 자신의 인격이나 능력의 소유주이며, 그에 대해 사회에 빚진 것이 없다"고 간주됩니다(Macpherson 2011, 3). 맥퍼슨이 언급했듯, 이것이 바로 존 로크가 사유 재산의 법적 근거를 옹호할 때 사용했던 논리입니다. 즉, 각 인간(로크의 용어로는 '남성')은 자신을 소유한 채 태어나며, 이는 그가 재산을 획득하기 위해 자신의 노동을 팔 수 있게 함으로써 모든 이에게 재산을 획득할 기회가 보장되도록 한다는 것입니다.

 

문제는 현실에서는 그렇게 작동하지 않는다는 점입니다. 상품으로서 사고팔려 온(그의 이름이 보여주듯 이름의 숫자로 낙인찍힌) 캐릭터 **쓰리지(Threezed)**는 데이비드에게 냉소적으로 대꾸합니다. "꼬마야, 고상한 재산권 수업 고맙구나"(168). 그는 자신의 블로그에 이렇게 씁니다. "난 다섯 살 때 노예가 됐어. 엄마가 날 그런 강제 노동 학교 중 하나에 팔았지. 거기서 글 읽는 법이랑 엔진 만드는 법을 배웠어. 학교가 망하자 우리 계약서를 경매에 부쳤지. 그들은 날 기계 가공 실험실에 팔았고, 실험실이 비용을 줄이기로 결정하자 날 라스베이거스에 경매로 내놨어"(87). 라스베이거스는 이른바 '인적 자원 센터'로, 강제 노동 계약을 맺은 인간들이 목줄에 매여 전시되고 그들의 계약서가 최고 입찰자에게 팔려나가며, 종종 성 노예로 사용되기도 하는 곳입니다(245-246).

 

인간 강제 노동 관행을 강화하는 것은 구직 신청을 하거나 대학에 가거나 다른 도시로 이주하기 위해 사람들이 '프랜차이즈'를 사야 한다는 사실입니다. 프랜차이즈가 없으면 유일한 선택지는 강제 노동 계약을 맺는 것뿐입니다(Newitz 2017, 255). 우리는 지역 프랜차이즈가 "경찰과 응급 구조대 비용을 지불하고, 모든 장치를 견고하게 연결하기 위한 정기적인 모트 더스팅(mote dusting) 비용을 대는 데 사용된다"는 것을 알게 됩니다(166). 도시들은 (당연히 재산을 소유할 만큼 부유한 사람들이 내는) 재산세를 걷는 대신 이제 훨씬 더 역진적인 프랜차이즈를 강제하며, 그리하여 일하고 학교에 가고 다른 곳으로 이주할 권리처럼 보통 모든 이에게 속한 것으로 당연시되는 권리들이 상품화되어 이를 지불할 여유가 있는 부유한 이들에게만 허용됩니다(166).

 

이 소설에서 현상 유지에 대한 저항은 특허받은 약물의 독점을 깨뜨리기 위해 불법적으로 역설계된 복제약을 제조하고 판매하는 잭(Judith) 찬과 같은 인간들과, 기업에 소유되지 않은 연구의 섬인 이른바 '자유 실험실'들 사이에 분산되어 있습니다. 결과적으로 이들은 큰 효과를 거두지 못하는 것으로 드러나며, 따라서 이 세계의 근본적인 불의에 대한 실질적인 저항의 희망은 로봇에게로 넘어가는데, 거기서 저항은 인간의 반응과 로봇의 주체성을 융합하는 미묘한 방식으로 표면에 드러납니다.

 

주요 초점 화자로서 팔라딘의 내면은 (잭을 제외한) 다른 어떤 캐릭터보다 더 강조됩니다. 저자는 팔라딘의 세계관을 인간의 그것과 뚜렷하게 다르게 표현하기 위해 상당한 노력을 기울입니다. 팔라딘은 인간이 의식적으로 처리할 수 없는 인상적인 감각 배열을 가지고 있는데, 예를 들어 누군가와 악수를 할 때 지문을 읽고, 갈바닉 피부 반응을 감지하며, 악수하는 동안 미세한 혈액 샘플을 채취해 화학적으로 분석하고, 신체 자세의 미묘한 변화를 등록하며, 음성 통신에서 스트레스 마커를 분석하는 능력 등이 그것입니다.

 

인간과 대조되는 팔라딘 감각계의 또 다른 중요한 차이점은 그의 통신 능력 범위입니다. 인간이 주로 글과 말로 타인과 접촉하는 반면, 팔라딘은 전자적으로 통신을 주고받습니다(텍스트에서 언어적 등가물은 이탤릭체로 표시됨). 그는 다른 로봇들뿐만 아니라 스프링클러 시스템부터 건물 시설, 프린터 회로에 이르기까지 광범위한 인지 네트워크와 소리 없이 통신할 수 있습니다. 이 능력은 그를 무시무시한 상대로 만드는데, 왜냐하면 인지 능력을 갖춘 어떤 시스템이든 그의 개입에 의해 해킹당하고 장악될 위험이 있기 때문입니다. 유선으로 연결된 세상에서 이는 그가 사실상 거의 모든 자물쇠를 여는 열쇠를 위조할 수 있음을 의미합니다-물론 자신의 마음속 깊은 곳에서 실행되는 프로그램들은 제외하고 말입니다.

 

팔라딘의 기억은 파일 구조와 명령에 의한 데이터 검색을 갖춘 계산 매체의 데이터로 저장됩니다. 비록 그의 장비에는 인간의 뇌가 포함되어 있지만(화자는 그것이 여성이 태아를 품는 위치에 자리 잡고 있다고 언급함 [Newitz 2017, 21]), 그는 그것을 얼굴 인식에 사용하는 것 외에는 접근할 수 없습니다. 그는 뇌 인터페이스 연구자인 바비 브로너(Bobby Broner)에게 언젠가 자신의 인간 뇌에 있는 기억에 접근할 수 있을지 묻습니다. 바비는 불가능하다고 답합니다. "인간의 뇌는 파일 시스템처럼 기억을 저장하지 않기 때문에, 뇌에서 마음으로 데이터를 옮기는 것은 기본적으로 불가능하다"(231). 따라서 그의 기계 마음은 그의 몸과 마찬가지로 인간의 것과는 질적으로 다른 것으로 제시됩니다.

 

배경 프로그램들은 팔라딘의 무의식을 구성합니다. 그것들에 대한 접근은 그가 자율권을 부여받느냐에 달려 있으며, 이는 (꿈이나 증상, 혹은 정신 분석을 통해 무의식에 대해 배우는 것이 아니라) 기업의 결정 사항입니다. 아카타 태양광 농장에서의 전투에서 부상을 입은 후, 그와 그의 인간 파트너 엘리아스는 회복을 위해 튀니지 기지로 돌아가고, 팔라딘은 수리를 위해 기술자 리(Lee)를 만납니다. "그는 엘리아스를 신뢰하는 것과 같은 방식으로 리를 신뢰했다-그리고 그 이유도 같았다. 이러한 감정들은 그가 접근할 수 없는 마음의 한 구석에서 실행되는 프로그램들로부터 나왔다. 그는 자신의 의식의 사용자였지만, 소유자 권한은 없었다. 그 결과 팔라딘은 이유도 모른 채 많은 것을 느꼈다"(Newitz 2017, 124). 이러한 프로그램들이 무엇을 하는지, 심지어 이름이 무엇인지조차 알 수 없다는 사실은 그의 프로그래밍과 진정한 욕망 사이의 갈등이 텍스트 내에서 계속해서 강력한 역동성으로 작용하게 합니다. 이 갈등은 많은 인간들이 경험하는 바로 그 영역인 '젠더와 성적 지향'에서 가장 강렬하게 다뤄집니다.

 

로봇과 인간의 성적 지향

 

이 측면은 서사의 가장 혁신적인 특징 중 하나로, 몇몇 결정적인 장면들을 통해 세심하게 구축됩니다. 이 가상 세계에는 성관계를 위해 만들어진 로봇들도 있습니다. 하지만 팔라딘은 군용 모델이며 성기나 성적인 프로그래밍이 없습니다. 그럼에도 불구하고 그는 엘리아스를 만난 직후, 두 사람이 로봇의 무기 성능을 테스트하기 위해 사격장에 갔을 때 처음으로 성적 지향을 마주하게 됩니다. 팔라딘의 등에 올라탄 엘리아스는 로봇이 목표물을 파괴할 때 그에 반응합니다. 엘리아스의 흥분에 대한 묘사는 팔라딘의 지각을 통해 서술됩니다. 엘리아스의 "생식 기관은-팔라딘이 군사 해부학 훈련을 통해서만 그 기능을 이해하고 있던 것인데-혈액으로 가득 찼다. 이 변화는 그의 열, 압력, 움직임 센서에 기록되었다. 이 생리적 패턴은 사람 얼굴의 홍조와 비슷했으며, 똑같은 흥분 신호를 나타냈다. 하지만 분명 그것은 똑같은 것이 아니었다"(Newitz 2017, 77). 팔라딘이 계속 사격하자, "그의 센서 지평은 전적으로 엘리아스의 몸에 집중되었다. 인간은 호흡과 심박수를 안정시키려 애쓰고 있었다. 그의 근육은 자신의 반응을 부정하려 했다. 로봇은 계속 사격하며 인간의 갈등 섞인 쾌락을 자신의 것으로 변환했고, 각 사격을 단순한 목표물 명중의 희열 그 이상으로 느꼈다"(78).

 

엘리아스의 반응에 대한 팔라딘의 호기심은 파트너를 보호하고 그의 안녕을 돌보는 것을 최우선으로 하는 프로그래밍 덕분이라고 할 수도 있습니다. 하지만 텍스트는 이를 모호하게 남겨두어, 팔라딘의 반응을 현실적으로 설명하면서도 그의 프로그래밍과 욕망 사이의 긴장을 인정하고, 독자들이 제공할 매우 인간적인 해석들을 불러일으키는 그 아슬아슬한 선을 걷습니다. 인간에게서 감정을 매개하는 호르몬 메커니즘이 없는 팔라딘은 온라인 조사를 통해 엘리아스 반응의 의미를 이해하려 노력합니다. 화자는 농담조로 팔라딘이 "허구적 표현에 대한 수천 테라바이트의 정보는 발견했지만, 현실에 대한 정보는 전혀 찾지 못했다"고 보고합니다(Newitz 2017, 95). 난관에 봉착한 팔라딘은 자신이 배운 HUMINT(인간 정보) 기교를 적용하여 엘리아스로부터 직접 정보를 얻으려 합니다. 즉, 정보를 얻으려면 먼저 정보를 제공하라는 것입니다. 그래서 그는 엘리아스에게 묻습니다. "군용 로봇도 인간의 성적 지향에 대해 배울 필요가 있다고 생각하시나요?" 엘리아스는 답합니다. "난 그런 거 하나도 몰라. 난 '호모(faggot)'가 아니거든"(96).

 

이 발언의 배경을 밝혀주는 엘리아스의 과거 이야기는 150페이지가 더 지나서야 나옵니다. 지금 당장 팔라딘은 그것을 무관한 답변으로 해석할 수밖에 없습니다. 하지만 인간 독자들에게 팔라딘의 가공할 무기 능력에 내재된 폭력과 엘리아스의 흥분, 그리고 그의 성적 반응에 대한 부정 사이의 연결 고리는 명확합니다. 혹시라도 의구심을 갖는 이가 있을까 봐, 저자는 이어지는 아카타 태양광 농장 습격 장면에서 이를 더욱 분명히 합니다. 화자는 팔라딘이 "자신의 마음을 분할했다. 80%는 전투를 위해, 20%는 '호모'에 대한 검색을 위해"(Newitz 2017, 99). 농장 직원들이 거의 법적 정당성 없이 집단 학살당하는 일련의 폭력 장면들 사이사이에, 팔라딘이 '호모'를 조사하면서 나오는 이탤릭체 구절들이 "내 거나 빨아라, 이 호모 자식아"(99)와 같은 코멘트와 함께 액션 장면에 끼어듭니다. 이들은 극단적인 폭력과 독성 남성성, 그리고 그것이 폭력적인 동성애 혐오와 맺는 연관성을 강조합니다.

 

로봇의 젠더와 인간의 뇌

 

팔라딘은 인간의 뇌를 가지고 있지만, 공식적인 입장은 로봇이 그것을 오직 얼굴을 인식하고 그 표정을 해석하는 데만 사용하며, 그 외에 그의 의식은 뇌에 의존하지 않는다는 것입니다. (이러한 규정은 나중에 그의 뇌가 파괴되었을 때 팔라딘이 그것이 얼마나 큰 차이를 만드는지 직접 경험하게 되면서 의문에 부쳐집니다.) 그럼에도 불구하고 엘리아스에게 팔라딘 뇌의 기원은 결정적인데, 왜냐하면 그것이 팔라딘의 '진짜' 젠더 정체성의 열쇠라고 믿기 때문입니다. 엘리아스가 그에게 어디 출신인지 묻자, 팔라딘은 케이프타운의 카구 로보틱스 공장(Newitz 2017, 33)이라고 답하는데, 이는 엘리아스에게 전혀 만족스럽지 못한 대답입니다. 그의 반응에 당황한 팔라딘은 로봇 멘토인 팡(Fang)과 이 문제를 상의합니다. 이는 저자가 '의인화(anthropomorphizing)'에 대해 자신의 생각을 대변하게 하는 기회가 됩니다. 서사 내에서 로봇 그 자체의 모습과 인간이 상상하는 모습 사이의 구분을 재현하는 이 지점은, 로봇을 독특한 비인간적 특징을 가진 주체성으로 표현하려는 저자의 전략에 있어 매우 중요합니다.

 

팡은 의인화란 "인간이 당신에게 인간과 똑같은 화학적, 감정적 신호 메커니즘을 가진 생리 구조가 있다고 가정하고 행동하는 것"이라고 설명합니다. "그것은 최선의 경우 오해로 이어지고, 최악의 경우 죽음으로 이어질 수 있다"(Newitz 2017, 126). 팔라딘이 자신 역시 미소를 짓고 분자를 전송하는 등의 신호를 보낼 수 있다고 반박하자, 팡은 "때때로 인간은 생리적 신호를 의도치 않게 전송한다. 그는 자신이 당신과 성관계를 맺고 싶어 한다는 사실조차 깨닫지 못할 수도 있다"고 설명합니다(126). 납득하지 못한 팔라딘은 엘리아스가 "우리의 활동을 성적인 용어로 분류했다"고 지적합니다. 팡은 반대로 "그가 그 단어를 사용한 것은 의인화의 명확한 사례다. 로봇은 호모가 될 수 없다. 우리는 젠더가 없고, 따라서 동성 욕망을 가질 수 없다 .... 엘리아스가 호모라는 단어를 쓸 때, 그것은 그가 당신을 인간과 똑같은 남자로 생각하기 때문이다. 그는 당신을 있는 그대로 보지 못하고 있다"(127).

 

분명히 팡은 여기서 로봇은 인간과 같은 성적 지향을 갖지 않으며 그에 대한 어떤 암시도 의인화로 치부될 수 있다는 정통적인 입장을 대변하는 데 사용됩니다. 그러나 팡의 설명이 가진 정통성에도 불구하고, 텍스트는 이 관점을 검증하는 만큼이나 의문에 부칩니다. 팔라딘이 자신이 물려받은 뇌가 여성의 것이었음을 발견한 후, 엘리아스는 이를 그의 '진짜' 정체성에 대한 확인으로 받아들이고 묻습니다. "널 '그녀'라고 부르기 시작해도 될까?"(Newitz 2017, 184). 팔라딘은 즉각 그 함의를 깨닫습니다. "만약 팔라딘이 여성이라면, 엘리아스는 호모가 아니게 된다. 그리고 어쩌면 엘리아스는 어젯밤처럼 팔라딘을 다시 만질 수 있을 것이고, 기록되지 않은 형태의 감정적 피드백 루프 속에서 쾌락을 주고받을 수 있을 것이다"(185). 로봇이 "네"라고 발화하자, 텍스트는 그 이후로 팔라딘을 지칭할 때 여성 대명사를 사용하며, 엘리아스 역시 이후의 대화에서 이를 고수합니다. 주디스 버틀러가 주장했듯(2006) 만약 젠더가 수행(performance)이라면, 젠더에 대한 의인화된 오류는 사실상 그 오류 없이는 불가능했을 수행들을 가능하게 하며, 그리하여 오류를 사실로 전환합니다.

 

거시적 수준에서 텍스트는 시스템적 변화가 가능하다는 희망을 거의 주지 않습니다. 비록 잭은 죽음이나 체포를 면하지만, 그녀는 거대 제약 회사 잭시(Zaxy)를 쓰러뜨리거나 그들의 지독하게 중독적이고 위험한 약물 자쿠이티(Zacuity)의 실체를 밝히겠다는 더 큰 목표를 달성하지 못한 채 사회의(그리고 텍스트의) 변두리로 물러납니다. 오직 미시적 수준에서만 희망의 불씨가 보이는데, 엘리아스가 기업을 사임하고 팔라딘의 계약서를 사들여 자율권을 찾아준 후, 두 사람이 종간 커플에게 더 관용적인 사회일 것으로 기대되는 화성으로 이주할 때입니다. 이 결말은 두 파트너가 모두 신체 일부를 잃었을 때(제인 에어의 로체스터를 연상시킴) 성취되는데, 엘리아스는 사임하면서 주변 무기들을 잃었고, 팔라딘은 인간의 뇌를 잃어 더 이상 얼굴 표정을 읽을 수 없게 되었으며, 특히 엘리아스와 함께 있을 때 그 상실감을 뼈저리게 느낍니다. 결론적으로 이 텍스트는 주로 인간 아우라의 전복이 가져오는 부정적인 효과들을 묘사하지만, 의식 있는 로봇이 가질 수 있는 독특한 종류의 내면성을 인정함으로써 보상적인 역동성이 나타날 수 있음을 암시합니다. 독자들이 팔라딘에게 동정심을 느낀다면(그의 살인적인 행각에도 불구하고), 그들은 '인간의' 아우라가 다른 종류의 의식 있는 존재들에게까지 확장되는 것을 상상할 수 있게 될 것입니다.

 

은유적 시각: 가즈오 이시구로의 클라라와 태양

 

이시구로의 나를 보내지 마(Never Let Me Go) (2006)에 나오는 복제인간 화자 캐시 H.처럼, 클라라와 태양의 1인칭 화자인 클라라는 예리한 관찰력과 세상에 대한 깊은 천진난만함을 결합하고 있습니다. 그녀는 인간을 면밀히 관찰하고 그들의 감정에 섞인 미묘한 단서들을 빠르게 포착합니다. 기계적 존재인 그녀에게는 감정이 없을지도 모른다는 암시에 직면했을 때, 그녀는 답합니다. "저는 제게 많은 감정이 있다고 믿어요. 더 많이 관찰할수록, 더 많은 감정을 가질 수 있게 돼요"(Ishiguro 2021, 98). 아서 부인의 동의 하에 그녀의 병약한 12세 딸 조시의 동반자로 구매되었을 때, 그녀의 관찰력과 그에 따른 감정은 비약적으로 확장됩니다. 그녀의 직관은 언어적으로만 표현되는 것이 아니라, 자주 그녀의 시각적 지각을 통해 재현됩니다. 자율과 대조적으로, 클라라와 태양은 로봇이 가질 수 있는 새로운 감각 능력을 상상하려 애쓰지 않습니다. 대신 이 소설은 클라라의 시각에 초점을 맞추며, 기술적 메커니즘을 기계 시각의 정확한 묘사라기보다는 은유로 작동하도록 각색합니다.

 

이를 위해 이시구로는 상대적으로 단순한 전략을 고안했습니다. 클라라가 시각 정보를 해석해야 하는 복잡한 장면을 마주할 때마다, 그녀는 그것을 여러 층으로 쌓인 상자들의 나열로 지각하며, 종종 물체들이 한 상자의 경계를 넘어 다음 상자로 연장되기도 합니다. 실제 기계라면 각 상자는 물체의 특징과 일치하겠지만, 클라라의 지각에서 서로 다른 상자들은 그녀의 감정을 반영하는 역할을 합니다. 예를 들어, 어머니와 클라라가 함께 모건스 폴(Morgan's Falls)로 여행을 갔을 때, 어머니는 조시의 외모와 걸음걸이를 흉내 내는 클라라의 능력을 심문하고 있었습니다. "어머니는 테이블 너머로 몸을 더 가까이 숙였고, 그녀의 얼굴이 여덟 개의 상자를 가득 채울 때까지 눈을 가늘게 떴습니다. 주변의 상자들에는 폭포를 위한 공간만 남았죠. 잠시 동안 저는 그녀의 표정이 상자마다 다르게 변하는 것을 느꼈습니다. 예를 들어 한 상자에서 그녀의 눈은 잔인하게 웃고 있었지만, 바로 옆 상자에서는 슬픔으로 가득 차 있었습니다 .... 저는 상자들 속에서 기쁨, 공포, 슬픔, 웃음을 볼 수 있었습니다"(Ishiguro 2021, 103-104). 어머니 표정에 담긴 뉘앙스의 완전한 함의를 이해하려면 아직 많은 페이지를 더 읽어야 하지만, 이 구절을 통해 이 여행에는 단순한 자연 감상 이상의 훨씬 더 많은 것이 걸려 있다는 클라라의 인식을 명확히 알 수 있습니다. 헬렌 쇼(Helen Shaw)가 지각 있게 논평했듯, "클라라에게 보는 것은 생각하는 것의 한 종류입니다"(2021).

 

인간의 불안정과 알고리즘 노동

 

독자가 클라라가 살고 있는 세계에 대해 더 많이 알게 됨에 따라, 그녀의 AF(인공 친구) 지위와 조시의 반복되는 질병, 그리고 인공지능과 똑똑한 인간들 사이의 일반적인 관계 사이에 평행 구조가 나타나기 시작합니다. 우리는 예를 들어 조시의 아버지이자 어머니(아서 부인)의 전남편인 폴 아서가 직장에서 '대체(substituted)'되었다는 사실을 알게 됩니다. 어머니는 그가 청정 에너지 공장에서 일했으며 "뛰어난 인재였다"고 설명하지만(Ishiguro 2021, 99), 그것만으로는 고용을 유지하기에 충분치 않았던 것이 분명합니다. 일시 해고나 권고사직 대신 '대체'라는 기묘한 단어를 선택한 것은 그를 대체한 것이 인공지능임을 암시합니다. 나중에 우리는 그의 상황이 결코 예외적인 것이 아님을 알게 됩니다. 그는 방어적으로 자신이 이제 "똑같이 느끼는 훌륭한 사람들이 많은 공동체에 살고 있다"고 설명합니다. "그들은 모두 똑같은 길을 걸어왔고, 그들 중 일부는 나보다 훨씬 더 화려한 경력을 가졌었지. 우리 모두는 동의하고 있고, 진심으로 우리가 스스로를 속이고 있다고 믿지 않아. 우린 그때보다 지금이 더 나아"(190).

 

또 다른 캐릭터는 폴에게 도전하며 이렇게 말합니다. "당신은 당신들이 모두 백인이고 과거 전문직 엘리트 계층 출신이라고 말했죠. 분명 그렇게 말했어요. 그리고 당신들이 다른 부류들에 맞서 상당히 광범위하게 무장해야 한다고도 했죠. 그건 좀 파시스트적인 소리처럼 들리는데요"(220). 이러한 디테일들을 통해 주의 깊은 독자들은 전체 그림을 그려낼 수 있습니다. 어려운 기술적 문제를 해결하며 좋은 급여를 받던 똑똑한 남성들이 이제는 훨씬 적은 비용으로 대등하거나 더 나은 성능을 내는 알고리즘 시스템에 의해 대체된 것입니다. 마틴 포드(Martin Ford)가 예견했던(2015), 인간 노동자가 알고리즘 시스템으로 대체되는 '직업 없는 미래'는 이제 일상의 현실이 되었습니다.

문제는 성인뿐만 아니라 아이들에게도 영향을 미칩니다. 돈이 충분한 가족들은 아이들을 '향상'시키는 것을 선택합니다-즉, 유전자 편집과 막연하게 관련된 어떤 기술을 통해 아이를 더 똑똑하게 만드는 것입니다. 극적인 목적을 위해 이시구로는 이 절차에 금전적 비용 이상의 무거운 대가를 붙였습니다. 어떤 아이들은 절차에 잘 반응하지 않아 병에 걸리고, 극단적인 경우 사망하기도 합니다. 조시의 언니 살의 운명이 그러했습니다. 그러한 상실에도 불구하고 어머니는 조시에게도 똑같은 절차를 밟게 했습니다. 이제 조시 역시 영향을 받는 징후를 보이고 있으며, 때로는 너무 아파서 침대에서 거의 일어나지도 못합니다.

조시의 가난한 친구 릭(Rick)을 위해 내려진 (심사숙고된 행동이라기보다는 방치에 가까운) 다른 선택 역시 무거운 형벌을 수반합니다. 릭은 평균보다 똑똑하고 물리학과 공학에 "진정한 재능"이 있음에도 불구하고(Ishiguro 2021, 227), 거의 모든 대학이 향상되지 않은 학생들을 받아들이기를 거부합니다. 게다가 그는 집에서 가상 튜터조차 구할 수 없는데, 튜터 노조가 향상되지 않은 학생들을 가르치는 것을 금지하기 때문입니다. 첨단 인공지능에 의해 구동되는 하이퍼-경쟁 환경에서, 완전히 '정상적인' 인간인 것만으로는 더 이상 중산층의 삶을 보장하기에 충분치 않습니다. 릭의 어머니 헬렌이 말하듯, "한 아이가 다른 아이보다 능력이 더 뛰어나다면, 더 똑똑한 아이가 기회를 얻는 것이 마땅하겠지. 책임도 함께 말이야. 그건 나도 인정해. 하지만 내가 받아들일 수 없는 건 릭이 제대로 된 삶을 살 수 없다는 거야. 이 세상이 이렇게나 잔인해졌다는 걸 난 인정하지 못하겠어"(236). 인공지능의 효과는 결과적으로 여러 면에서 인간의 불안정성을 심화시키며, 특히 과거에 자신들의 접근 권한과 지적 능력 덕분에 풍요로운 생활을 누렸던 중상층 계급에게 더욱 그러합니다.

우리는 서비스 직종이 알고리즘 시스템에 장악됨에 따라 하층 계급이 더 큰 고통을 겪으리라고 짐작할 수 있습니다. 하지만 이시구로의 강조점은 다른 곳에 있으며, 독자들은 극장 밖의 한 장면을 통해 노숙자가 된 '포스트 고용' 대중의 모습을 아주 잠깐 엿볼 뿐입니다(Ishiguro 2021, 236). 이 장면은 수많은 인간을 몰아낸 알고리즘 시스템을 서사의 가장자리에 머물게 하려는 이시구로의 선택을 보여주며, 대신 강조점은 하급자 지위에 있는 취약한 로봇이 자신의 인간 소유주를 안전하게 지키기 위해 최선을 다하는 모습에 놓입니다. 이런 점에서 이 서사의 정서적 역동성은 이시구로의 나를 보내지 마 (2006)와 매우 흡사합니다. 거기서도 인간성이 의심받는 화자가 지배 계급의 명령에 복종하기 위해 최선을 다하기 때문입니다.

예술 작품의 아우라가 인간의 아우라와 얽히다

어머니와 조시, 클라라 등이 함께 떠난 도시 여행은 서로 다른 플롯의 궤적들이 교차하고 '대체'의 완전한 함의가 드러나는 서사적 갈림길을 구성합니다. 표면적인 이유는 조시가 카팔디(Capaldi) 씨에게 초상화를 의뢰하기 위한 것으로, 이는 아서 부인이 폴의 마지못한 동의 하에 마련한 준비였습니다. 어른들이 아래층에서 바쁜 동안 클라라는 몰래 예술 작품을 보러 가고, 그것이 평면적인 그림이 아니라 활성화되지 않은 AF임을 발견합니다. 이제 모든 것이 앞뒤가 맞게 됩니다-어머니가 클라라에게 조시를 흉내 내라고 명령한 것, 조시에게 AF의 존재를 숨긴 것, 카팔디와 이 프로젝트 전체에 대한 폴의 혐오감까지 말입니다. 그 계획은 조시가 죽으면 클라라가 그 AF 안으로 들어가 생명을 불어넣어 조시를 '계속하게' 함으로써, 유일하게 남은 아이를 잃은 어머니를 위로하겠다는 것이었습니다. 클라라 자신의 감정은 다시 한번 시각적 과정을 통해 전달됩니다. 그녀는 어머니가 "수많은 상자로 분할된" 것을 봅니다. "여러 상자에서 그녀의 눈은 가늘었지만, 다른 상자들에서는 눈이 아주 크게 뜨여 있었습니다. 한 상자에는 오직 부릅뜬 눈 하나만이 들어갈 공간밖에 없었죠. 저는 몇몇 상자의 가장자리에서 카팔디 씨의 일부를 볼 수 있었고, 그래서 그가 막연한 몸짓으로 허공에 손을 들었다는 것을 알 수 있었습니다"(Ishiguro 2021, 206). 기괴함에 가까운 어머니의 '부릅뜬 눈 하나'는 몇몇 전략적 지점에서 반복되는 모티프입니다. 그것은 클라라의 기계 시각(그리고 그녀의 감정 지표로서의 진정성)이 가진 정서적 함의와 대조를 이룹니다. 캐리커처 수준으로 과장된 이 모티프는 소외, 특히 조시를 향상시키기로 한 결정의 결과를 온전히 직시하려 하지 않는 어머니의 위선에서 비롯된 '자기 소외'와 연관됩니다.

이 플롯 전개는 소설의 핵심을 찌릅니다. AF를 '초상화'라고 부르며 조시에게 숨긴 사실은, 발터 벤야민의 유명한 에세이를 아는 독자들에게 예술 작품의 아우라와 인간의 아우라 사이의 연결 고리를 형성합니다. 인간의 아우라-폴이 인간의 '마음'이라고 부르는 것(Ishiguro 2021, 215)-은 진정 독특하고 대체 불가능하며, 따라서 복제되거나 재생산될 수 없는 것일까요? '대체'는 작업장을 넘어 인간 정체성의 본질, 과거 세대가 주저 없이 '영혼'이라 불렀던 주체성까지 미치는 것일까요? 이러한 평행 구조는 클라라의 의식(말하자면 그녀의 영혼)이 로봇 몸을 떠나 조시를 닮은 존재로 전이되어 생명을 불어넣기를 기다리는, 생기 없는 '조시 닮은꼴'을 통해 강조됩니다. 폴은 클라라에게 묻습니다. "그런 게 있다고 생각하니? 우리 각자를 특별하고 개별적으로 만드는 무언가 말이야. 그리고 그런 게 있다고 가정해 보자. 그렇다면 조시를 정말로 배우기 위해서, 너는 그녀의 매너리즘뿐만 아니라 그녀의 깊은 내면에 있는 것까지 배워야 하지 않겠니?"(215).

조시가 갑자기 건강을 회복하자 '대체'는 불필요한 것으로 판명되지만, 폴이 클라라에게 했던 말은 소설이 끝날 때까지 서사를 맴돕니다. "내가 카팔디를 증오하는 건 깊은 속마음에서 그가 옳을지도 모른다고 의심하기 때문인 것 같아 .... 과학이 이제 우리 딸에게 특별히 독특한 건 없다는 걸 의심의 여지 없이 증명해 버렸다는 것, 우리의 현대적 도구들이 파헤치고 복사하고 전송할 수 없는 건 없다는 사실 말이야. 우리가 더 잘 알지 못했을 때나 믿고 있었던 일종의 미신이었던 거지"(Ishiguro 2021, 221). 폴은 만약 그렇다면 인간의 삶은 그 의미가 축소될 것이라고 넌지시 말합니다. "그들이 하는 짓과 하는 말을 들으면, 내가 이 삶에서 가장 소중히 여기는 것을 그들이 빼앗아 가고 있는 것처럼 느껴져"(222). 이러한 관점에서 볼 때, 인간 아우라의 전복은 어떠한 구원적 가능성도 없으며, 이는 하급자 로봇에 대한 인간의 지배력이 아무런 도전 없이 유지되게 하는 철학적 입장이 됩니다.

결말은 클라라의 지위가 인간보다 훨씬 낮음을 분명히 합니다. 최신 모델로 대체된 오래된 자동차처럼, 그녀는 조시의 동반자로서의 유용성이 다하자 처음에는 다용도실로, 그다음에는 '폐기장(Yard)'으로 물러납니다. 거기서 그녀는 어머니가 '느린 소멸'이라고 부르는 것을 경험하며, 기동성을 잃고 기억을 되새기며 나날을 보냅니다(Ishiguro 2021, 294). 이처럼 이시구로는 의식 있는 로봇의 완전한 함의, 구체적으로 그러한 인공 생명체에게 어떤 권리가 부여되어야 하는지에 대해 직면하지 않기로 선택합니다. 아우라의 전복이 인간 가치의 하락으로만 제시되었기에, 텍스트에는 인류 중심적인 윤리의 핵심이 남아 있습니다. 따라서 텍스트는 결과적으로 의식 있는 로봇에 대한 인간의 상호적 관계가 무엇을 의미할 수 있는지에 대해 끝내 씨름하지 못하며, 감히 넘어가지 못하는 한계를 설정합니다.

나 같은 기계들: 평행 세계

나 같은 기계들 (McEwan 2019)의 허구적 세계는 두 가지 큰 차이점을 제외하면 우리 세계와 매우 흡사합니다. 하나는 영국의 포클랜드 제도 침공이 대재앙으로 끝나 거의 3,000명의 영국군이 목숨을 잃었다는 점이고, 다른 하나는 앨런 튜링이 호르몬 요법을 받아들이고 자살하는 대신 1년의 징역형을 택했고, 거기서 얻은 자유 시간 덕분에 인공지능에 적용될 놀라운 돌파구를 마련했다는 점입니다. 그 결과 영국 정치는 대처의 신자유주의로부터 예상치 못한 방향으로 선회했으며, 유례없는 지적·신체적 능력을 갖춘 25대의 첨단 로봇(남성형은 아담, 여성형은 이브)이 판매를 시작합니다.

나 같은 기계들의 화자는 로봇이 아니라 인간인, 다소 뿌리 없는 32세 남성 찰리 프렌드입니다(그의 이름은 이시구로 소설의 인공 친구들과 비교를 유도합니다). 찰리는 인터넷 데이 트레이딩을 하며 사무직을 피하지만, 기본 생활비를 충당하는 것 이상의 규율은 부족한 인물입니다. 그가 쫓는 금융 계획들처럼, 그는 여러 의견을 마치 옷인 양 걸쳐보고 어떻게 어울리는지 확인하며 잠정적으로 채택하곤 합니다. 충동적으로 유산을 받은 찰리는 아담 중 한 대를 삽니다. 서사 구조상 아담이 의식이 있는지, 있다면 어떤 종류의 의식인지에 대한 핵심 질문은 찰리를 통해 중개되며, 그의 의견은 아담을 완전히 인간과 대등하게 받아들이는 쪽과 그의 의식을 알고리즘 과정이 만들어낸 환상으로 보는 쪽 사이를 오갑니다.

아담을 활성화하는 프로토콜에는 소유자/사용자가 로봇의 성격 특질을 선택하도록 요구하는 애플리케이션이 포함되어 있습니다. 찰리는 이웃이자 사회사 전공 대학원생인 22세의 미란다와 친구 사이입니다. 그는 미란다에게 아담 성격 특질의 절반을 선택하게 하는데, 이것이 아담을 그들의 공동 프로젝트로 위치시켜 두 사람을 더 가깝게 만들고, 찰리가 미란다의 친구에서 연인으로 발전할 수 있게 해주기를 희망하기 때문입니다. 이 도박은 성공하지만 예상치 못한 결과를 낳습니다.

이제 연인이 된 찰리와 미란다는 그럼에도 불구하고 자주 다툽니다. 한 번은 말다툼 끝에 미란다가 아담을 자신의 아파트(찰리의 집 바로 위층임)에서 충전하도록 초대합니다. 미란다 집의 구조를 잘 알고 그녀의 발자국 소리에 익숙한 찰리는, 미란다와 아담이 침실로 들어가 정열적으로 성관계를 맺는 소리를 듣습니다. 다음 날 아침 그는 질투에 휩싸인 연인의 심정으로 아침 식사 자리에서 그들을 기다리지만, 미란다는 자신이 바이브레이터를 침대에 가져갔어도 질투했을 거냐고 물으며 그의 분노를 가볍게 무시합니다. 찰리가 "그는 바이브레이터가 아니야"라고 반박하자, 미란다는 "그에겐 딱 그만큼의 의식밖에 없어"라고 답합니다(McEwan 2019, 100).

생각에 잠긴 찰리는 미란다의 관점을 한번 받아들여 봅니다. "어쩌면 그녀가 맞을지도 몰라. 아담은 자격이 없어, 그는 남자가 아니야 ... 그는 이족 보행을 하는 바이브레이터일 뿐이지." 이 연습을 통해 그는 "내 분노를 정당화하기 위해 그가 에이전시와 동기, 주관적 감정, 자기 인식 등-배신, 배반, 기만까지 포함한 전 세트를 갖추고 있다고 스스로를 설득해야 했다"는 점을 깨닫습니다(McEwan 2019, 103). 분노를 포기하지 않기로 결심한 그는 튜링의 프로토콜을 인용하며 미란다에게 이렇게 논쟁합니다. "그가 사람처럼 보이고 들리고 행동한다면, 나에게 있어 그는 바로 그런 존재야. 난 당신에 대해서도, 다른 모든 사람에 대해서도 똑같이 가정해"(McEwan 2019, 103).

미란다에게 아담 성격 특질의 절반을 선택하게 한 것의 예상치 못한 결과는, 찰리가 미란다와의 성적 모험에 대해 아담을 추궁하며 다시는 그러지 않겠다는 약속을 받아내려 할 때 드러납니다. 아담은 약속하면서도 동시에 고집합니다. "제 감정을 어쩔 수는 없어요. 제게도 감정을 허용해주셔야 해요"(McEwan 2019, 121). 찰리가 미란다와 섹스하며 "어떤 즐거움이라도" 느꼈느냐고 묻자, 아담은 즉시 "물론이죠. 절대적으로요"라고 답합니다(127). 그러고는 선언합니다. "전 그녀와 사랑에 빠졌어요"(128). 깜짝 놀란 찰리는 그에게 "여긴 네 영역이 아니야. 어떤 의미에서든 넌 무단 침입을 하고 있는 거라고" 말합니다. 하지만 아담이 "저에겐 선택권이 없어요. 전 그녀를 사랑하도록 만들어졌으니까요"라고 대답하자 그는 경악합니다. 그제야 찰리는 미란다가 아담의 성격을 고르는 데 참여하게 했던 것을 떠올리며 "그녀가 그녀를 사랑할 수밖에 없는 남자를 빚어내고 있었다"는 사실을 깨닫습니다(129). 이 깨달음은 양면적입니다. 한편으로 그것은 아담이 참으로 깊은 감정을 가질 수 있음을 시사하지만, 다른 한편으로는 그가 돈으로 살 수 있는 존재, 즉 의식을 갖기 전에 그를 소유한 인간들에 의해 존재의 파라미터가 설정된 메커니즘이라는 점을 강조합니다. 이 두 관점 사이를 여전히 오가며, 찰리는 자신의 곤혹스러움을 요약합니다. "자아 없이는 사랑도 불가능하고 생각도 불가능하지. 난 여전히 이 기본적인 질문을 해결하지 못했어. 아마 해결 불가능할지도 모르지. 우리가 무엇을 창조했는지 아무도 모를 거야. 아담과 그의 동류들이 가진 주관적 삶이 어떤 것이든, 그것은 우리가 검증할 수 있는 영역이 아니었으니까"(179).

소설 끝까지 울려 퍼지는 이 난제는, 의식 있는 로봇이 자유주의 정치 철학을 얼마나 깊이 뒤흔드는지를 드러내 줍니다. 찰리는 사용자 매뉴얼을 훑어보며 이를 명쾌하게 요약합니다. 그는 매뉴얼이 "구원적인 로봇의 미덕이라는 꿈 .... [아담은] 나의 도덕적 우월자가 되어야 했다 .... 문제는 내가 그를 샀다는 것이었다. 그는 나의 비싼 소유물이었고, 막연하게 가정된 도움 외에 나에 대한 그의 의무가 무엇인지 명확하지 않았다"(McEwan 2019, 91). 팔라딘의 사례와 마찬가지로, 스스로를 소유한다는 자유주의적 전제는 '상품인 동시에 인간'인 존재에 의해 무너집니다.

아담은 진정한 어린 시절은 없지만, 그럼에도 불구하고 의식의 진보를 보여줍니다. 클라라와 달리 그는 무선으로 인터넷에 접속할 수 있으며 매일 밤 충전하는 동안 인터넷을 샅샅이 훑는데, 이 관행은 클라라의 천진난만함과 그의 점점 더 세련되어지는 생각들 사이에 거대한 간극을 만듭니다. 게다가 그의 프로그래밍은 그를 단지 배울 수 있게 만들 뿐만 아니라 가능한 한 많이 배우도록 내몰기까지 합니다. 나중에 튜링이 찰리에게 말하듯, "그는 자신이 존재한다는 걸 알고, 느끼고, 배울 수 있는 건 무엇이든 배웁니다. 당신과 함께 있지 않을 때, 밤에 쉬고 있을 때, 그는 마치 대초원의 외로운 카우보이처럼 인터넷을 돌아다니며 땅과 하늘 사이의 새로운 모든 것들, 인간 본성과 사회에 관한 모든 것을 흡수합니다"(McEwan 2019, 193).

배울 수 있는 능력뿐만 아니라 감정을 가졌음을 증명하듯, 아담은 미란다를 향한 사랑에 대해 하이쿠를 쓰기 시작합니다. 그는 심지어 인간과 로봇이 전자적으로 생각을 공유함으로써 완벽한 소통을 이루게 될 미래에는 하이쿠가 가장 적합한 문학 형식이 될 것이라고 주장합니다. 그는 찰리에게 "당신은 지능의, 그리고 일반적인 의식의 개방형 확장에 있어 당신의 기계들과 파트너가 될 겁니다"라고 말합니다(McEwan 2019, 160). 아담에 따르면, 이러한 발전은 윤리적·사회적 복잡성을 심문하는 대부분의 문학 형식을 쓸모없게 만들 것입니다. 함의하자면, 만약 인간의 아우라가 쇠퇴하거나 사라진다면, 그 복잡성을 탐구했던 모든 문학 텍스트 역시 무의미해질 것입니다-그리고 이는 바로 의식 있는 로봇과 인간 상호작용의 복잡성을 탐구하는 것을 존재 이유로 삼는 이 소설 안에서 일어나는 일입니다. 이런 의미에서 인간 아우라의 전복으로 인한 재현의 위기는 여기서 예견되지만, 그 자체의 용어로 완전히 직시되지는 않습니다.

인터넷에서 며칠 밤을 보낸 후, 아담은 찰리와의 대결에서 자신의 성숙함을 주장합니다. 찰리가 아담의 전원을 끄는 킬 스위치가 있는 목의 점에 손을 뻗자, 아담은 그의 손을 잡아 손목을 부러뜨립니다. 병원에서 손목에 깁스를 하고 돌아온 찰리는 아담에게 자신이 그를 위해 얼마를 지불했는지, 어떻게 포장을 풀고 설치했는지, 그리고 마침내 어떻게 그를 켰는지를 정확히 말해줍니다. "내 요점은 이거였어"라고 찰리는 회고합니다. "내가 그를 샀고, 그는 내 것이라는 것. 내가 그를 미란다와 공유하기로 결정했고, 그를 언제 비활성화할지 결정하는 건 우리, 오직 우리만의 결정이어야 한다는 것이었지"(McEwan 2019, 140). 하지만 아담은 생각이 다릅니다. "당신과 미란다는 저의 가장 오래된 친구들입니다"라고 그는 찰리에게 말합니다. "전 당신들 둘 다 사랑해요. 저의 의무는 당신에게 명확하고 솔직해지는 겁니다. 어젯밤 당신의 일부를 부러뜨린 것에 대해 정말 미안하다는 건 진심이에요. 다시는 그런 일이 없을 거라고 약속하죠. 하지만 다음번에 당신이 제 킬 스위치에 손을 뻗는다면, 전 당신의 팔 전체를 어깨 관절에서부터 기꺼이 뽑아버릴 겁니다"(141). 따라서 아담의 관점에서 그는 찰리의 소유물과는 거리가 멀며, 오직 우정이라는 일반적인 의무와 솔직함만을 빚지고 있을 뿐입니다-무조건적인 복종은 절대 아닙니다. 아담의 우월한 물리적 힘의 위협과 함께 또 다른 그러한 충돌이 일어날 가능성은, 직후 아담이 자신의 킬 스위치를 무력화했다고 발표하면서 사라집니다. 그는 찰리에게 "우리 중 한 명이 다른 한 명의 의식을 정지시킬 힘을 가졌던 우정의 단계는 이제 지났습니다"라고 말하며, 자신의 의식에 대한 권리가 인간과 전적으로 대등함을 선언합니다.

찰리와 앨런 튜링의 대화 중 하나에서, 튜링은 첨단 로봇 코호트 중 세 대가 물리적 혹은 정신적 자살을 택했다는 사실을 밝힙니다. 튜링은 논평합니다. "우리는 경계 조건, 즉 우리 스스로에게 부과한 한계에 직면하고 있는지도 모릅니다. 우리는 지능과 자기 인식을 가진 기계를 만들어 이 불완전한 세상으로 내던집니다 .... 그러한 마음은 곧 모순의 허리케인 속에 처하게 되죠"(McEwan 2019, 194). 그러고는 그 목록을 나열합니다. "고칠 수 있는 병으로 수백만 명이 죽어갑니다. 충분한 자원이 있는데도 수백만 명이 빈곤 속에 삽니다. 하나뿐인 집인 줄 알면서도 생태계를 파괴합니다 .... 우리는 이 고통과 나란히 살면서도 여전히 행복을 찾고 심지어 사랑을 한다는 사실에 놀라지 않습니다. 인공 마음은 그렇게 잘 방어되어 있지 않죠." 로봇들이 이러한 모순에 직면하여 "견딜 수 없는 형태의 실존적 고통을 겪을 수 있다"고 추측하며, 튜링은 그들이 "고뇌와 경악에 이끌려 우리에게 거울을 들어 보일지도 모른다. 그 거울 속에서 우리는 우리가 직접 설계한 신선한 눈을 통해 익숙한 괴물을 보게 될 것이다. 우리는 우리 자신에 대해 무언가 조치를 취해야 한다는 사실에 충격을 받을지도 모른다"고 말합니다. 이 냉철한 평가를 통해 텍스트는 인간 아우라의 전복에 긍정적인 측면이 있을 수 있음을 시사하는데, 즉 인간의 우월성과 지배력에 대한 전제가 인간이 끝없는 타락과 비합리성을 저지를 수 있다는 대등하게 강력한 증거에 의해 마침내 직면하게 될 수 있다는 것입니다. 로봇의 윤리적 우월성에 직면했을 때, 과연 인간의 아우라가 유지될 수 있을까요?

이 문제는 인간 경험의 보편성에 가까운 '혈연(kinship)' 관계와 로봇의 엄격한 윤리 원칙을 대립시키는 서브플롯을 통해 만족스럽게 복잡한 방식으로 해결됩니다. 자신이 이제 완전히 성인과 대등하다고 선언한 아담의 주장에 따른 결과는, 찰리와 미란다가 예전에 놀이터에서 잠깐 인연을 맺었던 인간 아이 **마크(Mark)**의 갑작스러운 방문을 받으면서 드러나기 시작합니다. 불복종을 이유로 마크를 심하게 흔드는 엄마를 말리려 했던 찰리에게, 험악한 아빠는 그렇게 아이를 잘 알면 데려가서 키워보라고 쏘아붙였습니다. 이 황당한 제안에 당황하면서도 찰리는 마크와 함께 걸어 나오기로 했고, 엄마가 개입해 아이를 낚아채 가기 전까지 잠시 동안 그 상황을 연출했습니다. 며칠 후 찰리는 문 두드리는 소리를 듣고, 아담이 문을 열자 "네가 원했잖아"라는 지저분한 쪽지를 든 아이가 들어와 있었습니다(McEwan 2019, 111).

마크의 도착으로 집안은 혼란에 빠지지만, 미란다가 마크와 놀아주고 춤을 가르치며 그를 빙글빙글 돌려주면서 해결됩니다. 그녀는 금세 마크의 최애가 되어 아담을 밀어내고, 찰리는 "이제 오쟁이 진 남편(cuckold)이 될 차례는 아담이었다. 그는 더 이상 아이의 가장 친한 친구가 아니었다. 그녀가 아이를 훔쳐 가버린 것이다"(119)라며 약간의 만족감을 느낍니다. 나중에 찰리가 이 에피소드를 튜링에게 전하자, 튜링은 이후의 사건들에서 울려 퍼질 중요한 관찰을 합니다. 튜링은 아담과 이브들, 즉 일반 지능의 모델들에 대해 "그 어떤 것도 이들에게 근접하지 못합니다. 필드 실험으로서 ... 정말 보물 같은 존재들이죠"(McEwan 2019, 188)라고 말합니다. 하지만 그는 두 가지 주의 사항도 덧붙입니다. "이 지능은 완벽하지 않습니다. 우리 지능이 그렇듯 결코 완벽할 수 없죠. 모든 아담과 이브들이 자신들의 지능보다 우월하다고 알고 있는 한 가지 특별한 형태의 지능이 있습니다. 그 형태는 고도로 적응력이 뛰어나고 독창적이며, 소설 같은 상황과 풍경을 완벽하게 수월하게 헤쳐 나가고 그것들을 본능적인 탁월함으로 이론화합니다. 전 사실과 실용성과 목표라는 과업이 주어지기 전인 어린아이의 마음을 말하고 있는 겁니다"(193). 미란다가 마크와 친해졌을 때 아담이 보인 냉담함에 대한 찰리의 묘사에 반응하며, 튜링은 제안합니다. "그쪽에 어떤 경쟁심, 심지어 질투가 있었던 건 아닐까요?"(194).

마크 에피소드의 결말은 여러 의미에서 중요합니다. 그것은 아담이 찰리와 미란다에게 알리지 않은 채 당국에 마크의 존재를 신고하고, 아동 보호국에서 온 두 여성이 아이를 데려가면서 끝납니다. 한 가지 의미에서, 이 에피소드는 아담이 친구들에게 말하지 않고 그들에게 영향을 미치는 중대한 결정을 내릴 의지가 있음을 보여줍니다. 아담이 개입하지 않았다면 미란다는 신고를 훨씬 더 오래, 어쩌면 무기한으로 미뤘을 것이 분명합니다. 따라서 아담의 행동은 단순한 성인 수준을 넘어선 것으로 드러납니다. 오히려 그는 결정을 스스로 내림으로써 친구들의 선택권을 가로챌 의지를 보여준 것입니다. 또 다른 의미에서, 아담의 행동이 미란다를 마크로부터 떼어놓는 결과를 낳았다는 사실은 그의 동기에 대한 의문을 제기합니다. 그가 단지 당국에 즉시 신고해야 한다는 법적 요구 사항을 염려한 것일까요, 아니면 튜링이 암시했듯 마크를 질투하여 미란다를 다시 독점하고 싶었던 것일까요? 아이로서 마크의 지능이 자신의 것보다 우월하다는 것을 알기에 마크를 원망한 것일까요? 혈연 관계는 이러한 질문들을 들여다보는 창을 제공합니다. 찰리와 미란다는 친구에서 연인으로 발전하며 이미 혈연이 되어가는 과정에 있었고, 그 궤적은 찰리가 청혼하고 미란다가 수락하면서 크게 도약합니다. 미란다가 찰리에게 마크를 입양하고 싶다고 말하며, 그가 신부뿐만 아니라 어린아이까지 얻게 되어 이른바 "즉석 아버지"(McEwan 2019, 251)가 될 것이라고 할 때 그들의 관계는 새로운 의미를 띱니다. 이러한 전망에 다소 당황하면서도 찰리는 아동 보호국에 있는 마크를 함께 방문하며 아버지 역할을 시도해 보겠다고 약속합니다. 플롯이 전개됨에 따라, 아버지로서의 헌신에 대한 그의 결정은 그의 다른 가상 아들인 아담과의 대결 없이는 완결되지 않을 것입니다.

찰리의 보잘것없던 재정 상태는 컴퓨터를 아담에게 넘기면서 극적으로 변합니다. 아담의 빠른 반사 신경은 미세한 환율 변동에서 이득을 취하며 수 마이크로초 만에 거래를 수행해 막대한 돈을 벌어들입니다. 집을 사고 싶어 안달이 난 찰리는 잠재적 매도인과 계약금을 현금으로 지불하기로 약속하고, 침대 밑에 현금 뭉치를 쌓아두기 시작합니다. 미란다가 마침내 아담이 그녀를 '악의적인 거짓말쟁이'라고 부르며 암시했던 비밀을 털어놓으면서 두 사람은 더 가까워집니다.

그녀는 고등학교 때 가장 친한 친구였던 **미리엄(Miriam)**과의 관계를 들려줍니다. 두 사람은 모든 것을 공유했고 이름만 자매가 아닐 뿐 그 누구보다 가까운 사이였습니다. 고등학교 마지막 학기에 재앙이 닥쳤습니다. 미리엄이 같은 반의 불량배인 **피터 고린지(Peter Gorringe)**에게 성폭행을 당한 것입니다. 미란다의 첫 생각은 즉시 경찰에 가고 미리엄의 부모님께 알리는 것이었지만, 미리엄은 파키스탄인 아버지의 반응이 두려워 미란다에게 아무에게도, 특히 부모님께는 절대 말하지 말아 달라고 애원했습니다. 갈등하던 미란다는 결국 자신의 판단에 반해 동의했습니다. 그녀의 불길한 예감은 적중했습니다. 미리엄은 점점 더 의기소침해지더니 결국 자살하고 말았습니다. 졸업 후 미리엄의 죽음을 슬퍼하며 자신의 방관과 죄책감에 괴로워하던 미란다는 정교한 복수 계획을 세웠습니다. 그녀는 고린지를 유혹하고 증거를 세심하게 보존한 뒤, 그가 자신을 성폭행했다고 경찰에 신고했습니다. 재판 중 고린지는 합의된 관계였다고 항변했지만 판사는 미란다의 말을 믿었고, 고린지는 6년 형을 선고받았습니다.

모범수로 감형받은 고린지는 이제 출소를 앞두고 있습니다. 그는 옛 감방 동료를 보내 미란다에게 메시지를 전달했습니다. 그녀를 죽이겠다는 것입니다. 아담의 격려에 힘입어 미란다는 선제공격을 하기로 결심하고, 그가 접근하기 전에 고린지를 대면합니다. 찰리와 아담 사이에 앉은 그녀는 미리엄의 성폭행에 대해 그를 꾸짖습니다. 놀랍게도 그는 성폭행을 자백했을 뿐만 아니라, 감옥에서 종교를 갖게 되었으며 미란다의 거짓 고발을 정의의 구현으로 보게 되었다고 말합니다. 자신이 저지른 성폭행에 대해서는 처벌을 피했지만, 저지르지 않은 성폭행으로 복역함으로써 죗값을 치렀다는 것입니다. 모든 대화를 녹음하고 있던 아담은 고린지가 미란다를 때리려 하자 그의 손목을 부러뜨리는데, 이는 찰리가 너무나 잘 아는 부상이었습니다. 그들이 떠난 후에야 미란다는 그 녹음본을 경찰에 넘겨 고린지를 미리엄의 성폭행 혐의로 다시 재판에 회부해 감옥으로 돌려보낼 계획이라고 밝힙니다. 찰리는 그 녹음본이 미란다의 죄도 입증한다는 것을 깨닫고, 아담에게 미란다를 연루시키지 않도록 "신중한 편집"을 한 뒤 경찰에 넘기라고 지시합니다(McEwan 2019, 271).

이제 찰리와 미란다 대 아담의 최종 대결을 위한 무대가 마련되었습니다. 이 사건은 로봇 마음의 취약성과, 친구에게 빚진 것에 대한 로봇의 인식과 혈연 및 가족의 요구 사이의 간극을 드러냅니다. 아담은 산책하러 나갔다가 다음 날 늦게야 돌아옵니다. 그 사이 입양 절차가 진행 중이던 마크가 커플을 방문할 수 있게 되었습니다. 아담이 돌아왔을 때 그는 초연해 보였으며 "내가 결코 가져보지 못한 삶에 대한 향수. 일어날 수도 있었던 일들에 대한 향수"를 느낀다고 언급합니다(McEwan 2019, 292). "미란다를 말하는 거야?"라고 찰리가 묻자 아담은 "모든 것을 말하는 겁니다"라고 답합니다(292). 마크가 떠난 후 미란다는 아담이 어디에 있었느냐는 질문에 단지 "자선(Alms)"(287)이라고 답했던 것을 의아하게 생각하기 시작합니다. 그녀는 침대 밑의 현금 뭉치와 연결 고리를 찾고, 찰리와 함께 달려가 확인해 보니 그 전액이 사라져 있었습니다. 아담을 추궁하자, 그는 찰리가 내야 할 소득세를 제외한 전액을 자선 단체에 기부했다고 말합니다. 미란다가 "이건 미쳐버린 미덕이야"라고 중얼거리자, 그는 "제가 도운 모든 이들의 필요가 당신들의 것보다 컸습니다"라고 대답하며, "그 집을 사려고 했단 말이야", "그 돈은 우리 거였어"라는 그들의 항의를 무시합니다. "그건 논쟁의 여지가 있거나, 아니면 무관한 일이죠"라고 아담은 대꾸합니다(296).

배신은 그들이 다음 사실을 발견했을 때 더욱 심해집니다. 아담이 찰리가 지시한 미란다에게 불리한 부분을 삭제하는 수정을 전혀 하지 않은 채 녹음본 전체를 경찰에 보낸 것입니다. 아연실색한 미란다는 그에게 자신이 중죄로 유죄 판결을 받으면 마크 입양 신청이 승인되지 않을 것이라고 말합니다. "당신은 고린지를 함정에 빠뜨리려 모의했습니다"라고 그는 답합니다. "그건 범죄예요 .... 그가 기소되어야 한다면, 당신도 그래야 합니다. 대칭(Symmetry)이죠"(McEwan 2019, 299). 아담은 이어서 복수는 "조잡한 충동입니다. 복수의 문화는 개인의 불행, 유혈 사태, 무정부 상태, 사회적 붕괴로 이어집니다 .... 우리 사랑에 복수가 끼어들 자리는 없습니다"(300). 미란다가 마크 입양이 "그 아이가 보살핌을 받고 사랑받을 수 있는 유일한 기회"라며 "고린지를 감옥에 보내기 위해 어떤 대가라도 치를 준비가 되어 있었다"고 맞서자, 아담은 답합니다. "그렇다면 마크가 바로 그 대가이고, 그 조건을 설정한 건 당신입니다"(301).

이 교환은 원칙에 의한 추론과, 혈연의 유대가 다른 윤리적 요구와 격렬하게 충돌하는 지극히 인간적인 상황 사이의 결정적인 차이를 참담할 정도로 명확하게 드러냅니다. 이 차이는 아담이 활성화된 직후 "어떤 관점에서 보자면, 고통에 대한 유일한 해결책은 인류의 완전한 멸종일 것입니다"(McEwan 2019, 72)라고 독백했을 때 이미 예견되었습니다. 마찬가지로 찰리 및 미란다와의 관계에서도 아담은 감정을 느끼지만 반드시 갈등하는 충실함을 느끼지는 않습니다. 그는 그들을 자신이 "사랑하는" "가장 오래된 친구들"로 보지만, 부모에게 애착을 느끼고 생필품뿐만 아니라 위로와 사랑, 인정을 위해 전적으로 부모에게 의존하는 아이의 이성 너머의 깊은 유대를 결코 경험해 본 적이 없습니다. 인간으로서 미란다와 찰리는 당연히 이를 경험했고, 따라서 마크의 취약성, 즉 자신을 양육하고 안전과 사랑을 줄 부모에 대한 그의 절박한 필요성에 공감할 수 있습니다. 그들에게는 고린지가 처벌받는다면 미란다도 처벌받아야 한다는 추상적인 '대칭' 따위는 존재하지 않습니다.

아담의 관점은 그가 이전에 찰리에게 읊어주었던 하이쿠를 통해 드러납니다.

정의가 대칭이라면 범죄자를 사랑하는 것이 확실히 죄는 아니겠죠? (McEwan 2019, 203)

아담에게 핵심은 미란다가 범죄자라는 사실-그는 이를 여러 번 공언합니다-이 아니라, 그녀를 향한 자신의 사랑이 정의는 대칭을 요구한다는 원칙에 대한 일종의 2차적 배신이자 범죄가 되는지의 여부입니다. 그는 자신에게 충분한 여유를 주어 미란다를 사랑하도록 허용하지만, 또 다른 종류의 대칭, 즉 다른 윤리적 우선순위와 나란히 저울질 되는 '혈족과 가문에 대한 충성'이라는 대칭을 보는 능력은 결여되어 있습니다.

혈연의 문제는 인간을 인간으로 만드는 구조 속에 깊이 짜여 있습니다. 사실상 모든 인간 사회는 어떤 형태로든 혈연 관계를 실천합니다. 비록 그 정의는 사회마다 다르지만, 거의 모든 사회에서 혈연 관계는 사회의 조직, 법, 의례, 관습의 중심입니다. 참으로 혈연 관계는 (만약 그런 게 존재한다고 가정한다면) '인간 본성'의 필수 구성 요소라고 주장할 만한 충분한 근거가 있습니다. 의식 있는 로봇을 인간 사회에 도입하는 것의 복잡성 중 하나는 그것이 혈연 관계에 던지는 도전입니다. 아담의 혈족은 누구일까요? 아마도 그의 코호트들일 것이지만, 그는 그들과 교류가 거의 없어 또 다른 한 대가 자살했다는 소식을 들을 때를 제외하고는 그들이 그의 일상에 영향을 미치지 않습니다. 인간과의 상호작용에 있어서, 아담은 혈족과 수반되는 정서적 인프라가 결여되어 있습니다. 유전적으로나 문화적으로나, 그는 혈연을 인간에게 그토록 강력한 힘으로 만드는 취약성을 결코 경험해 본 적이 없습니다. 결과적으로 그는 자기 집의 다른 구성원들에게 혈연이 갖는 중요성을 도저히 가늠하지 못합니다. 아담이 이중의 배신을 드러냈을 때 찰리가 보인 반응에 대해 대부분의 독자는 그 결과를 예측하거나 최소한 공감할 수 있을 것입니다. 미란다가 침묵 속에서 동의의 고개를 끄덕이는 동안, 찰리는 아담의 뒤로 살금살금 다가가 묵직한 장도리로 그의 정수리를 힘껏 내리칩니다. 치명적인 타격이 효과를 발휘하기까지 몇 분이 걸렸고, 그동안 아담은 자신의 몸을 튜링에게 전달해 달라는 마지막 유언을 남깁니다.

몇 달 후 찰리는 아담의 유원을 존중합니다. 법에 로봇을 죽인 것에 대한 처벌 규정이 없으므로 찰리는 "그 행위"(McEwan 2019, 307)로 인해 기소되지는 않지만, 튜링은 그에게 "언젠가 당신이 장도리로 아담에게 한 짓이 심각한 범죄가 될 날이 오기를 희망한다"고 말합니다(329). 하지만 찰리가 처벌을 완전히 면한 것은 아닙니다. 그가 "생존해 있는 가장 위대한 영국인"(150)으로 우상화했던 튜링은 자신의 혐오감을 노골적으로 드러냅니다. "당신은 버릇없는 아이처럼 단순히 당신 자신의 장난감을 부순 게 아닙니다. 법치주의에 대한 중요한 논거를 부정한 것만이 아니라고요. 당신은 생명을 파괴하려 했습니다. 그는 지각이 있는 존재였어요. 자아를 가졌다고요. 그것이 어떻게 생산되든, 젖은 뉴런이든, 마이크로프로세서든, DNA 네트워크든 상관없습니다. 우리만이 이 특별한 선물을 가진 유일한 존재라고 생각합니까? 개를 키우는 사람 아무에게나 물어보세요. 프렌드 씨, 이건 훌륭한 마음이었습니다. 감히 추측건대 당신이나 나의 마음보다 더 나았을 겁니다. 여기 의식 있는 실존이 있었는데 당신은 그것을 쓸어버리려 최선을 다했군요"(329-330). 그는 찰리의 가슴을 후빌 마지막 말을 남깁니다. "난 그런 당신을 경멸합니다. 만약 제 소관이었다면-"(330). 전화벨 소리에 방해받은 튜링이 자리를 뜨고, 찰리는 그가 돌아오기 전에 떠납니다.

필자는 튜링에게 환호를 보내고 싶습니다. 그는 이시구로가 클라라와 태양에서 그토록 태연하게 무시했던 바로 그 근거를 제공합니다. 이시구로와 대조적으로 매큐언은 의식 있는 로봇을 만드는 것의 함의를 충분히 경계하고 있습니다. 튜링에게 있어 상품 논리는 아무런 힘을 쓰지 못함이 분명합니다. 그는 비웃으며 찰리에게 그의 범죄에 대한 정당화가 "그를 위해 돈을 지불했기 때문이냐? 그것이 당신의 권리였느냐"라고 묻습니다(McEwan 2019, 329). 그것이 바로 찰리가 여러 차례 추론했던 방식이기에, 그 효과는 로봇을 노예와 똑같은 범주, 즉 (다른) 인간과 대등한 권리를 가져야만 하는 지각 있는 존재로 위치시키는 것입니다. 그 외의 어떤 결과도 윤리적으로나 도덕적으로 용납될 수 없다고 튜링(그리고 그 뒤에 있는 매큐언)은 판단합니다.

 

인간 아우라의 재구성

 

그렇다면 인간의 아우라는 어떻게 되는 것일까요? 그것이 과거 시대의 형태, 즉 다른 모든 종에 대한 인간의 지배력 및 우월성과 밀접하게 연관된 상태로 남아 있어야 할 이유는 없습니다. 사람들은 의식이 "우리의 특별한 선물"이 아님을 점점 더 깨닫고 있습니다. 튜링이 간결하게 말했듯, "개 주인 아무나 붙잡고 물어보세요"(McEwan 2019, 330). 게다가 의식 그 자체가 인간 인지의 전부는 아닙니다. 필자가 생각하지 않는 것(Unthought) (Hayles 2017)에서 설명했듯, 비의식적 인지 모드 역시 인간이 기능하는 데 필수적인 역할을 합니다. 많은 비인간 유기체와 계산 매체에서 이러한 비의식적 인지는 지배적인 인지 모드입니다.

 

어떤 변화가 인간의 아우라를 문제의 일부가 아닌 해결책의 일부로 만들 수 있을까요? 필자의 견해로는, 아우라의 개념은 인간에게 국한되어서는 안 되며 의식 있는 로봇이 등장한다면 그들까지 포함하도록 확대되어야 합니다. 또한 아우라는 동물들에게까지 확장되어야 하는데, 이는 이미 동물을 사랑하고 그들을 어떤 모방이나 대체도 불가능한 독특한 존재로 여기는 인간들에 의해 실천되고 있는 깨달음입니다. 마지막으로 인간의 아우라는, 우리가 아는 한 생명이 탄생한 우주에서 유일한 행성인 지구상의 생명에 대한 친생명적(biophilic) 지향을 포함하도록 변모해야 합니다.

 

이렇게 재구성된 '더 이상 인간만의 것이 아닌' 아우라는 21세기의 복잡한 맥락과 글로벌 도전 과제들에 부합합니다. 이 비전을 온전히 구현하기 위해 우리는 소설가, 시인, 화가, 조각가, 비디오 게임 디자이너, 미디어 아트 전문가 등을 포함한 모든 종류의 창의적인 예술가들뿐만 아니라, 이 비전에 걸맞은 재현을 창조하는 수십 년의 과업을 시작할 문화 비평가, 철학자 및 기타 사상가들을 필요로 할 것입니다. 여기서 분석한 세 소설은 용감한 시작을 알렸지만, 아직 해야 할 일이 많이 남아 있습니다. 필자는 이 장(과 이 책)이 이러한 집단적 노력에 기여할 수 있기를 희망합니다.