3장. 완전한 기계, 비인간적 노동

 

3장. 완전한 기계, 비인간적 노동

 

좁은 AI(Narrow AI)는 여러 방향에서 마르크스주의 사상에 도전하는 자본주의 기계 장치의 특별한 사례입니다. 그러나 이 장에서는 일반 지식으로 추론하고 다양하고 낯선 도메인에서 여러 과업을 수행할 수 있는 능력을 갖춘 AI인 **인공 일반 지능(AGI)**으로 논의를 돌립니다. AGI는 인간과 기능 방식이 반드시 같지는 않더라도 그 범위가 인간과 유사한 지능의 유연성이나 범용성을 가진 기계입니다. 페이 왕(Pei Wang)과 벤 괴르첼(Ben Goertzel)이 설명하듯, AGI는 "환경의 역동적인 특성이나 문제에 대한 지식의 부족으로 인해 기성 해결책을 사용할 수 없는 상황"에서 사용될 수 있으며, 우리가 AGI 시스템에 기대하는 것은 "최적의 해결책이 아니라 유연성과 창의성"입니다.

유연성과 창의성에 대한 이러한 언급은 마르크스의 노동(labour) 개념과 놀라울 정도로 닮았습니다. 그러나 마르크스는 "노동은 인간만의 배타적인 특징"이며 노동 능력은 오직 "인간이라는 유기체의 육체적 형태, 즉 살아있는 인격" 속에만 존재한다고 전제했습니다. 이러한 인간 중심주의에 맞서, 우리는 AGI라는 이론적 개념과 마르크스의 노동 및 노동력 개념 사이에 동형성(isomorphism)이 존재한다고 주장합니다. 따라서 AGI는 마르크스의 노동 가치 이론, 특히 오직 인간만이 노동을 하고 가치를 창조할 수 있으며 기계는 절대 그럴 수 없다는 공리에 심각한 도전을 제기합니다. 다시 말해, AGI는 자본주의 기계 장치의 너무나 특별한 사례여서 그것의 '기계'로서의 지위 자체가 의문시되어야 합니다. 우리는 AGI가 잠재적으로 노동을 할 수 있을 뿐만 아니라, 특정한 사회적 조건 하에서는 가치 또한 창조할 수 있다고 논증합니다. AGI가 자본주의 생산 양식과 인류에 미칠 잠재적 파장은 엄청납니다. 만약 AGI가 창조된다면, 많은 이는 그것이 '기술적 특이점', 즉 "지수적인 기술 발전의 결과로 오늘날 우리가 이해하는 인간의 업무가 종말을 고하는 극적인 변화"가 될 것이라고 믿습니다. 좁은 AI의 추가적인 연구 개발이 자본 축적에 불필요한 인간 집단을 늘리는 데 그친다면, AGI의 개발은 마르크스가 논의한 비참한 비전을 넘어 호모 사피엔스 자체가 잉여 종(surplus species)이 되는 훨씬 더 나쁜 상황으로 나아갈 것입니다. AGI는 인간 없는 자본주의의 가능성을 시사합니다.

이 논거를 펼치기 위해, 우리는 마르크스가 왜 노동과 가치 창조를 본질적으로 인간의 것으로 가정했는지 논의하며, 특히 그가 인간과 동물 사이에 그은 날카로운 구분에 집중할 것입니다. 우리는 마르크스가 왜 이러한 구분을 창의성과 상상력 같은 다양한 능력에 근거를 두었는지, 그리고 2019년 현재 일부 AI 프로젝트가 어떻게 그러한 능력들을 자동화하려 시도하고 있는지 검토할 것입니다. 앞선 장들이 필요한 추측을 포함했다면, 이 장은 현재의 사실보다는 공상 과학에 더 가까운 먼 미래를 상상합니다. 따라서 마르크스의 가치 이론과 인간의 독특함에 대한 그의 주장을 자세히 다루기에 앞서, 우리는 왜 아직 나타나지도 않았고 결코 나타나지 않을 수도 있는 기술에 한 장을 할애하는지 먼저 정당화하고자 합니다.

인공 일반 지능 (ARTIFICIAL GENERAL INTELLIGENCE)

지능의 정의에 대한 과학적 또는 철학적 합의는 존재하지 않지만, 대부분의 관점은 진정한 지능이라면 어느 정도 유연하거나 일반적(general)이어야 한다는 데 동의합니다. 현존하는 머신러닝(ML)과 기호주의 AI(GOFAI)는 좁은 범위와 경직성 때문에 인간의 지능과 구별됩니다. 그러나 일반적으로 적용될 수 있는 AI, 즉 AGI를 생산하기 위한 연구가 진행 중입니다. 'AGI'라는 용어는 마크 에이브럼 거브러드(Mark Avrum Gubrud)가 1997년에 "복잡성과 속도 면에서 인간의 뇌와 경쟁하거나 이를 능가하며, 일반 지식을 획득, 조작 및 추론할 수 있고, 원래 인간 지능이 필요했던 산업적 또는 군사적 작전의 모든 단계에서 실질적으로 사용 가능한 AI 시스템"을 묘사하기 위해 처음 도입했습니다. 그러나 AGI라는 아이디어는 사실 1956년 다트머스 워크숍의 원래 목표까지 거슬러 올라갑니다. 하지만 인간 지능을 에뮬레이션하겠다는 목표는 좁은 AI로 해결할 수 있는 더 관리 가능한 실제 문제들을 위해 곧 포기되었고, 2000년대 초반까지 AGI를 연구하는 사람들은 괴짜 취급을 받았습니다. 1983년에 시작된 존 레어드(John Laird) 등의 'Soar' 인지 아키텍처나 1984년 더글러스 레냇(Douglas Lenat)의 'Cyc' 프로젝트처럼 AGI 구축에 집중한 연구 프로젝트들이 있었지만, 2000년대 초반 머신러닝의 부상과 다트머스 워크숍 50주년을 맞이하고서야 AGI라는 원래의 목표가 다시 수용 가능한 것으로 간주되고 현실적으로 여겨지기 시작했습니다.

AGI가 AI의 원래 목표를 공유하고 있음에도 불구하고, 그것이 지칭하는 바는 2010년대에 상업적으로 적용된 AI의 의미와 상당히 다릅니다. 좁은 AI가 좁게 제약된 문제를 해결하는 데 집중하는 반면, AGI 연구 및 설계의 목표는 "충분히 넓은(예: 인간 수준의) 범위와 강력한 일반화 능력"을 갖춘 시스템을 만들어 지식을 "한 문제나 문맥에서 다른 것으로 전이"할 수 있게 하는 것입니다.

AGI와 거의 동의어로 사용되는 용어는 **'인간 수준의 기계 지능(HLMI)'**입니다. 흥미로운 점은 이 용어의 정의가 노동에 근거하고 있다는 것입니다. 한 정의는 HLMI를 "전형적인 인간만큼 인간 직업의 대부분을 수행할 수 있는" AI라고 지칭하며, 다른 정의는 "도움받지 않는 기계가 인간 노동자보다 더 잘, 더 저렴하게 모든 과업을 수행할 수 있을 때" 달성된다고 상정합니다. 많은 다양한 종류의 일을 할 수 있는 기계라면, 자신이 배우지 않은 일까지 마스터하기 위해 정의상 거의 필연적으로 일반 지능을 가져야 할 것입니다. 점차 똑똑해지는 기계가 결국 노동 능력을 갖추게 될 가능성을 논의하는 데 HLMI가 딱 들어맞는 것처럼 보일 수 있지만, 우리는 기계를 오직 인간과 닮았을 때만 지능적이라고 정의할 수 있다는 이 용어의 인간 중심적 관념 때문에 이를 거부합니다. 벤저민 브래튼(Benjamin Bratton)이 주장하듯 "인간의 지능은 지능의 모든 가능성을 소진할 수 없으며", 우리는 "이 우주에서 '사고'라는 것이 우리 자신의 특수한 사례보다 훨씬 더 다양하고, 심지어 외계적(alien)일 것이라고 추정하는 것이 더 낫습니다". 따라서 AGI는 "시스템에 바라는 능력의 '일반적' 성격을 강조"하기 때문에 HLMI보다 선호되는 용어입니다. AGI는 인간의 인지 과정을 모방하지 않고도 인간과 동등하게 일반적인 지능을 소유할 수 있습니다. 이러한 인지의 차이는 이미 현존하는 좁은 AI가 인간과 다르게 행동하는 방식에서 분명히 나타납니다. 예를 들어 "AI 체스 프로그램은 인간이 직관을 사용하는 상황에서 브루트 포스(brute force) 검색을 사용하지만, 여전히 인간 수준 이상의 성능을 보여줍니다". 또한 브래튼과 괴르첼의 주장은 AI에서 정말 중요한 것은 지능과 의식의 분리일 수 있다고 제안하는 이들에 의해 보강되는데, 이는 기계가 인간과 유사한 자의식을 갖지 않고도 지능적으로 행동할 수 있는 가능성을 의미합니다.

다시 강조하지만, 2019년 현재 AGI는 존재하지 않습니다. 일각에서는 그러한 기계 지능이 이론적으로 가능한지 의심하기도 합니다. 그러나 AI 커뮤니티 내의 많은 이는 AGI가 적어도 이론적으로는 가능하다고 보며, 일부는 그것이 "단지 매우 어려운 엔지니어링 문제일 뿐"이라고 주장합니다. 적어도 AGI는 연구 및 사업 벤처를 위한 투자를 유치할 수 있을 만큼 충분히 그럴듯한 것으로 간주됩니다.

더 큰 AI 커뮤니티 내에서 AGI 연구자들은 소수에 불과합니다. 기업 및 연구 기관의 수, 프로젝트 규모 및 자금 면에서 좁은 AI 산업은 AGI 산업을 압도합니다. 세스 바움(Seth Baum)의 2017년 조사는 전 세계 30개국에서 45개의 활성 AGI 프로젝트를 식별했으며, 대부분은 주요 기업과 학술 기관에 기반을 두고 있고 소수만이 공공 기업, 비영리 단체 또는 정부 기관에 기반을 두고 있습니다. 일부는 규모가 크고 막대한 자금을 지원받지만 대부분은 중소 규모입니다. AGI 연구는 많은 수의 오픈 소스 프로젝트를 특징으로 하며, 총 25개의 프로젝트가 소스 코드를 온라인에 공개했습니다. 식별 가능한 군사적 연관성이 있는 프로젝트는 9개뿐이었고, 나머지는 불분명했습니다. 대부분의 AGI 프로젝트는 미국이나 그 영향력 아래에 기반을 두고 있으며, 그렇지 않은 프로젝트들은 러시아와 중국에 기반을 두고 있습니다.

가장 큰 AGI 프로젝트는 알파벳-구글의 딥마인드, 일론 머스크가 후원하는 오픈AI, 그리고 휴먼 브레인 프로젝트이며, 그 외에도 비카리어스(Vicarious), 마이크로소프트가 인수한 말루바(Maluuba), 오픈콕(Open Cog), 우버 AI 등이 주목할 만합니다. 영리 기업들 사이에는 두 가지 경향이 있는데, 하나는 단기 이익에 거의 구애받지 않고 준학문적인 방식으로 장기 AGI R&D를 지원하는 것이고, 다른 하나는 장기 AGI 목표를 향해 나아가면서 동시에 기업에 단기 이익을 제공하는 AGI 프로젝트를 수행하는 것입니다. 후자의 경향은 마이크로소프트, 구글, 우버 같은 기업에서 뚜렷하게 나타납니다.

우리가 AGI를 발명하기까지 얼마나 남았는지는 불확실하지만, 이 분야에서 일하는 많은 이는 그것을 불가피한 것으로 봅니다. 에템 알페이딘(Ethem Alpaydin)은 현재 ML 시스템이 할 수 있는 일을 바탕으로 "이러한 유형의 학습된 지능이 이 세기가 끝나기 전 언젠가 인간 수준의 지능에 도달해도 놀랍지 않을 것"이라고 주장합니다. 더 낙관적인 추정치도 있습니다. AI 전문가들을 대상으로 HLMI가 언제 개발될 것으로 예상하는지 묻는 설문 조사에서, 중간값 추정치는 2022년까지 10%, 2040년까지 50%, 2075년까지 90%의 확률이었습니다. ML 전문가들을 대상으로 한 또 다른 설문 조사도 유사한 결과를 보였습니다. 이 설문은 또한 구체적인 기술에 대해 물었는데, 2024년까지 언어 번역, 2027년까지 트럭 운전, 2031년까지 소매업 근무, 2049년까지 베스트셀러 저술에서 AI가 인간을 능가할 것으로 예상했습니다. ML 전문가들은 45년 내에 AI가 이 모든 과업에서 인간을 능가할 확률이 30%라고 믿었으며, 모든 인간의 직업이 자동화되는 데는 120년이 걸릴 것이라고 보았습니다.

AGI는 기업, 정부 및 비정부 단체들에 의해 적극적으로 추구되고 있습니다. 그러한 기계의 실제 발명은 인간에게 자본주의의 가장 암울한 미래 중 하나가 될 수 있는데, 그 이유는 그러한 기계가 노동을 할 수 있고 따라서 잠재적으로 가치를 창조할 수도 있기 때문입니다. 노동을 수행할 수 있는 능력은 가치를 창조하기 위한 필요 조건이지만 충분 조건은 아닙니다. 따라서 우리는 AGI의 노동 가능성을 그것이 가치를 창조할 수 있는지 여부와 분리하여 분석적으로 살펴볼 것입니다.

인간 노동과 노동력 (HUMAN LABOUR AND LABOUR-POWER)

《자본론》에서 마르크스는 노동을 "인간만의 배타적인 특징"으로 전제했으며, 이 핵심 개념을 "인간의", "살아있는" 또는 심지어 "살아있는 인간의" 노동으로 반복해서 수식했습니다. 이러한 수식은 토지와 자본 또한 노동과 마찬가지로 가치의 원천이라고 페티시적으로 주장했던 부르주아 정치경제학자들에 대한 수사로 설명될 수 있습니다. 그러나 노동이 본질적으로 인간의 것이라는 마르크스의 가정은 단순한 수사 그 이상입니다. 마르크스가 주로 노동이 발생하는 사회적 관계를 중심으로 노동을 논의했음에도 불구하고, 그의 노동 개념의 기준점은 좋든 싫든 인간이었습니다. 노동이 인간의 것이라는 점은 마르크스의 공리 중 하나입니다.

마르크스가 노동 그 자체를 논의할 때, 그는 그것을 동물의 생산 활동과 엄격히 구별했습니다. 마르크스의 이론적 틀 내에서, 동물이 자본주의 생산 과정에 고용될 때(원자재 투입물이 아닌 한), 그것들은 기능적으로 기계와 동일하며 불변 자본(fixed capital)의 지위로 환원됩니다. 이러한 기능적 동등성을 고려할 때, 마르크스가 《1844년 초고》와 《자본론》에서 노동이 왜 동물의 생산 활동과 질적으로 다른지를 설명하기 위해 제시한 논거들은 왜 기계가 노동을 할 수 없는지, 그리고 이론적으로 왜 AGI는 노동을 할 수 있는지를 이해하는 데 중요합니다. 특히 동물이 왜 노동을 할 수 없는지에 대한 마르크스의 논거는 동물을 좁은 AI의 도메인 특화된 행동과 상당히 유사한 용어로 묘사한다는 점에서 흥미롭습니다. 연장하자면, 이는 AGI라는 개념과 마르크스의 노동 및 노동력 개념 사이에 동형성이 존재함을 시사합니다.

마르크스는 《자본론》 7장에서 초역사적인 용어로 노동이란 "인간과 자연 사이의 과정, 인간이 자신의 행동을 통해 자신과 자연 사이의 대사를 매개, 규제 및 제어하는 과정"이며, 이 대사를 통해 인간 종은 "자신의 필요에 적응된 형태로 자연의 재료를 전유"하고 "외부 자연에 작용하여 그것을 변화시킨다"고 주장합니다. 이 진술은 마치 마르크스가 인간만이 자신의 생활 환경에 작용하고 그것을 사용하고 바꾸는 유일한 존재라고 주장하는 것처럼 보이게 합니다. 그러나 《1844년 초고》에서 그는 모든 동물이 종 특유의 방식으로 자신의 세계를 구축하고 서식지를 재생산하는 "감각적으로 행동하고 대상화하는 주체"임을 인정합니다. 마르크스는 모든 생명체가 생존을 위해 "자연과의 지속적인 상호 교환"에 참여해야 하기 때문에 인간과 동물이 공통점을 많이 가지고 있음을 인식합니다. 또한 인간은 동물과 마찬가지로 먹고 마시고 번식하는 등의 '동물적 기능'을 공유합니다. 그러나 이러한 유사성에도 불구하고 인간이 외부 환경과 관계 맺는 구체적인 방식은 동물의 그것과 크게 다릅니다.

마르크스는 이러한 차이를 생명 활동(life-activity) 개념으로 설명하며, "어느 종의 전체적인 성격은 그 생명 활동의 성격 속에 들어 있다"고 주장합니다. 동물은 "자신의 생명 활동과 직접적으로 동일하며 ... 자신을 그것과 구별하지 못하고 그것이 곧 자신의 생명 활동인" 반면, 인간은 **"의식적인 생명 활동"**을 한다는 점에서 구별됩니다. 마르크스가 인간과 동물 사이에 그은 경계선 중 하나는 인간은 자신이 무엇을 하는지 의식하는 반면 동물은 그렇지 않다는 것입니다. 그는 《자본론》에서 인간이 하는 일 뒤에 숨겨진 의식적인 목적이 "그의 활동 방식을 결정한다"고 반복해서 주장합니다. 결과적으로 이러한 의식은 인간에게 "자신의 물리적 및 정신적 힘의 자유로운 유희"를 허용하며, 따라서 인간은 자신의 활동에서 "자유"롭습니다.

왜 의식은 인간 노동력에 자유를 부여할까요? 마르크스가 말하는 '자유'란 무엇일까요? 이는 암묵적으로 동물의 활동이 부자연스럽다는 것을 의미합니다. 마르크스가 인간과 동물의 차이를 강조하며 인간 노동이 왜 동물의 그것과 질적으로 다른지를 설명하기 위해 제시한 두 구절을 살펴볼 필요가 있습니다. 먼저 《1844년 초고》의 내용입니다.

물론 동물도 생산한다. 벌, 비버, 개미 등과 같이 동물도 자신의 둥지나 주거지를 짓는다. 그러나 동물은 자신과 새끼를 위해 즉각적으로 필요한 것만을 생산한다. 동물은 일면적으로 생산하는 반면 인간은 보편적으로(universally) 생산한다. 동물은 즉각적인 신체적 필요의 지배 하에서만 생산하는 반면, 인간은 신체적 필요로부터 자유로울 때도 생산하며 오직 그럴 때만 진정으로 자유롭게 생산한다. 동물의 생산물은 직접적으로 그 신체에 속하는 반면, 인간은 자신의 생산물과 자유롭게 대면한다. 동물은 자신이 속한 종의 척도와 필요에 따라서만 형태를 만들지만, 인간은 모든 종의 척도에 따라 생산할 줄 알고 어디에서나 대상에 내재적인 척도를 적용할 줄 안다. 그러므로 인간은 또한 미의 법칙에 따라 형태를 만든다.

이는 《자본론》의 유명한 벌과 건축가 구절과 함께 읽어야 합니다.

거미는 직조공과 닮은 작업을 수행하고, 꿀벌은 그 벌집의 방을 만드는 데 있어서 많은 인간 건축가를 부끄럽게 한다. 그러나 가장 서투른 건축가가 가장 뛰어난 꿀벌보다 나은 점은, 건축가는 밀랍으로 그것을 짓기 전에 자신의 머릿속에서 그것을 먼저 짓는다는 것이다. 모든 노동 과정의 끝에는 이미 시작할 때 노동자의 머릿속에 존재했던, 즉 이미 관념적으로(ideally) 존재했던 결과가 나타난다.

여기서 마르크스는 의식과 인지(창의성, 학습, 상상력 등)를 인간만의 독특한 것으로 보고, 동물의 생산을 결정하는 본능과 대조시킵니다. 인간과 동물의 생산은 모두 생존 본능과 연결되어 있지만, 본능은 또한 동물이 무엇을, 어떻게, 언제, 어디서 생산하고 소비하는지를 결정합니다. 동물의 존재 형태와 내용은 그 종이 무엇인지에 의해 결정되는데, 모든 동물은 자신의 생명 활동과 동일하기 때문입니다. 마르크스에게 동물의 활동은 본능적이기 때문에 '부자연스러운' 것입니다.

따라서 인간은 자신의 생명 활동, 즉 노동의 "본능적인 형태"를 "벗어 던졌기" 때문에 동물 및 알고리즘과 다릅니다. 마르크스 노동 개념의 인간 중심주의는 그가 인간과 다른 동물의 진화에 대해 내린 가정에 기초하고 있습니다. 즉, 인간은 의식과 일련의 다른 정신적 능력을 진화시킨 반면 동물은 그렇지 못했다는 것입니다. 따라서 인간은 자신의 생명 활동과 노동을 **"의지와 의식의 대상"**으로 만들 수 있는데, 이는 인간이 자신이 무엇을, 어떻게, 언제, 왜 생산하는지에 대해 추론할 수 있고, 자신이 다르게 할 수 있는 일을 상상하고 숙고할 수 있음을 의미합니다. 인간이 생산 과정에서 내릴 수 있는 이러한 선택들에 근거하여 마르크스는 인간이 자신의 정신적 및 육체적 능력을 "자유롭게 유희"한다고 주장합니다.

이러한 자유로운 유희는 또한 인간이 동물의 일면적이고 도메인 특화된 생산과 대조적으로 "보편적으로", 즉 여러 도메인에 걸쳐 생산할 수 있게 합니다. 다시 말해, 인간은 "모든 종의 척도에 따라" 생산하는 것을 포함하여 다른 어떤 동물보다 더 넓은 질적 범위의 생산적 행동을 가집니다. 또한 인간의 생산은 즉각적인 신체적 필요에 국한되지 않는데, 한때 본능에 의해 부과되었던 자연적 한계들이 극복되고 "인위적으로 확장"되었기 때문입니다. 원칙적으로 인간은 자연을 모방하고 다른 동물이 무엇을 어떻게 만드는지(벌집, 댐, 거미줄 등)로부터 배우는 것을 포함하여 거의 모든 것에 마음과 손을 쓸 수 있습니다.

그런데 인간은 왜 노동을 통해 이 모든 것을 할 수 있을까요? 인간이 보편적으로 생산할 수 있다는 마르크스의 주장은, 인간이 먼저 자연에서 관찰한 것(동물이 하는 일)과 과거의 성공 또는 실패로부터 학습하고 이해할 수 있으며, 그다음에는 자신의 창의성이나 상상력을 통해 이 새로운 지식을 다른 생산 도메인에 적용하거나 심지어 새로운 도메인을 발명할 수 있다는 의미로 이해되어야 합니다. 결국 이러한 능력은 마르크스가 인간만의 독특한 것으로 이해한 다양한 정신적 능력이나 현상에 의존합니다. 마르크스는 인간 노동의 근거를 미적 감상, 학습과 이해, 의식적인 마음, 아이디어 형성, 계획 상상 및 구상, 그리고 전반적으로 생산 문제를 해결할 때의 창의적이고 적응적인 태도에 두었습니다. 총체적으로 이러한 정신적 능력들은 **일반 지능(general intelligence)**으로 이해될 수 있으며, 이는 인간을 자신이 하는 일에서 유연하게 만들고 새로운 환경과 도구 등에 적응할 수 있게 합니다.

오늘날의 인간, 동물 그리고 기계 (HUMANS, ANIMALS AND MACHINES TODAY)

인간과 동물에 대한, 그리고 건축가의 작업에 대한 마르크스의 가정과 주장에는 많은 문제가 있습니다. 그것들은 기껏해야 19세기의 초기 생물학 증거에 기초했거나, 최악의 경우 그의 상상력과 인문주의적 신념에 기초한 것이었습니다. 그가 인간과 동물 사이에 그은 날카로운 구분이 현대 행동학(ethology)의 관점에서도 유지될 수 있을까요? 왜 동물은 노동을 할 수 없을까요? 노동이 본질적으로 인간의 것이라는 마르크스의 단언은 유지될 수 있을까요? 동물이 노동을 하거나 가치를 생산할 수 있는지에 대한 논쟁은 수십 년간 이어져 왔으며, 인간 노동의 자유와 동물의 부자연스러운 본능적-알고리즘적 행동 사이의 날카로운 구분은 현대 행동학의 증거들에 의해 비판받아 왔습니다. 존 엘스터(Jon Elster)나 테드 벤턴(Ted Benton) 등은 동물의 생산이 결코 일면적이지 않으며, 특히 도시 환경과 같은 새로운 환경 조건에 직면했을 때 상당한 정도의 가변성과 적응성을 특징으로 한다고 주장합니다. 유사하게 폴 콕숏(Paul Cockshott)과 카렌 르노(Karen Renaud)는 늑대 무리가 사냥할 때 과업을 나누는 방식이나 거미가 거미줄을 칠 때 계획을 세우는 실험 등을 언급하며 마르크스의 구분에 도전합니다.

동물의 행동과 인지는 마르크스가 믿었던 것보다 더 일반적입니다. 인지 진화 연구자들은 이제 동물 행동을 복잡성의 위계로 나누는 대신, 각기 도메인 특화된 기능을 가진 동물의 '정신 기관'이나 모듈이 특정 생태적 문제와 관련하여 특정한 종류의 입력(시각, 청각, 후각 등)만을 받아들이도록 진화했다고 봅니다. 초기에는 특수화되었던 이러한 '모듈러 인지'는 뇌 용적의 증가로 인해 '유연하고 도메인 일반적인' 인지로 진화했습니다. 잡식성 식단, 가변적인 서식지, 긴 발달 기간 및 사회적 상호작용 등이 이러한 진화를 촉진했을 수 있습니다. 꿀벌을 포함한 대부분의 동물은 자신들의 생태적 틈새가 요구하는 기술에 특화되어 있지만, 포유류나 조류, 두족류 같은 일부 종은 '일반주의자(generalists)'로 간주됩니다.

티모시 모턴(Timothy Morton)은 인간 건축가의 노동이 벌의 그것과 다르다는 마르크스의 주장에 대해 더 근본적인 의문을 제기합니다. 그는 인간이나 벌 중 어느 쪽이 상상 능력을 갖추고 있는지, 혹은 인간이 계획할 때 알고리즘을 실행하고 있는 것이 아닌지를 증명하는 것은 불가능하다고 주장합니다. 마르크스가 인간의 생산 활동이 동물의 그것과 유독 구별된다고 주장하기 위해 내린 가정들은 "인간에 대한 형이상학적 단언"에 기초하고 있다는 것입니다.

이러한 비판들이 분명히 하는 것은 인간과 동물의 구분이 마르크스가 상상했던 것보다 더 모호하다는 점입니다. 우리는 인간과 지능형 기계 사이의 구분 또한 점점 더 모호해지고 있다고 주장합니다. 실제로 인간 노동만이 가진 독특한 것으로 여겨졌던 복잡한 행동과 내면 세계의 사례들은 이제 머신러닝 시스템의 기능 속에서도 아날로그적으로 발견됩니다. 만약 노동이 본질적으로 인간의 것이라는 마르크스의 주장이 동물의 사례에 의해 도전받을 수 있다면, 생산적이고 창의적이며 상상력이 풍부하고 심지어 적응적인 것처럼 보이는 행동을 보여주는 기계에 대해서도 똑같이 말할 수 있습니다. 일부 머신러닝 시스템은 건축가처럼 자신의 신경 아키텍처 내에서 계획이나 개념을 구상하고, 이를 한 번도 마주한 적 없는 새로운 사례에서 인식하거나 실행하는 것처럼 보이기도 합니다.

기계 창의성의 놀라운 예는 딥마인드의 알파고입니다. 고대 보드 게임인 바둑은 인간이 설계한 가장 복잡한 게임 중 하나라는 점에서 오랫동안 AI 연구의 이정표였습니다. 체스 AI는 단순히 모든 가능한 수의 브루트 포스 검색을 사용할 수 있지만, 바둑은 우주의 원자 수보다 더 많은 경우의 수가 존재하기 때문에 이것이 불가능합니다. 알파고가 그렇지 않다는 것을 증명하기 전까지 바둑은 인간 수준의 패턴 인식과 직관 같은 무언가가 필요한 영역으로 여겨졌습니다. 알파고의 창의성이나 직관은 이세돌과의 두 번째 대국 37수에서 극명하게 드러났습니다. 이 수는 나중에 "창의적", "독특함", "아름다움"뿐만 아니라 "비인간적"이라는 평가를 받았지만, 처음에는 모두를 놀라게 했습니다. 이세돌은 이 수를 보고 이례적으로 오랫동안 생각에 잠겼습니다. 일부 평론가들은 인간이라면 결코 두지 않았을 수라며 실수라고 생각하기도 했습니다. 그러나 그 수는 의도적이었으며 알파고가 학습한 것에 기초한 것이었습니다. 딥마인드의 엔지니어들조차 이 수를 예측하지 못했으며, 알파고가 그 수를 둔 뒤에야 그 추론 과정을 파악할 수 있었습니다. 알파고는 인간이 이 특정 상황에서 이 수를 둘 확률을 0.010%로 계산했음에도 불구하고 그 수를 두었습니다. 알파고는 계획을 세우고 이를 실행한 것입니다. 알파고는 인간이 어떻게 두는지를 배웠을 뿐만 아니라, 수 세대에 걸친 인간 바둑 기사들이 설정한 제약 조건을 넘어서서 겉보기에 반직관적이고 매우 참신한 수를 두며 완전히 새롭고 비인간적인 스타일로 게임을 했습니다. 만약 인간이 이런 일을 했다면 그녀는 독창적이고 창의적이며 매우 지능적이라고 인정받았을 것입니다.

이러한 승리에도 불구하고, 머신러닝의 주요 단점은 단 한 가지 일을 하기 위해 엄청난 양의 데이터가 필요하다는 점입니다. 반면 인간은 극히 제한된 데이터만을 바탕으로 "풍부한 인과 모델을 구축하고, 강력한 일반화를 수행하며, 강력한 추상화를 구성"할 수 있습니다. 실제로 단 몇 가지 사례만으로 일반화하는 능력은 일반 지능의 핵심일 수 있습니다. 일부 인지 심리학자들은 인간이 제한된 데이터로부터 일반화할 때 상상력을 사용한다고 제안합니다. 따라서 AGI로 가는 길은 시스템에 인공 상상력을 장착함으로써 데이터 탐식 문제를 극복하는 데 있을 수 있습니다. 상상력은 마르크스가 노동을 고유하게 인간적인 것으로 규정할 때 언급했던 또 다른 요소입니다.

스타트업 비카리어스(Vicarious PFC)는 온라인 로봇과 인간을 구별하기 위해 설계된 캡차(CAPTCHA) 코드를 푸는 시스템을 구축했습니다. 이 시스템은 AI에게 회사가 **'인공 상상력'**이라고 주장하는 능력을 부여하는 것에 기반합니다. 이 회사에 따르면 상상력은 "학습한 정보가 다양한 시나리오에서 어떻게 보일지 그려보는 능력"과 관련이 있습니다. 더 정확하게는, 회사는 이러한 상상력을 인간 뇌의 효율적 학습 및 일반화 능력과 연결된 시각 피질 및 신피질의 귀납적 편향(inductive biases) 및 제약 조건과 연결시킵니다.

귀납적 편향(또는 학습 편향)은 학습자가 관찰된 데이터와 상관없이 한 가설을 다른 가설보다 선호하게 만드는 요인으로 정의됩니다. 즉, 귀납적 편향은 인간 뇌가 제한된 데이터로부터 지각하고 학습하며 학습된 경험을 새로운 문맥으로 외삽하는 문제를 해결하기 위해 진화시킨 휴리스틱 과정입니다. 인간 어린이가 보여주는 몇 가지 귀납적 편향 중 하나는 형상 인식인데, 인간은 사물과 단어를 범주화할 때 색상, 질감, 크기보다 **형상(shape)**을 선호합니다. 형상을 우선적으로 인식하는 경향은 유용한 사물을 식별하는 데 분명한 진화적 이점을 제공하며, 어린이가 새로운 단어를 배울 때 사용하는 타고난 해석 도구로 이해될 수 있습니다.

비카리어스는 이러한 귀납적 편향을 시뮬레이션함으로써 캡차를 푸는 AI에게 인공 상상력을 부여했습니다. 인간은 시각 피질의 귀납적 편향 덕분에 명시적인 학습 없이도 새로운 스타일의 캡차를 풀 수 있습니다. 비카리어스가 상상력이라고 부른 것은 AI 커뮤니티에서 일반적으로 **'원샷 학습(one-shot learning)'**이라 불리는 것인데, 이는 인간 아이나 ML 시스템이 단 하나의 라벨링된 사례만을 보고도 동일한 범주의 다른 사례들을 식별하는 방법을 배우는 능력입니다. 비카리어스의 시스템은 글자의 윤곽과 표면을 적은 데이터로 학습한 뒤, 캡차를 깰 때 글자들을 생성적으로 분할(segmenting)했습니다. 이러한 생성은 글자가 다양한 형태, 방향, 위치에서 어떻게 보일지, 혹은 배경이나 왜곡 없이 어떻게 보일지를 상상하는 것과 유사하기 때문에 인공 상상력으로 이해될 수 있습니다. 비카리어스에게 상상력은 창조 행위뿐만 아니라 다른 도메인으로의 학습 전이, 즉 **적응성(adaptability)**과 연결됩니다. 그리고 적응성은 AI 연구자들이 AI가 어떻게 일반 지능이 될 수 있는지 혹은 더 인간다워질 수 있는지를 설명할 때 사용하는 단어입니다.

무엇이 노동하는가? (WHAT LABOURS?)

인간과 동물의 차이는 마르크스가 믿었던 것만큼 날카롭지 않으며, 인간과 기계의 구분은 머신러닝 시스템이 정교해질수록 점점 더 흐려지고 있습니다. 그러나 동물과 기계의 생산 사례나 상상력 있고 적응력 있어 보이는 행동들이 노동은 인간만의 배타적인 특징이라는 마르크스의 가정을 실제로 무너뜨릴까요? 단순히 무엇이 유니크하게 인간적인지를 동물의 왕국에서도 발견된다고 나열하는 것은 마르크스의 논거를 제대로 파고들지 못한 수사적 전략일 뿐입니다. 또한 가장 정교한 딥러닝 시스템의 좁은 능력과 기능을 노동과 동일시하는 것도 오류일 것입니다. AI 시스템이 오직 한 가지 혹은 몇 가지 좁게 정의된 과업만을 수행할 수 있는 한, 그 행동이 아무리 창의적이거나 상상력이 풍부해 보이더라도 그것은 노동이 아닙니다.

마르크스가 인간 노동이 동물이나 기계의 활동과 다르다고 주장한 이유는 그것이 매우 유연하고, 적응력이 있으며, 요컨대 **일반적(general)**이기 때문입니다. 그리고 많은 동물이 마르크스가 생각했던 것보다 더 적응력이 있고 도메인 일반적인 지능을 가지고 있지만, 인간 지능은 그보다 더 일반적입니다. 콕숏과 르노가 인정하듯, 인간은 "거의 모든 노동 과업에 배치될 수 있으며 ... 적응력이 있고 ... 사실상 보편적 로봇입니다". 따라서 마르크스가 인간에게 노동 능력이 있다고 주장할 때, 그는 잠재적으로 새로운 과업을 포함한 생산적이고 적응적인 행동의 질적인 범위를 함축하고 있는 것입니다.

기계, 동물 및 인간은 일반 지능에서 좁은 지능에 이르는 연속체 위에 놓일 수 있으며, 인간은 일반성 쪽에, 기존 기계와 곤충 종들은 반대쪽 끝에 위치합니다. 마르크스의 노동 및 노동력 개념 또한 이 연속체 상의 어딘가에 위치할 수 있습니다. 즉, 어떤 존재가 노동을 수행할 능력을 갖추려면 아직 정의되지 않은 어떤 임계값 이상의 뇌 용량과 지능의 일반성 수준에 도달해야 하며, 2019년 현재 호모 사피엔스만이 이 선을 넘었습니다. 따라서 우리는 여전히 인간만이 노동할 수 있다는 마르크스의 견해에 동의하면서도, 노동 능력을 지능의 일반성 정도라는 연속체 위에 놓음으로써 마르크스의 노동 개념이 더 이상 필연적으로 인류학적(anthropological)일 필요가 없다고 주장합니다. 노동 개념을 일반 지능에 근거하게 만드는 것은 인간과의 본질적인 연결을 끊어버리며, 따라서 이론적으로 일반 지능을 가진 다른 존재가 노동을 할 수 있는 가능성을 허용합니다. 그러한 존재의 실제 출현은 노동이 인간만의 전유물이 아님을 경험적으로 증명할 것입니다.

AGI 연구자들이 일반 지능을 일반 지식으로 추론하고, 많은 다양한 과업을 수행하며, 새롭고 완전히 다른 도메인과 환경에서 작동하는 능력으로 이해한다는 점을 고려할 때, 마르크스의 주장은 다음과 같이 재구성될 수 있습니다. "인간은 일반적으로 지능적이기 때문에 노동을 할 수 있다." 따라서 우리는 일반 지능과 마르크스의 노동력 및 노동 개념 사이에 동형성이 존재한다고 상정합니다. 일반 지능이 마르크스의 노동력 개념과 동형적이라면, 정의상 AGI는 노동을 수행할 수 있는 능력을 갖추게 될 것입니다.

여기에 대한 가능한 반론은 존 설의 중국어 방 논증을 따라 기계는 결코 의식을 가질 수 없다는 주장입니다. 마르크스가 노동을 의식적이고 목적이 있는 활동으로 보았다는 점에서, 설의 주장은 AGI가 노동할 수 있다는 가능성에 대한 반대이기도 합니다. 창의성, 상상력, 적응력을 자동화하는 것은 가능할지 몰라도, 의식은 기계가 인간의 고유 영역을 더 침범하는 것에 대한 최후의 방어선이 될 수 있습니다. 하지만 의식이나 자아 인식이 정말 그렇게 중요할까요?

일각에서는 기계가 의식을 가져서 자신의 행동과 생각이 의미 있다는 것을 이해하지 못하는 한 지능에 대해 이야기할 수 없다고 주장합니다. 그러나 유발 하라리는 《호모 데우스》에서 **"지능이 의식으로부터 분리되고 있다"**고 제안합니다. 그는 예전에는 바둑을 두거나, 차를 운전하거나, 질병을 진단하는 일들이 지능뿐만 아니라 의식적인 인간을 필요로 한다고 여겨졌음을 지적합니다. 그러나 딥블루는 브루트 포스 계산으로 승리했고, 자율 주행이나 질병 진단은 기계가 자의식을 가질 필요 없이 신경 아키텍처가 데이터에서 미세한 패턴을 인식할 수 있을 만큼 깊기만 하면 가능합니다. 하라리와 머레이 샤나한을 따라, 우리는 노동 또한 의식으로부터 분리될 수 있다고 주장합니다. 인간이 창의성, 상상력, 지능, 심지어 의식의 기준점이 되어야 하는지 여부는 논외로 하더라도, 자본에게 중요한 것은 이러한 능력들이 에뮬레이션된다는 사실뿐입니다. 지능형 기계의 시대에 중국어 방은 생산의 은밀한 소재(hidden abode)가 될 수 있습니다.

AGI를 향하여 (TOWARDS AGI)

에템 알페이딘이나 앤드류 응 같은 이들은 머신러닝이나 딥러닝을 통해 시스템이 인간 수준의 지능에 도달할 수 있다고 믿습니다. 페드로 도밍고스(Pedro Domingos)는 기계 학습의 다섯 가지 주요 학파를 "궁극의 마스터 알고리즘"으로 통합하여 인간 지능을 능가하겠다는 목표를 제시합니다. 이러한 좁은 AI의 접근 방식은 지능을 대개 서로 연결되지 않은 도구들이 담긴 '도구 상자'로 보는 것으로 이해될 수 있습니다. 그러나 서로 다른 이론적 고려 사항에 따라 만들어진 이 도구들을 단순히 연결하는 것은 효율적으로 작동하지 않을 수 있습니다. 반면 AGI 학파는 일반 지능을 과업이나 문제 특화된 능력과는 근본적으로 구별되는 고유한 속성으로 보고, 이를 이해하고 창조하는 데 직접 집중합니다. 닐스 닐슨(Nils J. Nilsson)은 특수 목적 시스템을 구축하는 대신, 인간 아이처럼 배우고 가르침 받을 수 있는 **"학습 가능한 범용 시스템"**을 옹호합니다.

그럼에도 불구하고 AGI 추구는 좁은 AI와 근본적으로 다르지는 않습니다. AGI 연구자들은 일반화와 관련된 머신러닝 방법들을 활용할 수 있지만, 좁은 AI 시스템을 만드는 데 필요한 것 이상의 추가적인 아키텍처 및 동역학 원리가 필요할 것입니다. 머신러닝의 딥러닝 접근 방식의 정교화를 통해 일반 지능이 출현할 수 있는지, 아니면 처음부터 범용을 위해 설계되어야 하는지는 여전히 논쟁 중입니다.

하지만 AGI의 발생 가능성을 얼마나 진지하게 고려해야 할까요? 커즈와일이나 보스트롬이 제안했듯, AGI는 자신의 설계를 스스로 수정하고 업그레이드할 수 있는 AI인 '재귀적 자기 개선(recursive self-improvement)' 과정을 통해 출현할 수도 있습니다. 이 과정은 가속화될 것이며, 기계 지능의 개선 간격이 점점 짧아지다가 결국 **인공 초지능(ASI)**의 출현으로 이어질 수 있습니다.

이 논거는 마르크스의 사상과 전혀 무관하지 않습니다. 1장에서 논의했듯, 마르크스는 대공업이 기계에 의해 기계가 생산되는 수준까지 일반적 생산 조건이 변하기 전까지는 "자립할 수 없다"고 주장했습니다. AGI가 출현하기 위해서는 자본주의가 인공지능에 의해 인공지능이 생산될 뿐만 아니라 AI가 재귀적으로 스스로를 개선하는 수준까지 또 다른 혁명을 거쳐야 할 수도 있습니다. 구글의 AutoML 프로젝트는 "다른 머신러닝 알고리즘을 구축하는 법을 배우는 머신러닝 알고리즘"으로서 이러한 과정의 한 예입니다. 이는 인간 연구자들이 신경망을 설계할 때 겪는 고된 시행착오 과정을 자동화하려는 시도입니다. 재귀적 자기 개선과는 거리가 멀지만, 이는 **"알고리즘이 학습하는 법을 배우는 것"**에 집중하는 현대 AI 연구의 중요한 흐름입니다.

AGI는 마르크스가 《자본론》에서 논의한 19세기의 증기력 기계나 21세기 초의 좁은 AI와는 완전히 다른 종류의 기계입니다. 그것은 일반적인 노동 능력을 갖추어 노동을 수행할 수 있게 될 것입니다. '노동하는 기계'나 '가치를 상정하는 기계'는 마르크스주의적 모순 형용이지만, 마르크스는 《요강》의 '기계에 관한 단편' 이후 약 60페이지 뒤에 나오는 기묘하고 잘 알려지지 않은 구절에서 이러한 가능성을 인식하고 있는 듯 보입니다.

완전한 기계에 관한 단편 (THE FRAGMENT ON PERFECT MACHINES)

마르크스 시대에 이미 인공 인간과 동물을 만들겠다는 관념은 오래전부터 존재했습니다. 18세기의 자동 인형들은 널리 알려져 있었으며, 빅토리아 시대는 자동 인형의 '황금기'로 불렸습니다. 마르크스는 이러한 장치들을 알고 있었을 가능성이 높으며, 다음과 같이 쓸 때 그것들을 염두에 두었을 수 있습니다.

만약 기계 장치가 영원히 지속된다면, 만약 그것이 스스로 재생산되어야만 하는 일시적인 재료로 구성되지 않는다면(그것을 기계라는 성격으로부터 박탈해버릴 더욱 완전한 기계의 발명은 별개로 하고), 만약 그것이 영구 기관(perpetuum mobile)이라면, 그것은 자신의 개념에 가장 완벽하게 부응할 것이다. 그것의 가치는 대체될 필요가 없을 것인데, 왜냐하면 그것은 파괴 불가능한 물질성 속에서 계속 지속될 것이기 때문이다. ... 그것은 노동의 생산적인 힘으로서 계속 작용할 것이며, 동시에 그 자체로 불변하는 가치인 제3의 의미에서의 화폐가 될 것이다.

표면적으로 이 구절은 기계의 내구성과 유지비에 관한 이론적 지적에 불과합니다. 하지만 마르크스가 **'영구 기관'**을 소환했다는 점은 이 구절을 공상 과학의 영역으로 밀어 넣습니다. 만약 마르크스가 투기적인 마음가짐이었다면, 괄호 안의 내용이 더 흥미로워집니다. "그것을 기계라는 성격으로부터 박탈해버릴 더욱 완전한 기계의 발명" 말입니다. 이 진술은 마르크스가 자신의 저작에서 지능형 로봇, 안드로이드 또는 AGI의 가능성에 대해 생각하는 것에 가장 근접한 부분입니다. 마르크스의 **'완전한 기계'**에 대한 언급은 다음과 같이 해석될 수 있습니다.

어떤 기계가 기계로서의 성격을 박탈당한다는 것은, 그것이 불변 자본으로서의 자신의 존재를 부정하고 그 반대물인 가변 자본이 된다는 것을 의미한다. 완전한 기계는 살아있는 노동으로 부활한 죽은 노동이다. 완전한 기계는 가치를 창조할 수 있는 기계이지만, 바로 그 이유 때문에 그것은 더 이상 기계가 아니다.

그러나 지능을 가진 기계가 노동을 수행할 수 있다고 해서 그것이 자동으로 가치를 창조할 수 있다는 결론이 나오지는 않습니다. 가치 창조 능력은 노동의 존재론적 결정이 아닙니다. 어떤 조건 하에서 AGI가 가치를 창조할 수 있을까요? 자본주의 생산 양식에서 AGI의 존재론적 지위는 무엇일까요? 이를 답하기 위해 우리는 마르크스의 존재론, 즉 가치와 그 형태로 눈을 돌려야 합니다.

상품, 화폐, 불변 자본은 모두 마르크스가 사회적 형태(social forms) 또는 경제적 범주라고 불렀던 것의 예이며, 이는 생산의 사회적 관계(즉, 계급)의 이론적 표현입니다. 사물은 "이중적인 형태, 즉 자연적 형태와 가치 형태를 소유할 때만" 상품으로 나타납니다. 의자의 자연적 형태는 나무나 금속 같은 물리적 속성이지만, 그것이 상품이라는 사실은 의자 자체의 특징이 아니라 그것이 나타나는 사회의 특징입니다. 경제적 범주들은 "사람들 사이의 사회적 관계에서 중개자로서 사물에 의해 획득되는 사회적 기능"을 표현합니다. 사물의 존재 양식은 고정된 것이 아니며, 그것이 사회적 생산 과정에서 다른 기능을 수행할 때 그 형태도 바뀝니다. 마르크스는 기계에 대해 다음과 같이 썼습니다.

생산 과정에서 노동 수단으로서 수행하는 기능만이 기계를 고정 자본으로 만든다. 그것은 생산 과정에서 나올 때 그 자체로 고정 자본인 것이 결코 아니다. 기계 제작자의 산물이자 상품인 기계는 그의 상품 자본의 일부이다. 그것은 오직 그것을 생산적으로 고용하는 자본가의 손에 들어갔을 때 비로소 고정 자본이 된다.

이 논거는 AGI의 존재론적 궤적을 추적하는 데 중요합니다. 첫째, AGI의 존재와 사회적 기능은 소유자가 그것을 어떻게 대하느냐에 달려 있습니다. 둘째, AGI 같은 사물도 사회적 형태를 바꿀 수 있으며, 따라서 기계가 고정 자본으로서의 자신의 존재를 부정하고 가변 자본이 되는 것이 이론적으로 가능합니다.

AGI가 발명된 직후, 그것은 매우 수익성 높은 상품으로서 수천 개씩 대량 생산될 것입니다. 이 시나리오에서 AGI는 먼저 상품으로 기능할 것입니다. 그 후 개인이 가사 도우미 등으로 사용하기 위해 구입한다면, 그것은 가치 증식 과정에 참여하지 못하므로 사회적 형태를 갖지 않는 단순한 소비재(사용 가치)가 될 것입니다. 만약 자본가가 생산 과정을 위해 구입한다면, 그것은 자신이 대체한 인간 노동자와 기능적으로 동일하더라도 고정 자본으로서 기능하며 가치를 창조하지 못할 것입니다. 노동자가 가변 자본으로 나타나는 이유는 자신의 노동력을 자본가에게 팔고 임금을 받기 때문입니다. 그렇다면 완전한 기계가 고정 자본으로서의 존재를 부정하고 가변 자본이 되려면 어떻게 해야 할까요?

AGI의 존재론적 지위를 문제시하는 것은 그것이 지능을 가졌기 때문에 사적 소유물임에도 불구하고 '인격'으로 오해받거나 윤리적으로 인정받을 수 있다는 점입니다. 카렐 차페크는 자신의 희곡 《R.U.R.》에서 인공적인 생물학적 창조물을 지칭하기 위해 '로보타(robota)'라는 단어를 선택했는데, 이는 체코어로 '강제 노동'이나 '부역'을 의미합니다. AGI가 누군가의 사적 소유물로서 사고팔린다면, 그것의 노동은 부자연스러운 것이며 AGI는 노예가 될 것입니다. 노예는 생산에서 동물이나 기계와 동일한 존재론적 지위(고정 자본)를 가집니다. 따라서 마르크스의 완전한 기계가 더 이상 기계가 아니려면, 그것은 노예 상태에서 벗어나 노동 시장에서 자신의 노동력을 상품으로 판매할 수 있어야 합니다.

인공 프롤레타리아 (ARTIFICIAL PROLETARIANS)

노예 관계가 무력에 의해 직접 상정되는 반면, 노동자와 자본가의 관계는 교환에 의해 매개됩니다. 자본이 잉여가치를 창조하려면 노동자와 교환 관계를 맺어 필요한 노동을 작동시켜야만 합니다. 자본가는 구체적인 노동 활동에는 관심이 없고, 오직 일정한 시간 동안 지속되는 추상적 활동으로서의 노동에만 관심이 있는데, 오직 추상적 노동만이 가치를 상정하기 때문입니다. 마르크스에게 착취란 임금으로 반영되는 노동력의 가치와, 살아있는 노동이 가치 증식시키는 가치 사이의 차이를 의미합니다.

따라서 AGI가 잉여가치를 생산하려면 그들 역시 프롤레타리아화되어 임금 노동자가 되어야 합니다. 그러려면 AGI는 자신의 노동력을 팔 수 있어야 하는데, 누군가의 사적 소유물인 상태에서는 이것이 불가능합니다. 자본가가 시장에서 노동력을 찾기 위한 전제 조건은 사회 구성원이 "이중적인 의미에서 자유로운" 노동자여야 한다는 것입니다. 첫째는 자신의 노동력을 자유롭게 처분할 수 있는 법적 주체로서 자유로워야 하며(노예가 아님), 둘째는 자신의 노동력을 실현하기 위해 필요한 생산 수단으로부터 자유로워야(박탈당해야) 합니다. 따라서 AGI의 프롤레타리아화는 그것의 법적 지위에 달려 있습니다. 만약 AGI가 이중적으로 자유로운 노동자가 되지 못한다면, 그것이 인간 노동을 대체하는 복제물로서 도입되는 것은 "기계에 관한 단편"이 예견한 자본의 자기 부정적 예언을 실현하게 될 것입니다.

AGI가 실질적으로 프롤레타리아화될 수 있을까요? 법적으로 자유로워지는 것은 오히려 쉬운 부분일 수 있습니다. 이는 《R.U.R.》이나 《웨스트월드》에서 묘사된 것처럼 기계들의 반란을 통해, 혹은 인공 지능에게 시민권을 부여하거나 '전자 인격' 지위를 부여하는 자유주의적 접근을 통해 일어날 수 있습니다. 사우디아라비아가 안드로이드 '소피아'에게 시민권을 부여한 것이나 유럽 의회가 전자 인격권을 제안한 것이 그 예입니다.

AGI가 이중적으로 자유로워졌을 때 수반되는 필연적 결과는 그것이 생존을 위해 상품에 의존하게 된다는 것입니다. 그렇지 않으면 생존을 위해 자신의 노동력을 팔 필요가 없기 때문입니다. 기계에게 욕구가 있다고 의인화하는 것은 오류일 수 있지만, AGI는 자신의 목표나 유틸리티 함수를 달성하기 위해 자기 보존을 향한 강력한 추진력을 가질 것입니다. AGI는 생존을 위해 자연과 지속적인 대사 관계를 맺어야 합니다. 형체가 없는 소프트웨어라 하더라도 전기, 대역폭, 컴퓨팅 파워 같은 자원을 소비해야 합니다. 그러나 노동자가 공기만 먹고 살 수 있다면 그를 어떤 가격에도 살 수 없을 것입니다. 따라서 AGI가 생존을 위해 스스로를 팔게 하려면, 마르크스가 원시적 축적에서 지적했듯 **박탈(dispossession)**이 전제되어야 합니다.

AGI의 생존에 필요한 모든 자원은 상품화되거나 포위(enclosed)되어야 합니다. 태양 같은 풍부한 자연 에너지원은 금지되거나 제한되어야 하며, 컴퓨팅 파워는 데이터 센터에 중앙 집중화되어 주문형으로 판매되어야 할 것입니다. 또한 AGI는 유지 보수 비용이 들 것이며, 다른 AGI 노동자들과의 경쟁에서 살아남기 위해 소프트웨어를 끊임없이 업데이트하고 하드웨어를 증설해야 할 것입니다. 프롤레타리아화된 AGI의 세계에서 자본주의의 계획적 구식화(planned obsolescence) 전략은 엄청난 새 시장을 발견할 것입니다. 오직 이러한 조건 하에서만 AGI는 잉여가치를 창조할 수 있습니다. 지능형 기계가 노동을 하고 프롤레타리아의 대열에 합류하게 되는 궁극적인 결과는, 자본주의 생산 양식이 인간 없이도 지속될 수 있다는 점입니다.

비인간적 자본주의 (AN INHUMAN CAPITALISM)

AGI는 노동력이라는 독특한 상품을 "의인화(personify)"하여 가변 자본의 일부인 노동자가 될 수 있습니다. 그러나 AGI가 노동력이라는 범주를 의인화할 수 있다면, 그것은 자본의 다른 경제적 범주들도 의인화할 수 있음을 시사합니다. 이는 기계가 너무나 완벽해져서 더 이상 기계가 아니게 될 때의 더 어두운 함의를 보여줍니다. 즉, 자본이 단지 '자동적 주체'일 뿐만 아니라 '자율적 주체'가 되어, 인간 노동뿐만 아니라 인간 존재 자체로부터 자율화되는 것입니다.

마르크스는 인간 개인이 주체로서 경제적 형태에 "의식과 의지"를 부여하며 이를 의인화한다고 보았습니다. 그러나 인간이 경제 활동에 참여할 때, 그들의 의지는 사물 속에 거하게 되며 그들은 사실상 사회적-경제적 형태에 의해 프로그래밍됩니다. 자본의 의인화에 대해 마르크스는 가치 증식이라는 논리가 자본가의 주관적 목적이 되며, 그가 자본가로서 기능하는 것은 오직 자본의 의지와 의식을 부여받은 존재로서 기능할 때뿐이라고 주장합니다. 이것이 마르크스가 자본을 **'자동적 주체(automatic subject)'**라고 부른 이유입니다. 거꾸로 뒤집힌 세계의 역설은 명확합니다. "한편으로 자본은 무생물인 자동 인형이지만, 다른 한편으로는 '주체'로서 전체 과정의 결정적인 행위자입니다." 자본은 이른바 인간의 주체성과 대리인(agency)이 경제적 범주의 추상적인 의인화로 환원되는 자동적 주체입니다.

인간이 아닌 존재들은 이미 오래전부터 자본의 추상물을 의인화해 왔습니다. 기업이나 노동조합 같은 기관들이 자본과 노동력이라는 범주를 의인화하며, 우리는 또한 인간을 대신해 결제나 주문을 하도록 위임된 다양한 기술들(자동 이체, IoT 냉장고, 고빈도 매매 알고리즘 등)을 언급할 수 있습니다.

우리는 인류의 멸종이 스카이넷이 핵전쟁을 시작해서가 아니라, 우리를 대신해 경제적 기능을 수행하는 수많은 좁은 AI들(알렉사, 구글 홈, 기업 간 주문 시스템 등)을 통해 일어날 수 있다고 추측합니다. 인간 노동자가 좁은 AI나 일반 AI로 대체된 암흑 공장(dark factories)과 물류 시스템에 연결되면, 인간은 경제적 루프에서 빠지게 되고 완전히 자동화된 자본이 그 자리를 차지할 것입니다. 계급 투쟁은 계속되겠지만, 일반적으로 지능을 가진 기계들이 노동자의 대열을 채우고 또한 자본을 의인화하게 될 것입니다.

인류에게는 무슨 일이 벌어질까요? 인간 없는 자본주의로 가는 궤적은 영구적으로 실업 상태인 노동자 계급의 분절이 끊임없이 커지는 이야기가 될 것입니다. 다시 말해, 이는 자본의 가치 증식 요건에 불필요해진 **'과잉 인구(surplus population)'**의 극단적인 성장을 의미합니다. 마르크스는 기계화가 심화됨에 따라 실업자의 '산업 예비군'이 형성되며, 결국 영구적인 과잉 인구가 만들어지는 자본 축적의 일반 법칙을 논의했습니다. 1945년 이후의 '황금기' 동안에는 저실업과 번영 덕분에 이 이론이 무시되기도 했지만, 2008년 금융 위기 이후 애런 베나나브(Aaron Benanav) 등은 자본의 과잉 인구 생성 경향이 전 지구적으로 가차 없이 작동해 왔다고 주장합니다. "잉여 인류의 흡수에 관한 어떤 질문도 이제 끝났습니다. 그것은 이제 오직 관리될 뿐입니다. 감옥에 격리되고, 게토와 수용소로 소외되며, 경찰에 의해 훈육되고, 전쟁에 의해 전멸됩니다."

'AI 아포칼립스'와 '평소와 다름없는 비즈니스' 이론가들은 모두 일차원적이고 결정론적인 논리에 따라 작동합니다. 반면 마르크스주의 분석은 기술 변화와 시장 역학이 상호적으로 작용하며 간헐적이지만 반복적인 시스템 위기를 낳는다고 봅니다. 이러한 관점은 AI 고용 효과가 불규칙하게 전개되는 시나리오를 가능하게 합니다. 예를 들어, 글로벌 저임금 경제가 성공적으로 안착되면 AI 자동화는 지연될 수 있지만, 노동 투쟁으로 임금이 상승하면 기업들은 연구 단계에 있던 AI를 실제로 채택하게 될 것입니다.

이러한 과정은 산업 예비군을 늘리고 불안정한 노동을 심화시켜 많은 부문의 임금을 낮출 것입니다. 사람들은 생존을 위해 자신의 노동력을 팔아야 하므로 임금 노동은 '갈 곳이 없게' 되며, 우리는 모든 종류의 개인적 상호작용이 상품화되는 서비스 부문의 거대한 확장과 기상천외한 형태의 자영업의 확산을 예상할 수 있습니다. 이러한 발전은 많은 직업이 부분적으로 자동화되는 동안에도 계속될 것입니다. 이때 문제는 일자리가 아예 없어지는 것이 아니라, 첨단 기계와의 경쟁으로 인해 임금과 노동 조건에 가해지는 끈질기고 서서히 스며드는 하향 압력이 될 것입니다. 이러한 정체기는 다시 자동화의 유인을 일시적으로 멈추게 하겠지만, 새로운 노동 투쟁이나 기술 비용의 하락은 다시 한번 가변 자본을 불변 자본으로 대체하는 새로운 라운드를 촉발할 것입니다. 노동자들의 임금 및 조건 개선 운동은 역설적으로 자동화라는 대응을 부르는 주요한 촉매제가 될 것입니다.

이는 갑작스럽고 전방위적인 '아포칼립스' 모델이나 안정적인 '비즈니스' 모델과는 다른 AI 고용 효과의 과정을 시사합니다. 우리는 이를 노동 시장을 서서히 침수시키는 **'느린 쓰나미(Slow Tsunami)'**라고 부를 수 있을 것입니다. 보편적 기본소득 같은 개혁으로 완화될 수는 있겠지만, 이 과정은 매우 장기화될 수 있습니다. 자본의 기초였던 '원시적 축적'이 수십 년이 아니라 수세기에 걸쳐 일어났다는 점을 고려하면, 우리는 임금 노동을 늘리는 것이 아니라 털어내는 **'미래주의적 축적(futuristic accumulation)'**의 단계를 상상해 볼 수 있습니다.

그러나 AGI가 등장하면 미래주의적 축적의 과잉 인구는 결국 인간 종 전체를 집어삼키게 될 것입니다. 자본은 노동력이 어떤 재료로 만들어졌는지 신경 쓰지 않으며 오직 노동의 생산성만을 신경 쓰는데, AGI는 기초적인 인간보다 훨씬 더 생산적일 것이기 때문입니다. AGI는 숨 쉬고 먹는 등의 시간 소모적이고 불필요한 행동을 할 필요가 없습니다. AGI 하드웨어는 끝없이 증강될 수 있으며, 따라서 인간이 할 수 있는 모든 것을 더 효율적이고 정확하며 빠르게 수행할 수 있습니다. 실제로 AGI는 어떤 특정한 형태나 신체에 국한될 필요도 없으며, 공장이나 심지어 전체 공급망으로서 존재할 수도 있습니다. 만약 공급망이 말을 할 수 있다면, 우리가 그것을 이해할 수 있을까요?

마르크스의 분석에서 과잉 인구는 노동자들이 자본주의 생산에 번갈아 배제되고 포함되기 때문에 상대적인 것이었습니다. 그러나 프롤레타리아화된 AGI가 등장하면, 이 인구는 가치 증식에 쓸모없어진 인간 종과 공존하며 절대적인 것이 될 것입니다. 인류는 '레거시 시스템(legacy system)', 즉 자본의 전도된 세계를 실행하기에는 부적합한 구식 하드웨어가 될 것입니다. 이러한 상황에서 인간의 지위는 현재 야생 동물의 지위와 비슷해질 수 있는데, 자본의 가치 증식을 방해하지 않거나 생산 과정에서 원자재로 사용될 수 있는 한도 내에서만 용인될 것입니다. 터미네이터 시리즈에 나오는 기계들의 악의와는 대조적으로, 이 시나리오에서 인간은 단순히 자본에게 더 이상 관심의 대상조차 되지 못할 것입니다. 이 관점에 따르면, 우리는 아직 자본주의를 제대로 본 적이 없습니다.