2장. 사회적 공장의 자동화

2장. 사회적 공장의 자동화

 

로봇은 아직 우리를 이길 수 없다?

2018년 여름, 케이블 텔레비전 채널 HBO는 공상과학 TV 히트작 《웨스트월드(Westworld)》 시즌 2를 방영했습니다. 미 서남부의 웅장한 뷰트(butte), 메사(mesa), 거대 선인장들 사이에서 테마파크 방문객들의 성적 및 폭력적 판타지를 재현하도록 프로그래밍된 안드로이드들은 피와 불의 복수를 단행하며 기계적 자각이라는 실존적 딜레마를 해결했습니다. 이 드라마가 화면에서 펼쳐지는 동안, 자본주의의 실제 사막 엔터테인먼트 중심지에서는 보다 세속적인 분쟁이 진행 중이었습니다. 6월 1일, MGM과 시저스(Caesars)를 포함한 대형 환대 산업 기업들을 위해 라스베이거스에서 일하는 약 38,000명의 바텐더, 칵테일 서버, 메이드, 요리사 등을 대표하는 요리 및 바텐더 노동조합(Culinary and Bartenders Unions)이 협상한 계약이 만료되었습니다. 임금 인상, 업무량 할당, 성희롱 등이 협상 테이블에 올랐지만, 핵심 쟁점은 자동화였습니다. 기계는 오래전부터 카지노 일자리를 잠식해 왔습니다. 도박장 바닥의 '체인지 걸(동전 교환원)'들은 현금 인출기로 대체되었고, 대량 음식 준비로 인해 요리사들은 줄어들었습니다. 지평선 너머로는 로봇 룸서비스, 디지털 체크인 데스크, 터치스크린 칵테일 주문 시스템이 다가오고 있었습니다. 자동화와 오프쇼어링으로 인해 미국의 제조업 일자리가 줄어들었을 때, 탈산업화의 널리 인용되는 척도는 자동차 공장보다 카지노(전형적인 '서비스 부문' 일자리)에서 일하는 사람이 더 많아졌다는 것이었습니다. 이제 자동 기계(automata)들이 카지노 노동자들을 노리고 있었습니다. 노조 대표들은 이직 위로금 협상이나 로봇 관리 재교육에 대해 언급했습니다. 일부 노동자들은 더 자신감이 있었는데, 어느 바텐더는 결연하게 "조만간 일어날 일이겠지만, 로봇은 아직 우리를 이길 수 없다"고 선언했습니다. 그러나 이 갈등의 결말은 《웨스트월드》만큼 극적이지 않았습니다. 미국의 파업률을 역사적 최저치로 떨어뜨린 패턴을 반복하며, 노조는 용감한 피켓 시위 준비에도 불구하고 대결에서 물러났습니다.

"로봇이 내 일자리를 빼앗아 갈까?"라는 질문은 지능형 기계와 관련하여 가장 흔히 연상되는 공포와 희망을 압축적으로 보여줍니다. 이 장에서는 AI와 일자리 문제를 다루지만, 이러한 논의를 틀 짓는 노동 시장 관계의 정당성이나 불가피성에 대한 가정을 당연하게 여기지 않습니다. 오히려 AI, 일자리, 실업의 문제를 자본과 노동자의 만성적인 갈등과 분리될 수 없는 계급 권력의 문제로 봅니다. 우리는 이러한 갈등을 생각하는 데 유용한 두 가지 개념인 **'계급 구성(class composition)'**과 **'사회적 공장(the social factory)'**을 제시하고, 이를 적용하여 2008년 금융 위기와 그 이후의 세계화 위기에서 자본의 현재 AI 열풍이 기원했음을 분석합니다. 그런 다음 AI 산업의 계급 관계를 살펴봅니다. 우리는 이 산업의 인력 분할과 심화되는 자동화가 AI가 만들어낼 더 넓은 노동 세계에 대해 시사하는 바가 많다고 제안합니다. 이어 《웨스트월드》의 안드로이드들에게 요구되는 종류의 '인공 일반 지능'은 현재 여전히 공상과학의 영역에 머물러 있는 반면, **'좁은 AI'**가 어떻게 많은 유형의 작업을 변화시키거나 제거하고 있는지 보여줍니다. 이 변화의 방향에 대한 주류 논쟁은 즉각적인 고용 아포칼립스를 예견하는 미래학자들과, 자본주의가 사소한 동요만 겪으며 '평소와 다름없이' 지속될 수 있다고 주장하는 경제학자들 사이의 대립으로 나타납니다. 이러한 논쟁은 추측에 근거하며 결정적이지 않지만, AI는 노동자 모니터링, 불안정한 노동(precarity), 소득과 노동 조건의 양극화, 교육 및 훈련의 가용성, 사회적 상호작용의 조건 등 계급 권력의 균형과 급진적인 정치 조직화의 가능성에 중대한 영향을 미치는 많은 다른 문제들을 제기합니다. 실제로 존재하는 AI-자본에 대한 저항이 여러 곳에서 나타나고 있지만, 이들이 직면한 어려움은 과소평가되어서는 안 됩니다.

계급 구성과 사회적 공장

**'계급 구성'**이라는 아이디어는 **'자율주의적 마르크스주의(autonomist Marxism)'**라고 알려진 학파에서 유래했습니다. 이 학파는 자본의 심화되는 기계적 권력에 대한 대위법으로 노동자의 잠재적 힘과 자율성을 강조합니다. 마르크스는 자본이 노동자(가변 자본)를 기계(고정 자본)로 대체하려는 장기적 경향을 가지고 있다고 보았으며, 이를 작업 조직을 변화시킨다는 '기술적' 측면과 자본의 이윤율에 영향을 미친다는 '가치' 측면 모두에서 논의했습니다. 자율주의 사상가들에게 마르크스의 이러한 정식화는 일면적이었습니다. 그것은 노동자들이 기계적 착취에 어떻게 저항하는지에 대한 이론이 부족했기 때문입니다. 그래서 그들은 마르크스의 '자본의 구성' 개념을 뒤집어 '노동자 계급의 구성', 즉 자본의 지배에 도전할 수 있는 노동자 계급의 변화하는 능력을 살펴보았습니다.

마르크스와 마찬가지로 자율주의자들은 분업, 관리 관행, 작업장의 공간적 배치와 시간적 리듬, 특히 기계의 사용과 같은 생산의 **'기술적 구성'**을 살펴보았습니다. 하지만 그들은 임금, 노동 시간, 노동 조건을 개선하기 위해 노동자 계급이 조직되고 궁극적으로 자본에 대항하여 혁명을 일으키는 능력인 **'정치적 구성'**의 문제와 가능성을 강조하기 위해 그렇게 했습니다. 정치적 구성은 노동조합이나 사회주의 및 공산주의 정당의 형태를 취할 수도 있지만, 그만큼 혹은 그보다 더 중요한 것은 야생마 파업(wildcat strikes), 사보타주, 결근 등의 물결이었습니다. 이러한 반란은 종종 경제의 특정 전략적 부문에 있는 노동자들에 의해 주도되곤 했습니다. 반면 자본은 파업 노동자들을 기계로 교체하거나, 전반적인 실업 수준을 높이거나, 조직화를 억압하기 위해 작업장을 감시함으로써 그러한 운동을 **'해체(decompose)'**하거나 파괴하려 시도할 것입니다. 자율주의자들은 자본이 인간 없이는 기능할 수 없다고 생각하며, 이러한 관점에서 해체는 항상 노동자들이 자본의 최신 통제 방식에서 균열과 약점을 감지함에 따라 일어나는 **'재구성(recomposition)'**으로 이어질 것이라고 봅니다.

따라서 구성-해체-재구성의 연속은 자본으로 하여금 노동자 문제를 해결하기 위해 끊임없이 더욱 극단적인 해결책을 찾으며 미래로 도망치게 만드는 **'투쟁의 순환'**을 낳습니다. 역사적으로 초기 산업 자본에 대한 숙련 기술 노동자들의 저항은 처음에는 테일러주의의 시간 및 동작 연구에 의해, 그다음에는 포디즘 공장의 반자동화된 조립 라인에 의해 서서히 해체되었습니다. 그러나 이러한 변화는 역설적으로 노동자 계급 재구성의 기초가 되었습니다. 노동을 조립 라인의 동질성과 단조로움으로 환원함으로써 포디즘은 **'대중 노동자(mass worker)'**를 탄생시켰는데, 이들의 힘은 자신들이 배치된 거대한 기술 장치를 멈출 수 있는 능력에 있었습니다. 대중 노동자의 정당, 노조, 파업 능력은 혁명의 위협으로 20세기 자본을 공포에 떨게 했고, 그 위협은 비록 실현되지 않았을 때조차 정기적인 임금 인상과 복지 국가 조항이라는 양보를 이끌어냈습니다.

이는 자율주의 용어집의 두 번째 용어인 **'사회적 공장'**으로 우리를 안내합니다. 마르크스는 자본을 생산 영역과 유통 영역을 모두 포함하며 어느 쪽도 우위를 점하지 않는 하나의 순환, 즉 전체 시스템으로 묘사했습니다. 생산이 사용 가치를 만들고 노동으로부터 잉여 가치를 추출하는 이중적 과정인 반면, 유통은 상품을 시장에 내놓고 판매함으로써 이 가치를 실현하는 과정이며, 여기에는 운송 및 물류, 광고, 소매 판매와 같은 활동이 포함됩니다. 마르크스는 또한 유통과 연결되어 점점 더 강력해지는 세 번째 부문인 금융(은행, 신용 및 투기 활동)을 식별했습니다. 마지막으로 그는 노동 능력이 갱신되는 소비 및 사회적 재생산이라는, 자본 외부의 영역이지만 기능적으로는 자본에 필수적인 영역을 적어도 대략적으로나마 묘사했습니다. 그는 이를 상품의 소비 측면에서 생각했지만, 페미니스트 마르크스주의자들이 강력하게 지적했듯, 여기에는 엄청난 양의 노동, 특히 노동의 삶을 위해 사람을 낳고, 기르고, 교육하고, 유지하는 여성이 수행하는 무급 노동이 포함됩니다. **'사회적 공장'**은 이러한 통합된 기능 전체를 지칭하기 위해 자율주의자들이 사용하는 용어입니다. 처음에 그들은 산업 공장이 자본의 다른 모든 활동이 돌아가는 중심축임을 나타내기 위해 이 용어를 사용했습니다. 나중에 그들은 공장의 생산 현장뿐만 아니라 전체 자본의 순환 과정에 있는 학교, 가계, 상점, 창고에서도 자본과 싸울 수 있음을 암시하기 위해 이 용어를 발전시켰고, 이로써 프롤레타리아트의 개념을 산업적 기반 너머로 확장했습니다.

역설적이게도 자율주의가 사회적 공장에서의 노동자 권력에 관한 이론을 명료화하던 바로 그 시기에, 자본의 사이버네틱 기술 채택은 그들의 기본 전제에 전례 없는 도전을 제기하기 시작했습니다. 컴퓨터와 디지털 네트워크는 제2차 세계 대전과 냉전 기간 동안 미국의 군사-산업-학계 복합체 내에서 개발되었습니다. 30년간의 호황 이후 이윤율이 급격히 감소하던 경제 둔화의 한복판이었던 1970년대부터, 이 기술들은 북미와 유럽 자본주의의 본국 전선에 점점 더 많이 배치되었습니다. 포디즘에서 포스트 포디즘으로의 이러한 전환은 산업 노동자 계급의 권력을 해체했습니다. 스스로 자율주의자는 아니지만 광범위하게 유사한 분석을 견지하는 노동 역사학자 베벌리 실버(Beverly Silver)는 자본이 노동 문제에 직면했을 때 동원할 수 있는 세 가지 **'수정(fixes)'**인 '기술적', '공간적', '금융적' 수정을 설명합니다. 1970년대 이후 **'기술적 수정'**은 공장과 사무실을 자동화하고 노동의 기계적 청산을 추구하는 것을 수반했으며, 이는 자동차 공장에 로봇을 도입한 사례처럼 디지털 기술에 의해 고도화되었습니다. **'공간적 수정'**은 공급망을 통해 산업 생산을 저임금 및 저규제 지역으로 이전하는 것을 포함했습니다. 즉, 자본의 인력을 기계로 대체하기보다는 전 지구적으로 확장하되, 가장 낮은 임금과 최대의 소모성을 가진 상태로 만드는 것이었습니다. 세 번째 **'금융적 수정'**은 파생 상품이나 선물과 같은 도구들을 개발하여 처음에는 해외 투자를 방어적으로 헤지하기 위해, 그다음에는 고위험 도박 기계로 변모시킴으로써 생산 영역을 완전히 탈피하려 시도했습니다.

자동화, 공급망, 금융화는 공장을 비우고, 임금 성장을 정체시키며, 전 지구적 북반구의 산업적 투쟁성을 소멸시켰습니다. 레이건과 대처 같은 정부의 노조 약화 정치 조치들과 결합하여, 이들은 대중 노동자의 힘을 꺾었습니다. 한때 번영했던 도시들이 산업 러스트 벨트가 되면서, 선진 자본 지역의 고용은 점점 더 서비스 부문으로 옮겨갔습니다. 이는 금융에서 트럭 운송, 가사 돌봄에 이르기까지 매우 다양하고 분절된 형태의 노동을 포괄하는 용어로, 일부는 보수가 좋았으나 다른 많은 곳은 임금이 형편없었거나 기껏해야 실질 임금이 정체된 상태였습니다. 또한 가계가 여성이 수행하는 유급 및 무급 노동 모두에 점점 더 의존하게 됨에 따라 노동의 젠더 구성에도 변화가 생겼는데, 이는 많은 좌파 조직들이 아직까지도 제대로 파악하지 못한 변화입니다. 산업 노동과 노조, 사회주의 정당의 권력에 기반했던 정치 문화 전체가 아틀란티스처럼 바닷속으로 가라앉았습니다.

세계화와 함께 사회적 공장은 어떤 면에서는 고속도로, 컨테이너 운송, 항공 운송, 창고 및 유통 센터, 광섬유 케이블 및 데이터 센터로 구성된 거대하게 확장된 유통 장치를 통해 전 세계적으로 상품, 사람, 정보를 이동시키는 **'행성적 공장(planet factory)'**이 되었습니다. 세계화의 옹호자들과 심지어 일부 자율주의자들조차 '평평한' 또는 '매끄러운' 행성적 경제 질서를 이야기합니다. 하지만 사실 자본주의 행성은 가파른 계층적 구역들로 나뉘어 있었습니다. 북미, 유럽, 일본과 같은 선진 지역은 기업 본부, 금융 활동, 첨단 기술 연구 및 설계, 소매 판매 및 소비 복합체를 수용했습니다. 중국을 비롯한 신흥 산업 지역은 재배치된 제조업의 중심지가 되었습니다. 러시아에서 사우디아라비아에 이르는 산유국들은 탄소 경제에 연료를 공급했습니다. 다른 지역들은 극도의 빈곤에 빠져 비공식적 또는 범죄적 활동에 생존을 의존하게 되었습니다. 생활 수준과 사회적 재생산 조건이 천지 차이인 노동자들을 점점 더 통합되는 세계 시장 속에서 분할함에 따라 계급 구성은 엄청나게 복잡해졌습니다. 따라서 우리는 이러한 지역적 배열들에 의해 내부적으로 구성된 '사회적 공장'이라는 용어를, 비록 그것의 지구적 연계를 인정하면서도 계속 사용합니다.

세계화와 인지화(digitization)는 계급 권력의 균형을 자본에 유리하게 바꾸었습니다. 전 세계적으로 부유한 나라와 가난한 나라 모두에서 자본에 대비한 노동의 GDP 점유율은 꾸준히 감소했습니다. 그러던 2017년, 행성적 공장은 화염에 휩싸였습니다. 금융 투기에 대한 자본의 증가하는 집중은 월스트리트의 서브프라임 모기지 붕괴로 정점에 달했습니다. 금융 시스템의 광범위한 전염, 은행 구제 금융, 긴축 정책, 전 지구적 북반구의 경기 침체 및 전 세계로 번지는 연쇄 효과가 뒤따랐습니다. 사회적 소요 또한 뒤따랐습니다. 2011년 불평등과 불안정에 대항하는 일련의 반란—종종 광장 점거의 형태로 나타난—이 튀니스와 카이로에서 마드리드와 뉴욕으로, 그다음에는 이스탄불과 리우데자네이루, 텔아비브와 키예프로 울려 퍼졌습니다.

이러한 반란들은 초기에는 포스트 포디즘의 문화 및 기술 노동자와 학생들의 새로운 층위를 끌어들이며 노동자 계급의 재구성이 싹트는 듯 보였으나, 거의 대부분 실패했습니다. 그것들은 흐지부지되거나, 억압당하거나, 보수적인 정권으로 대체되거나, 내전과 외국의 개입으로 무너졌습니다. 뒤이어 세계화된 자본주의에 대한 원한, 이주민과 소수자에 대한 인종차별적 증오, 일자리 상실과 임금 하락에 대한 노동자 계급의 불안에 힘입어 영국의 브렉시트 투표, 트럼프의 2016년 미 대선 승리, 유럽 전역의 신파시즘 발흥과 같은 우파 주도의 또 다른 동요의 물결이 나타났습니다.

2011년의 점거 운동이라는 성공하지 못한 재구성의 순간과 2016년의 신파시즘이라는 매우 성공적인 해체의 순간은 모두 약화된 노동자 계급의 증상이었습니다. 하지만 그것들은 또한 자본주의 내의 놀라운 불안정성을 예고하기도 했습니다. AI에 대한 기업의 열풍은 비록 오랜 기간 준비되어 왔지만, 이러한 불안정의 롤러코스터 끝자락에 표면화되었습니다. 기계 지능은 위기에 대한 '해답'으로 틀 지워졌습니다. 그리하여 컨설팅 회사 액센츄어는 2016년 AI 투자 제안서에서 자본이 "경제적 진보를 추진"하고 "지난 수십 년간 누려온 번영의 꾸준한 행진을 유지"할 수 있는 능력이 "현저히 저하"되었음을 인정하며 시작한 후, "AI는 2025년까지 연간 경제 성장률을 두 배로 높일 잠재력이 있다"고 선언했습니다.

역설적이게도 세계화를 가능케 했던 디지털 산업들은 2008년의 죽을 뻔한 고비 이후 오히려 강화되었습니다. 월스트리트가 비틀거리고 미국의 3대 자동차 제조사와 같은 메인 스트리트 산업이 불황에 빠져 있을 때, '빅 테크'는 유일한 희망의 등대였습니다. 2000년 닷컴 붕괴에서 살아남아 '웹 2.0'으로 환생한 디지털 자본은 월스트리트 붕괴 이전부터 이미 상승세에 있었습니다. 구글은 2004년에, 페이스북은 2006년에 처음으로 주식을 상장했습니다. 애플은 2007년에 아이폰을 출시했습니다. 그러나 이러한 디지털 기업들이 아마존 등과 함께 세계에서 가장 가치 있는 기업 명단 상단을 차지하며 이전의 거대 에너지 및 금융 서비스 기업들의 자리를 꿰찬 것은 바로 금융 위기 이후의 불황기였습니다. 전 세계적으로 퍼져나간 글로벌 자본에 대항한 봉기조차 '페이스북 혁명'으로 지독하게 단순화되어 불리며 새로운 디지털 질서의 표현으로 해석될 수 있었습니다. 2008년 이후 미국의 경기 회복은 머신러닝의 전제 조건인 빅데이터를 생성하는 소셜 미디어, 웹, 스마트폰 사용이 확립된 '기술 주도형' 회복이었습니다.

세계화 위기의 매우 구체적인 측면들이 AI에 대한 관심을 고조시켰습니다. 전 세계적인 항의의 소음 속에서 한 가지 분명한 메시지가 감지될 수 있었습니다. 그것은 바로 저렴한 글로벌 노동의 시대가 저물고 있다는 것이었습니다. 글로벌 북서부의 반란은 실패했지만, 남반구에서는 다른 일이 벌어지고 있었습니다. 산업 노동의 새로운 세대들이 자신들만의 정치적 구성을 찾아가고 있었습니다. 중국에서는 주강 삼각주 공장들에서 잇따른 파업 물결이 일어나며 임금을 꾸준히 밀어 올렸습니다. 2010년, 애플의 아이폰이 준군사적 규율 아래 조립되던 대만의 폭스콘 공장에서 일어난 연쇄 자살 항의가 전 세계에 타전되었습니다. 폭스콘의 소유주인 테리 구오는 격분하여 조립 노동자들을 100만 대의 로봇으로 교체하겠다고 위협했습니다. 농촌 마을에서 도시로 유입된 초기 이주민들이 고갈되면서, 중국의 공장들은 조립 라인의 고된 노동으로 젊은이들을 유인하는 데 점점 더 큰 어려움을 겪었습니다. 중국 제조업 노동자의 평균 시간당 임금은 2005년에서 2016년 사이 세 배로 뛰어 그리스나 포르투갈 같은 국가들의 시급에 근접했습니다. 이는 전 지구화된 자본이 처한 더 넓은 문제의 한 징후에 불과했습니다. 인도에서는 파업 중인 자동차 노동자들이 공장에 불을 질렀고, 캄보디아에서는 의류 노동자들이 거리에서 경찰과 대치했습니다. 금융적 수정의 갑작스러운 파열과 저임금 지역을 찾아다니던 공간적 수정의 점진적 침식 속에서, 자본은 새로운, 더욱 강도 높은 기술적 수정인 AI 자동화를 바라보기 시작했습니다.

다른 훨씬 더 폭력적인 위기 사건들도 AI를 추진했습니다. 2001년 뉴욕 세계 무역 센터의 '9/11' 파괴와 그에 따른 '테러와의 전쟁'은 방대한 감시 시스템을 관리하기 위한 머신러닝 기술의 개발을 자극했습니다. 아프가니스탄과 이라크에서의 전쟁은 이러한 기세를 이어가며 초보적인 기계 지능을 사용하는 드론과 기타 자율 주행 차량들을 미국의 대반란 작전 병기창에 추가했습니다. 우크라이나, 시리아, 리비아 등지에서의 대중 봉기가 내전과 외국의 개입으로 무너지면서 군사적 관심은 더욱 고조되었습니다. 미국, 러시아, 중국, 이스라엘, 사우디아라비아, 이란이 그림자 전쟁에서 대치함에 따라 감시, 해킹, 사이버 보안을 위한 머신러닝 연구와 적용 또한 가속화되었습니다. 냉전이 일반 상업용으로 전이된 디지털 기술들을 배양했던 것처럼, 신냉전의 무기 체계 역시 드론과 개선된 로봇들이 작업장에 진입함에 따라 자본의 노동에 대항한 전선으로 다시 흘러 들어왔습니다.

미국과 유럽의 자본주의 자유민주주의가 위기에 처해 있다는 광범위한 인식 또한 AI 산업에 중요하게 작용했습니다. 월스트리트를 점거한 불안정한 노동자들과 트럼프나 브렉시트에 투표한 러스트 벨트는 선진 자본주의 경제가 기업에는 막대한 이윤을 안겨주면서 노동자 계급의 생활 수준을 높여줄 만큼의 충분한 성장을 제공하지 못하고 있다는 점을 각인시켰습니다. 컴퓨터와 네트워크에 대한 유토피아적 약속에도 불구하고, 디지털 기술은 포디즘이 보여주었던 그 놀라운 이중주를 재현하지 못했습니다. 실리콘밸리의 대응은 자신의 사이버네틱 도박에 판돈을 두 배로 올리는 것이었습니다. 머신러닝과 첨단 로봇 공학이 새로운 경제 성장을 위한 마법의 탄환이 될 것이라는 주장이었습니다. 이러한 약속들은 매력적입니다. 그러나 그것들이 가리는 것은 자본에 의해 AI 투자가 수행되기 위해서는 그것들이 단순한 경제 성장이 아니라, 노동에 돌아가는 그 어떤 것보다 훨씬 큰 잉여, 즉 수익성 있는 성장을 보장해야 한다는 점입니다. 그리고 이는 노동을 축소시키는 것이 아니라 더 소모적으로 만들고, 개선된 임금과 노동 조건을 요구하거나 자본에 대항하여 어떤 종류의 자율성을 행사할 능력을 더 낮추는 것을 요구할 수 있습니다. 요컨대, 그것은 1970년대 이후 아마도 한 번도 재구성되지 못한 노동자 계급의 추가적인 해체를 수반할 수 있습니다.

AI의 노동

인간의 작업을 제거한다는 기술인 AI의 노동에 대해 이야기하는 것은 모순적으로 보입니다. 하지만 AI 자체가 다른 산업에 적용되기 위해서는 먼저 생산되어야 합니다. 이는 다른 유형의 노동이 AI 주도로 변모하기 위한 전제 조건이며, AI가 만들어낼 더 일반적인 노동의 재구성이 어떤 방향으로 나아갈지에 대한 몇 가지 단서를 제공합니다. 현재 진행 중인 AI 연구에는 다양한 종류가 있으며, 그 생산 과정에는 광범위한 유사점(예: 고도로 훈련된 소프트웨어 엔지니어 및 프로그래머에 대한 의존)이 있지만 각자 나름의 특수성을 가지고 있습니다. 여기서는 21세기 두 번째 10년의 선도적인 AI 형태인 머신러닝(ML)에 초점을 맞춥니다.

캐서린 동(Catherine Dong)은 "머신러닝 엔지니어링은 데이터 처리, 모델 구축, 그리고 배포 및 모니터링의 세 단계로 이루어진다"고 설명합니다. 이 '샌드위치'에서 '속재료'는 모델을 구축하는 것입니다. 이곳은 소프트웨어 엔지니어들이 고양이의 디지털 이미지든, 길을 건너는 보행자든, 검색어의 구성이든, 구매 기록이든, 소셜 미디어 주제든 주어진 입력 데이터를 인식하는 알고리즘을 개발하는 곳입니다. 이 학습 과정은 수천 번 또는 수백만 번의 학습 사례를 통해 테스트되고, 조정되고, 개선되며, 그다음에는 패턴 신호가 소음(고양이 이미지와 개, 영양, 코끼리의 혼합, 혹은 수레, 우체통, 외발자전거 옆의 보행자 등)과 섞여 있는 원시 데이터에서 추가로 테스트됩니다. 이 과정이 끝나면 AI는 허용 가능한 신뢰 수준으로 대상을 식별하고, 서로 다른 패턴 간의 통계적 상관관계(예: 밤보다 낮에 길을 건너는 보행자가 더 많음, 남성보다 여성이 고양이 이미지를 더 자주 게시함 등)를 확립할 수 있어야 합니다. 머신러닝에 초자연적이고 비인간적인 예측 능력을 부여하는 것이 바로 이러한 능력들입니다.

이미 오랫동안 컴퓨터 과학자들에게 익숙한 '선형/로지스틱 회귀, 랜덤 포레스트, 부스트 결정 트리'와 같은 알고리즘 모델을 구축하는 기술은 다양합니다. 이들은 일상적인 인터넷 사용의 일부인 친구 추천, 광고 타겟팅, 추천 및 검색 순위를 만드는 데 사용됩니다. 하지만 가장 정교한 머신러닝 모델링은 '학습시키기 어렵고 ... 더 많은 시간과 계산 능력을 필요로 하며' '직관과 시행착오의 결합'을 필요로 하는 '심층 신경망'을 수반합니다. 머신러닝에 관한 강좌와 독학 지침들이 쏟아지고 오픈 소스 도구 라이브러리들이 널리 이용 가능하지만, 신경망에 대한 깊은 전문 지식은 드뭅니다. 유능한 컴퓨터 과학자는 전 세계적으로 수천 명에 불과할 것으로 추산됩니다. 이것이 바로 그러한 인재를 향한 격렬한 기업들의 입찰 전쟁과 그들이 누리는 높은 연봉과 복지 혜택의 이유입니다. 따라서 머신러닝은 핵심 활동이 고도로 숙련된 소수의 기술-과학 노동자들에 의해 수행되는 기본 소프트웨어 개발 노동 과정을 강화합니다.

머신러닝의 '속재료'가 알고리즘 모델을 만드는 것이라면, 알고리즘을 훈련시키기 전과 후에 일어나는 일, 즉 "모든 것을 하나로 묶어주는 샌드위치의 빵"이 있습니다. 머신러닝 과정의 이 두 레이어는 한쪽 끝에서는 "모델에 공급할 방대한 양의 데이터를 정제하고 포맷팅하는 일"을, 다른 한쪽 끝에서는 "모델의 세심한 배포와 모니터링"을 수반합니다. 캐서린 동이 관찰했듯 "데이터 처리에서 학습, 배포, 생산 인프라에 이르기까지 머신러닝 개발 과정의 어떤 단계에서든 비호환성이 발생하면 오류가 생길 수 있습니다." 실제로 머신러닝 소프트웨어 엔지니어들은 실제 모델 제작보다 '준비 및 모니터링' 업무에 더 많은 시간을 할애하곤 합니다. 나중에 이 장에서 우리는 무지한 모바일용 사용자부터 밀착 감시를 받는 유통 센터 노동자, 그리고 자율 주행 차량의 잠들지 못하는 '세이프티 드라이버'에 이르기까지 이러한 데이터 세트의 출처를 다룰 것입니다. 하지만 데이터가 어떻게 수집되든 관계없이, 데이터는 머신러닝 학습에 사용되기 위해 거의 항상 정제 과정을 거쳐야 합니다. 즉, 포맷을 표준화하고, 오류를 제거하고, 이상치를 감지하고, 추가 정보를 제공하고, 처리에 사용되는 특징을 추가하며, 무엇보다 머신러닝이 인식하도록 배울 대상에 **라벨(label)**을 붙이는 작업입니다. 데이터 과학자들 사이에서는 "업무의 80%는 데이터를 정제하는 것이고 나머지 20%는 데이터가 어떻게 정제되었는지 불평하는 것이다"라는 농담이 떠돌 정도입니다.

이러한 '데이터 먼징(data munging)' 또는 '데이터 랭글링(data wrangling)'의 상당 부분은 베네수엘라에서 인도, 인도네시아에 이르는 저임금 지역에서 시간당 몇 달러에서 몇 센트의 보수를 받는 오프쇼어링 마이크로워크로 아웃소싱됩니다. 처음에는 프리랜서(Freelancer), 메카니컬 터크(Mechanical Turk), 업워크(Upwork)와 같은 크라우드소싱 플랫폼을 통해 처리되었습니다. 그러다 데이터 정제는 전문적인 비즈니스가 되었습니다. 마이티 AI(Mighty AI)와 피규어 에잇(Figure Eight, 전 크라우드플라워) 같은 스타트업들은 "스마트폰에서도 사진과 기타 데이터에 라벨을 붙이기 쉽게 만드는" 소프트웨어를 개발합니다. 뱅갈로르의 회사 플레이먼트(Playment)는 이러한 과업들을 '게임화'하여 30,000명의 상시 대기 노동자들을 '플레이어'라고 부릅니다. 중국에서는 '정밀 데이터 처리'를 전문으로 하는 기업들이 테일러주의적인 분업 방식으로 작업합니다. 일부 '프로젝트 그룹'은 "복잡한 요가 자세를 취한 인체의 노드(점)"에 라벨을 붙이거나, 자율 주행 차량 소프트웨어를 위해 "오토바이, 자전거, 보행자"의 이동 방향을 주석으로 다는 책임을 맡습니다. 다른 그룹들은 "실제 세계의 사물을 감지하기 위해 레이더 학습에 사용되는 건물의 윤곽이나 가려진 물체를 스캔"합니다. 이 일은 고되고 피곤합니다.

머신러닝 '샌드위치'의 또 다른 레이어인 배포 및 모니터링 또한 전 지구적 클릭워크에 의존합니다. 머신러닝 알고리즘은 예상대로 작동하지 않거나 개입이 필요한 문제에 직면할 수 있습니다. 겉보기에 자동화된 시스템이 인간의 뒷받침에 얼마나 의존하고 있는지는 2017년, 영수증을 자동으로 스캔하여 지출 보고용 데이터를 추출해 준다는 서비스인 익스펜시파이(Expensify)가 텍스트 분석 소프트웨어의 실패를 메우기 위해 고객의 개인 식별이 가능한 영수증을 아마존의 메카니컬 터크 플랫폼에 있는 노동자들에게 보내고 있었다는 사실이 폭로되었을 때 극명하게 드러났습니다. 이러한 AI 기반 서비스 이면의 '인간 안전망'은 매우 흔합니다. 사라 로버츠(Sarah Roberts)는 소셜 미디어 피드에서 폭력적이고 음란한 콘텐츠를 걸러내기 위해 일반적으로 낮은 보수를 받으며 불안정하게 고용된 인간 콘텐츠 모더레이터의 역할을 확인했습니다. 구글은 유튜브 영상을 시청하는 10,000명의 '레이터(평가자)' 군단을 운영하고 있는 것으로 보고되었습니다. 마이크로소프트는 한 달에 수백만 건의 마이크로 태스크를 통해 검색 알고리즘의 결과를 확인하는 유니버설 휴먼 릴레번스 시스템(Universal Human Relevance System)을 운영합니다. 페이스북과 구글의 머신러닝 결과 보완 조치는 최근의 '사이버 전쟁' 스캔들로 인해 더욱 강화되었습니다. 데이터 정제와 모니터링 마이크로워크는 밀접하게 관련되어 있으며, 두 작업 모두 동일한 저임금 계약 재택근무자가 서로 다른 교대 시간에 수행할 수 있습니다.

이러한 활동들은 **"자동화의 마지막 1마일의 역설: AI가 진보함에 따라 루프 속에 인간이 필요한(humans-in-the-loop) 새로운 유형의 과업을 위한 임시 노동 시장이 급격히 생성되고 파괴된다"**는 점을 보여줍니다. 이 역설에는 또 다른 반전이 있습니다. 데이터 정제와 모니터링 자체가 머신러닝 자동화의 목표가 되었다는 점입니다. 아마존의 메카니컬 터크 인간 마이크로 태스킹은 기업에 의해 '인공 인공지능(artificial artificial intelligence)'이라고 불립니다. 역설은 '터커(Turkers)'들이 언젠가 자신들을 대체할 수도 있는 진짜 인공지능을 훈련시키고 있다는 점입니다. 페이스북과 구글의 임원들은 자신들의 목표가 궁극적으로 콘텐츠 모더레이션을 자동화하는 것임을 명시하고 있습니다. 데이터 과학자들은 데이터 정제를 "머신러닝의 도움이 필요한 머신러닝 문제"로 선언했습니다. 클릭 노동자들은 자신의 디지털로 기록된 노동의 데이터 세트를 미래 AI를 위한 학습 자료로 제공하고 있습니다.

따라서 머신러닝은 팀 조던(Tim Jordan)이 '재귀(recursion)', 즉 정보 자본이 스스로에게 공급되는 과정이라고 부른 것의 전형입니다. 자동화에 대한 공포는 소프트웨어 개발자라는 엘리트 계층으로까지 거슬러 올라왔습니다. AI 산업 노동자들은 자신들의 작업 자동화에 대해 두려워하면서도 그것을 필요하고 심지어 바람직하다고 묘사하는 모순된 관계를 보여줍니다. 이는 그러한 기술이 소프트웨어 엔지니어의 작업을 강화할 것인지 소멸시킬 것인지에 대한 추가적인 논쟁을 불러일으킵니다. 2016년, 550명의 개발자들에게 '자신의 경력에서 가장 걱정되는 일'이 무엇인지 묻는 질문에 '나와 나의 개발 노력이 인공지능에 의해 대체되는 것'이라는 답변이 가장 많았습니다. 일부 개발자들은 AI 산업 성장이 오직 인간의 코딩과 설계에 대한 수요를 높일 뿐이라며 그러한 경고를 무시합니다. 다른 이들은 소프트웨어 개발자들이 코드 확인, 배포 및 수정을 자동화하는 AI '봇'의 도움을 점점 더 많이 받게 될 것이며, 개발자가 "키보드를 만지지도 않고" 자연어 명령에 따라 애플리케이션을 점점 더 많이 "찍어내게(spin up)" 될 것이고, 종국에는 "전체 소프트웨어 개발 수명 주기가 고수준의 묘사에 불과하게 될 것"이라고 예견합니다. 이러한 논의는 미 국방부를 위해 라이스 대학교에서 개발한 최근의 BAYOU 머신러닝 애플리케이션에 의해 더욱 뜨거워졌습니다. 이는 깃허브(GitHub)에 있는 수백만 줄의 인간이 작성한 코드로 '스스로 학습'한 신경망으로, 매우 짧은 키워드 지시만으로 개발자에게 코드 덩어리를 추천할 수 있다고 알려져 있으며, 이로써 머신러닝으로 설계된 머신러닝 시스템을 향한 초기 단계를 밟고 있습니다.

머신러닝 생산 과정은 계급 구성 분석에서 두 가지 의미를 가집니다. 첫째, 그것은 디지털 자본에 결정적인 소프트웨어 개발이라는 확장되는 직업 부문의 중요한 일부입니다. 이 부문에 대한 논의는 전통적으로 고임금과 높은 지위를 누리는 소프트웨어 엔지니어와 프로그래머의 노동에 초점을 맞추는데, 머신러닝 설계자는 이들의 가장 최근 모습입니다. 이는 데이터 정제자 및 모니터링 요원들이 "AI 커튼 뒤에서" 수행하는 노동을 가리는데, 이들은 UN 조사에서 "저임금, 열악한 전망, 심리적 피해"로 특징지어진 글로벌 클릭워크 인력의 일부입니다. 머신러닝의 분절된 인력들 모두는 자신들이 만드는 제품 자체가 자신들의 노동을 자동화할 수 있는 지평에 직면해 있으며, 따라서 데이터 과학자와 데이터 정제자 모두 스스로를 일자리에서 몰아내는 작업을 하고 있을 수 있습니다. 둘째, 머신러닝이 글로벌 노동에서 차지하는 비중은 미미하지만, 그것이 드러내는 디지털 매개 노동, 강력한 양극화에 노출된 노동, 그리고 자동화로 인해 불안정해진 노동의 패턴은 새로운 AI가 더 넓은 사회적 공장 전반에 적용되는 곳에서도 나타납니다.

인간의 길을 배우기

생산 영역에서 고정 자본으로서 AI의 사회적 기능은, 다른 모든 노동 자동화 기술과 마찬가지로, 필요 노동을 줄이고 이에 수반되는 잉여 가치 추출을 늘리는 것입니다. 유통 영역에서 AI는 공장, 유통 센터, 소매점 사이의 긴밀한 통합(조정 및 일정 관리)을 가능케 하고, 판매자와 광고주가 잠재적 구매자를 보다 정밀하게 타겟팅할 수 있게 함으로써 가치의 실현을 가속화하고 순환 시간을 단축합니다. 또한 이 모든 활동의 노동 비용을 줄이거나 없앱니다. 금융 부문에서 자동화는 돈이 돈으로 변하는 투기적 변용의 속도를 높입니다. 그리고 AI가 소비와 사회적 재생산 영역에 영향을 미침에 따라 의료, 교육, 엔터테인먼트 산업에서 유급 노동자를 제거하는 동시에 기계가 매개하는 대인 관계(예: 소셜 미디어)나 인간-기계 관계(예: 노인 돌봄 로봇)의 새로운 패턴을 확립합니다.

AI가 행성 전역에 어떻게 도입되는지는 자본의 공간적 조직에 따라 다릅니다. 서비스, 소매업, 금융화가 점점 더 지배하고 있는 북미와 유럽 경제에서 AI 이니셔티브는 비록 산업 생산을 다시 불러오려는 시도도 하고 있지만, 유통 영역에 강력하게 집중되어 있습니다. 중국, 동남아시아 및 수출 시장과 연결된 다른 제조 지역에서 AI는 산업 자동화에 강력한 초점을 맞추고 있으나, 비약적인 경제 발전 속도는 바이두, 텐센트, 알리바바 같은 기업들이 배치하는 유통 가속화 AI를 장려하기도 합니다. 지구상의 희생 구역(sacrifice zones)에서 가장 즉각적으로 작동하는 AI는 불안정한 인구 집단을 통제하기 위해 드론과 감시 시스템을 배치하는 국내외 보안군의 것들입니다. 여기서는 북미와 유럽의 노동의 기술적 구성을 변화시키고 있는 AI 자동화에 주로 초점을 맞추되, 다른 지역의 발전 양상도 고려합니다. 자본의 AI 배치는 거창한 약속들과 함께 실험적 도입 단계에 있는 초기 단계입니다. 킴 무디(Kim Moody)가 지적하듯, 2008년 붕괴의 여파로 신기술에 대한 비즈니스 투자는 낮은 이윤율과 억제된 임금 성장으로 인해 위축되었습니다. 이러한 상황이 지속되는 동안 AI 자동화의 전진은 "험난하고 느릴" 가능성이 높습니다. 같은 기간 동안 기업들은 많은 분야에서 AI 애플리케이션을 테스트하고 사용해 왔습니다. 자본의 이전 기술 혁신 물결이 시사하듯, 자본가의 확신이나 노동자의 임금 요구가 증가하면 이 과정은 가속화될 가능성이 높습니다. 일부 전망은 예상치 못한 기술적 또는 규제적 문제—혹은 노동자 계급의 저항—에 의해 완전히 차단되거나 구현하기 훨씬 더 어려운 것으로 드러날 수도 있습니다. 그러나 그중 일부만 성공하더라도 AI는 프롤레타리아트와 자본 사이의 권력 균형을 현저히 바꿀 것입니다.

생산 영역에서 글로벌 북서부의 AI는 재산업화의 수단으로 칭송받습니다. 해외로 이전되었거나 이전을 위협하는 제조 능력은 로봇, 센서, 공정 제어 컴퓨팅을 머신러닝으로 강화하여 주입함으로써 회복될 것입니다. "많은 산업용 AI 애플리케이션이 여전히 다소 새롭고 맞춤형"이지만, GE, 지멘스, 마이크로소프트, 인텔 같은 강력한 기업들은 노동 비용 절감, 제품 불량 감소, 예기치 않은 가동 중단 시간 단축, 전환 시간 개선, 생산 속도 향상, 예측 유지보수 수행 등을 위해 제조업에 머신러닝을 적용하는 데 "모두 막대한 투자"를 하고 있습니다. 지멘스는 "수십 년 동안 철강 공장을 모니터링하고 효율성을 높이기 위해 인공 신경망을 사용해 온 것"으로 보고되었습니다. 유럽에서 이 프로젝트는 '인더스트리 4.0(Industry 4.0)'이라는 이름으로 행진하고 있으며, 북미에서는 종종 '사물 인터넷(Internet of Things)'이라는 더 넓은 제목으로 불립니다.

이러한 산업 자동화는 일론 머스크의 캘리포니아 프리몬트 테슬라 자동차 공장에서 가장 화려하고도 문제적으로 드러납니다. 이 시설은 자율 주행 자동차와 트럭을 생산할 뿐만 아니라, 머스크의 표현대로 "에일리언 드레드노트(alien dreadnought, 외계 군함)"를 닮을 정도로 고도로 자동화되도록 계획되었습니다. 그러나 이 함선의 운영은 자신이 완전히 처분하고자 했던 노동자들의 부상 스캔들, 머스크가 인정한 "과도한 자동화"로 인한 생산 병목 현상, 불만을 품은 직원들의 디지털 사보타주, 그리고 조종사보다 자가 발화에 더 소질이 있음을 증명한 오토파일럿 차량의 충돌과 화재로 얼룩졌습니다. 테슬라는 극단적인 자동화의 어려움을 보여줍니다. 그럼에도 불구하고 고조되는 무역 보호주의는 비록 국내 노동자보다 애국적인 로봇을 더 많이 고용하더라도 본국에 묶인 공장 계획을 계속 부채질하고 있습니다. 저렴한 노동력을 찾으려는 자본의 경쟁적 논리에 의해, 자체적인 노동력 부족과 임금 압박에 직면한 중국 기업들이 같은 방향으로, 아마도 더 빠르게 움직이고 있다는 점은 아이러니입니다. 대만 소유이지만 중국에 기반을 둔 폭스콘을 로봇화하겠다는 테리 구오의 맹세는 결코 완전히 실현되지 않았지만, 그렇다고 해서 완전히 허풍으로 드러나지도 않았습니다. 2018년까지 소위 '폭스봇(Foxbots)'은 매출을 확대하면서도 인력을 감축한 폭스콘 생산 라인의 특징이 되었습니다. 2013년 이후 중국은 세계 최대의 산업용 로봇 시장이 되었습니다. 대부분 수입품이지만, 국내 생산이 증가함에 따라 중국 공장들은 서구의 공장들만큼 혹은 그보다 더 자동화되고 있습니다.

그러나 북미와 유럽에서 자본의 AI 이니셔티브가 가장 빠르게 발전한 곳은 운송, 창고, 통신 및 소매 판매를 점점 더 복잡하고 매끄러운 시스템으로 연결한 '물류 혁명'을 가속화한 유통 영역이었습니다. 앞서 보았듯 자율 주행 차량은 AI-자본의 가장 잠재적으로 수익성 있는 형태 중 하나입니다. 이 전망은 대개 자율 주행 개인용 자동차(소비 상품이자 노동 능력이 직장에 도달하는 수단) 측면에서 논의됩니다. 하지만 즉각적인 보상은 자동화된 상업용 트럭 운송입니다. 로보 트럭은 이미 광업과 같은 산업 현장에서 사용되고 있습니다. 볼보, 다임러, 테슬라 같은 기업들은 장거리 운송으로의 도약을 준비하고 있습니다. 2016년 우버는 가장 유리한 조건 하에 자율 주행 트럭으로 맥주를 배달하는 시연을 정교하게 연출했습니다. 그 이후로 그러한 차량들은 (감시 운전자를 동반하여) 텍사스주 엘파소의 창고에서 I-10 고속도로를 따라 캘리포니아주 팜스프링스의 유통 센터로 냉장고를 배달하는 작업에 투입되었습니다.

휴식 시간 없이 24시간 내내 운영되며, 감시 운전자나 원격 운전자를 동반하고 보행자, 자전거 이용자, 신호등이 없는 긴 직선 고속도로나 전용 차선을 달리는 자율 주행 트럭은 수익성이 높은 AI 사업 모델입니다. 그것은 노동자 계급 고용의 중요한 부분을 자동화할 것입니다. 미국에서 트럭 운송은 약 350만 명의 운전자를 고용하는 6,760억 달러 규모의 산업입니다. 박리다매 사업에서 노동 비용은 "총 화물 비용의 최대 45%"를 차지합니다. 국제 교통 포럼(International Transport Forum)의 2017년 보고서는 미국과 유럽의 640만 명의 트럭 운전자 중 최대 440만 명이 자율 주행 기술로 인해 사라질 수 있다고 예측했습니다. 자율 주행 트럭을 국가 차량 규정에 포함시키는 것은 거의 60만 명의 트럭 운전자를 대변하는 팀스터즈 노조(Teamsters Union)에 의해 반대되고 있으며, 이들은 자율 주행 기술의 도입을 "재앙적"이라고 묘사합니다. 그러한 반대는 자율 주행 트럭 운송이 직면한 여러 장벽 중 하나일 뿐입니다. 다른 장벽으로는 자율 주행 기술 자체를 정교화하는 문제(2018년의 연쇄 사고가 증명하듯)뿐만 아니라, 고속도로 시스템의 적응과 법적 책임 소재의 명확화 등이 있습니다. 따라서 로보 트럭은 AI-자본의 벤처 중 가장 수익성이 높을 가능성이 있지만, 동시에 가장 도전적인 과제 중 하나이기도 합니다. 하지만 훨씬 더 즉각적으로 이용 가능한 다른 기회들도 있습니다.

고속도로를 달리는 사이버 대형 트럭보다 덜 극적인 것은 자본의 유통 과정을 변모시키고 있는 보이지 않는 소프트웨어 에이전트들입니다. 전 세계적으로 밤낮없이 콜센터는 전화 요금제부터 미술관 회원권에 이르기까지 모든 것에 대한 구매를 권유하는 발신 메시지를 보내고, 수신 전화를 받아 고객 관계를 유지, 수리 및 강화합니다. 유럽과 북미에서 콜센터는 탈산업화로 잃어버린 일자리를 대체하는 것으로 홍보되었지만, 이후 인도와 필리핀으로 상당히 아웃소싱되었습니다. 하지만 해외의 반복적인 전화 노동 임금이 상승함에 따라 콜센터는 AI 자동화되고 있습니다. 고객(그리고 노동자)은 "귀하의 통화는 교육 및 품질 향상을 위해 녹음될 수 있습니다"라는 녹음된 메시지에 오랫동안 익숙해져 왔습니다. 그 '교육'에는 머신러닝 시스템 학습이 포함되게 되었습니다. 자연어 처리가 가능한 AI는 자주 묻는 질문(FAQ)의 디지털 뱅크뿐만 아니라 고객의 장비, 숙련도 및 과거 통화 기록을 활용하여 일반적인 질문에 대한 답변을 자동화하고, 더 까다로운 질문은 남은 인간 상담원에게 셔틀하듯 넘기며, 때로는 동시에 발신자의 "어조, 어휘, 감정 상태, 심지어 침묵까지 분석하여 감정과 만족도를 측정"합니다.

시장 컨설팅 회사 가트너는 2017년에 "고객 서비스 공간"이 "AI 애플리케이션의 70%를 차지하는 제1의 활용 사례"라고 선언했습니다. 2018년 영국의 거대 소매업체 마크 앤 스펜서(Marks & Spencer)는 트윌리오(Twilio)의 음성 인식 소프트웨어와 구글의 다이얼로그플로우(Dialogflow) AI 도구를 사용하여 고객의 음성 요청을 해석하고 라우팅함으로써 100명의 교환원 직원을 챗봇으로 대체했습니다. 미국의 대형 보험사 올스테이트(Allstate)는 정보 직원을 보조하기 위해 '가장 인간적인 AI'로 마케팅되는 디지털 어시스턴트 아멜리아(Amelia)를 도입하여, 평균 통화 시간을 4.6분에서 4.2분으로 단축했습니다. 이는 수백만 건의 통화에 걸쳐 합쳐지면 엄청난 노동 비용 절감으로 이어지는, 작아 보이지만 큰 성과입니다. 콜센터 회사들은 이러한 변화를 인간 직원의 '자동화(automation)'가 아닌 '증강(augmentation)'이라고 부르기를 좋아합니다. 당분간 그것의 주된 효과는 인간 상담원의 업무를 강화하는 것일 수 있지만, 많은 관찰자들은 장기적으로는 자동화가 우세할 것이라고 믿습니다. 유사한 능력이 다른 기업 커뮤니케이션으로도 확장되고 있습니다. 2018년 구글은 자신의 듀플렉스(Duplex) 시스템이 캘린더 검색과 자연스러운 대화 패턴을 결합하여 인간과 구별하기 어려운 목소리로 전화 예약을 잡는 모습을 시연했습니다. 이는 "자체 온라인 예약 시스템이 없는 미국 소규모 기업의 60%에 유용할 것"으로 홍보되었습니다.

자동화된 운송 수단은 이미 AI로 자동화된 창고를 오가며 물건을 실어 나를 것입니다. 아마존의 '풀필먼트 센터(fulfilment centres, 주문 처리 센터)'가 그 전형적인 사례입니다. 아마존은 머신러닝을 자사의 '플라이휠(flywheel)'로 삼은 기업으로, 알고리즘 추천 시스템, 온라인 구매, 스마트 홈 기기 및 클라우드 컴퓨팅 제국에 이를 배치해 왔습니다. 또한 주문을 받고, 선반에서 물건을 골라내고(picking), 포장하고, 트럭에 싣는 과정이 악명 높게 낮은 임금을 받으며 속도 경쟁에 내몰리고 스트레스와 전자적 감시를 받는 인간 '암봇(ambots)'들에 의해 수행되는 곳이 바로 거대한 주문 처리 센터들입니다. 자본의 기계 장치가 착취를 줄이기보다는 강화한다는 마르크스의 논제를 증명하듯, 인간 '암봇'에 대한 강화된 압박은 실제 로봇의 배치와 함께 진행되었습니다. 아마존은 "주문 처리 센터 노동자들이 품목을 찾아 토트에 담기 위해 걸어 다니는 데 전체 시간의 절반 이상을 소비하고 있다"는 사실을 발견하고 2012년 로봇 공학 회사인 키바 시스템즈(Kiva Systems, 아마존 로보틱스로 개칭)를 7억 7,500만 달러에 인수했습니다. 둥글고 납작한 모양의 이 자동 기계들이 대규모로 배치된 것은 아마존이 약속된 배송 날짜를 지키지 못했던 어느 크리스마스 위기 이후였습니다. 2017년까지 아마존은 전 세계 주요 주문 처리 센터에 10만 대 이상의 키바 로봇을 보유하게 되었습니다. 이 로봇들이 사용되는 곳에서 그것들은 끊임없이 업데이트되는 컴퓨터화된 재고 시스템에 의해 지시받고 모션 센서에 의해 안내되어 작업 플랫폼에 서 있는 집어내는 사람(picker)에게 물건을 가져다줍니다. 로봇은 주문 완료 시간을 5분의 1로 단축했습니다. 또한 아마존의 공간을 절약해 주었습니다. 로봇의 낮은 프로필 덕분에 주어진 면적에 50% 더 많은 재고를 쌓을 수 있게 되었습니다. 그리고 전기 요금도 아껴줍니다. 키바 로봇들은 어둠 속에서도 일하며 주문 처리 센터로 구급차를 달려오게 만들었던 열사병을 방지하기 위한 에어컨도 필요 없기 때문입니다.

아마존의 주문 처리 센터 자동화에는 여전히 큰 간극이 있습니다. 하나는 로봇이 움직이는 모바일 선반에서 품목을 '집어내는(picking)' 작업입니다. 이것은 쉽게 기계화될 수 있는 일상적인 작업처럼 보일 수 있지만, 아마존 창고는 자동차 조립 라인과 달리 "거의 무한한 종류의 형태, 크기, 무게 및 강도를 가진 품목들"을 취급합니다. 이 때문에 집어내기 작업은 다루기 힘든 자동화 문제로 남았습니다. 수년 동안 '아마존 피킹 챌린지'가 주요 로봇 공학 회사들을 초청하여 해결책을 찾으려 했으나 성공하지 못했습니다. 최근의 한 연구 노선은 "자동화 소프트웨어와 인간 컨트롤러의 결합"을 사용하는데, 로봇이 선반으로 자동 주행하면 아마도 원격지에 있는 인간이 가상 현실 헬멧을 쓰고 로봇 팔이 품목을 쥐고 움직이도록 가이드합니다. 장기적인 목표는 "텔레-오퍼레이션을 통해 인간이 쥐는 것을 많이 관찰하여 학습한 머신러닝 인공지능을 사용하여 로봇이 그 부분을 스스로 하도록 가르치는 것"입니다.

다른 회사들이 아마존을 추월할 수도 있습니다. 영국의 온라인 슈퍼마켓 오카도(Ocado)는 다른 식료품 체인에 판매하는 고도 자동화 시스템 설계의 선두 주자입니다. 그들의 창고 시스템은 "로봇들로만 가득 찬 거대한 체스판"처럼 보이며, 이 로봇들은 "벌집 그리드 머신(hive-grid-machine)"에서 "들기", "움직이기", "분류하기" 작업을 수행합니다. 각 로봇은 중앙의 빈 공간과 갈고리 발톱을 가지고 있어 상자를 안으로 잡아당기는데, 이는 마치 "슈퍼마켓 통로에서의 외계인 납치"와 같습니다. 로봇들은 서로 교체 가능하며 한 작업에서 다른 작업으로 전환될 수 있습니다. 생산량은 로봇의 추가나 제거로 조절될 수 있으며, 알고리즘 프로그래밍은 창고 조직에 대한 새로운 해결책을 가능하게 합니다. 구글과 협력하고 있는 중국의 물류 기업 JD.com은 훨씬 더 높은 수준의 자동화를 달성했다고 주장합니다. 오카도와 아마존 시설에는 여전히 많은 노동자가 있지만, 로봇 시스템이 심화되고 확산됨에 따라 노동의 속도는 빨라지고 노동의 안정성은 낮아집니다.

유통은 판매로 정점에 달합니다. 소매업 일자리 또한 AI 도입의 진동을 기록하고 있습니다. 다시 한번 머신러닝은 이전의 디지털 변화들을 토대로 구축됩니다. 온라인 판매는 소매업을 변화시켰고, 셀프 계산대는 보편화되었으며, 이 둘 모두 매장 내 고용을 크게 줄였습니다. AI는 이러한 논리를 다운로드한 앱과 스캔한 제품만으로 거의 전적으로 운영되는 무인 자동 소매점의 탄생으로 확장합니다. 이러한 기술은 스웨덴에서 주로 원격 지역 식료품점을 중심으로 처음 개척되었습니다. 그 후 이 기술들은 스웨덴 기업들에 의해 중국으로 배치되었는데, 중국은 위챗과 같은 서비스를 통한 일상 쇼핑의 모바일 결제가 대중화되어 있으며, 상대적으로 낮은 기술의 셀프 계산대 방식으로 운영되는 무인 매장들이 흔합니다. 북미 버전은 앞서 논의한 것처럼 모바일 앱, 자동 스캔, 그리고 "구매자의 얼굴과 가방 안의 품목을 대조하여 계산 과정을 완전히 없애는 인공지능과 컴퓨터 비전"을 결합한 아마존 고 매장에서 데뷔했습니다. 이러한 시스템은 쇼핑객에게 "맞춤형 제안"을 제공하는 챗봇과, 자동으로 재고를 채우는 스마트 냉장고 및 기타 스마트 홈 기기로부터의 사물 인터넷(IoT) 주문 배달을 포함할 잠재력이 있습니다. 이미 거대한 컴퓨터화 재고 관리 시스템으로 유명한 월마트는 마이크로소프트와 협력하여 유사한 시스템을 연구하고 있는데, 이는 월마트가 미국 최대의 민간 기업 고용주라는 점을 고려할 때 중대한 노동 시장 함의를 가집니다.

쇼핑에는 돈이 필요하며, 부채와 투기 모두의 확장으로 특징지어지는 시대에 금융 기관들은 AI의 가장 초기 채택자 중 하나였습니다. 머신러닝 방법은 이제 "신용 품질을 평가하고, 보험 계약의 가격 책정과 마케팅을 위한 사기 탐지에 사용되며, 고객 상호작용을 자동화하는 데" 널리 사용됩니다. 그러나 AI 자동화의 가장 극적인 사례를 보여주는 곳은 금융 부문의 최상층부입니다. 월스트리트 붕괴 당시 주식 거래자들은 이미 고빈도 매매(high-frequency trading)의 알고리즘 에이전트들에 의해 소멸되고 있었습니다. 그 이후 도쿄, 싱가포르, 런던, 홍콩의 증권 거래소들은 거래 현장을 없앴습니다. 2018년까지 주식 시장 거래의 단 10%만이 인간에 의해 활발히 수행되었습니다. 40%는 뮤추얼 펀드에 의해 예약된 '패시브' 거래였고, 나머지 50%는 점점 더 머신러닝의 정보를 받는 알고리즘에 의해 실행되었습니다. 2000년 골드만삭스의 주식 거래 부문은 약 600명을 고용했습니다. 2016년까지 단 두 명을 제외한 전원이 "머신러닝 능력을 갖춘 복잡한 거래 알고리즘"에 의해 대체되었습니다. J.P. 모건은 AI 중심 계획을 공개하고 마이크로소프트에서 머신러닝 전문가를 영입하여 이 개편을 감독하게 했습니다. 한때의 '우주의 주인들'은 자신들이 만드는 데 일조한 도구들에 의해 잡아먹히고 있었습니다.

금융 조작의 정점에서 일상의 힘겨운 삶의 바닥으로 내려오면, 사회적 재생산에서 AI의 역할에 이르게 됩니다. 대출, 보험, 의료 청구, 취업 지원에 대한 기업과 국가의 결정에서 알고리즘 프로파일링은 어디에나 존재합니다. 그것은 유급 노동의 가장자리나 외부에 떨어진 사람들, 즉 AI 자동화로 인해 비대해질 가능성이 높은 실업 예비군과 과잉 인구에게 특히 가혹하게 적용됩니다. 캐시 오닐(Cathy O’Neill)이 증명하듯, 그러한 기계적 결정들은 의도적이든 과실이든 우편번호, 인종, 성별, 신용 기록을 근거로 빈곤과 불안정의 모든 징후를 끈질기게 차별합니다. 버지니아 유뱅크스(Virginia Eubanks)는 복지 혜택, 공공 주택, 가족 돌봄 개입을 관리하기 위해 자동화된 의사결정 도구를 사용하는 것이 어떻게 신청을 거부하거나 저지하고, 수혜자들을 경찰의 감시 하에 두며, 행동 패턴과 과거의 관계를 근거로 낙인을 찍는 **'디지털 빈민 구제소(digital poorhouse)'**를 건설하는지 기록합니다. 그러한 통제의 결과는 경찰과 국경 수비대의 화면에서 예측 치안 유지 및 판결을 위해 AI를 배치하는 것으로 잘 문서화되어 있습니다. 이는 인간의 편견을 줄인다고 홍보되지만, 사실은 알고리즘적으로 이전의 사법적 및 경찰적 인종차별 패턴을 "통제 불능의 피드백 루프" 속에서 지속시키고 증폭시킵니다. 이것이 바로 머신러닝, 특히 딥러닝이 자본의 손에서 영구적 노동력, 불안정한 노동력, 과잉 인구의 다양한 등급을 그 어느 때보다 엄격하고 포괄적이며 재귀적으로 자가 확인하며 분류, 격리 및 훈육하는 수단—즉 프롤레타리아트 해체의 도구—가 되는 과정의 날카로운 끝부분입니다.

지금 아포칼립스인가, 아니면 평소와 다름없는 비즈니스인가?

마르크스가 보았듯이 기술적 실업은 자본과 노동 사이의 갈등에서 무기였습니다. AI 자동화가 고용에 미치는 영향에 대한 문제는 계급 구성 분석의 핵심입니다. 이 주제에 대한 논쟁은 지난 10년 동안 부르주아 경제학자들과 기술자들 사이에서 맹렬히 이어져 왔습니다. 하지만 마르크스와 달리 이 주류 논쟁의 참여자 중 누구도 자본주의가 파괴되기를 원치 않습니다. 반대로 모두가 시스템을 보존하기 위해 노심초사합니다. 우리가 **'지금 AI 아포칼립스(AI Apocalypse Now)'**라 부를 입장의 옹호자들은 임박한 일자리 위기가 시스템을 구하기 위한 비상 조치를 요구한다고 믿는 반면, '평소와 다름없는 비즈니스(Business-as-Usual)' 지지자들은 역사적 전례를 들어 노동 시장이 비교적 사소한 고용 충격만 겪으며 AI에 적응할 것이라고 주장합니다.

'AI 아포칼립스' 버전은 종종 마틴 포드(Martin Ford)와 같은 컴퓨터 과학 배경을 가진 미래학자들에 의해 제시됩니다. 그는 자본주의가 증기 기관에서 전기 동력, 초기 컴퓨터화에 이르기까지 연속적인 기술 변화 물결 속에서도 고용을 유지해 왔음을 인정합니다. 그럼에도 불구하고 포드는 AI와 다른 4차 산업 혁명 기술들은 무어의 법칙에 따른 기하급수적인 개선 속도와 범부문적 적용 가능성 때문에 다르다고 단언합니다. 이전의 기술적 변형은 한 산업에서 다른 산업으로 천천히 이동했습니다. 포드에 따르면 AI 자동화는 거의 동시에 채택될 것입니다. '인더스트리 4.0' 제조업에서 밀려난 노동자들은 콜센터 또한 AI 자동화될 것이기 때문에 그곳에서도 일자리를 찾을 수 없을 것입니다. MIT의 컴퓨터 과학자 에릭 브린욜프슨(Erik Brynjolfsson)과 앤드류 맥아피(Andrew McAfee)도 비슷한 주장을 하며, 디지털 자동화가 이제 일상적이고 육체적인 '블루칼라' 작업을 넘어 저널리즘, 광고, 법률, 의료 및 기타 전문직과 같은 '화이트칼라' 직업으로까지 확장되고 있음을 강조합니다. 자본이 생존하기 위해서는 보편적 기본소득(UBI)이나 시민 수당(이 책의 결론에서 논의할 아이디어)의 도입을 포함한 근본적으로 새로운 사회 정책들이 필요할 것입니다. 그러한 예언들은 미국의 직업이 관례적으로 분류되는 702개 직종 중 47%가 20년 이내에 "컴퓨터 자본에 의해 대체될 가능성이 높다"는 옥스퍼드 경제학자 칼 프레이(Carl Frey)와 마이클 오스본(Michael Osborne)의 2013년 연구에 의해 확증되는 듯 보였습니다. 왓슨의 《제퍼디!》 승리와 구글 알파고의 이세돌 격파와 같은 AI의 전과들 속에서 나온 이 연구는 미래의 로봇 지배자를 맞이하자는 문화적 밈이 퍼지는 데 일조했습니다.

이에 반해 '평소와 다름없는 비즈니스' 입장은 전문 경제학자들에 의해 옹호됩니다. 이들은 대개 좁은 AI의 성과가 주로 공식화되어 있거나 매우 예측 가능한 상황에 국한되어 있다고 제안합니다. 이러한 한계와 자율 주행 자동차 같은 기술이 직면한 규제 문제들이 AI 채택을 늦추어, 급작스럽고 전방위적인 위기가 일어날 가능성은 낮다고 주장합니다. 더 중요한 것은 자동화가 일부 일자리를 파괴하는 동안 다른 일자리들을 창출한다는 점입니다. 일부는 AI를 만드는 데이터 과학자와 마이크로워크 노동자들처럼 자동화 기술을 구축하는 산업 자체에서 발생합니다. 하지만 다른 새로운 고용 기회들은 AI가 자동화하는 바로 그 산업들에서도 나타납니다. 그리하여 자율 주행 차량이 트럭 운전사와 택시 운전사를 구식으로 만들 수는 있지만, 하드웨어와 소프트웨어를 설계하는 엔지니어뿐만 아니라 "고객 전화를 받고, 자동차를 청소 및 수리하며, 고정밀 지도를 업데이트하는" 노동자들을 위한 일자리를 창출할 것이라고 제안됩니다. 경쟁력을 유지하기 위해 기업들은 낮은 가격의 형태로 소비자에게 혜택의 일부를 돌려주어야 할 것입니다. 이는 실질 소득 수준을 높이고 소비를 증대시켜 고용을 창출할 것입니다. 자동화의 '치환 효과(displacement effect)'—노동자가 AI에 의해 일자리에서 쫓겨나는 것—는 강화된 노동 수요라는 '소득 효과(income effect)'에 의해 상쇄될 것입니다. '평소와 다름없는 비즈니스' 옹호자들은 "어려운 전환기"의 가능성을 인정하고 "승자와 패자가 있을 것"이라고 반복하지만, 전반적인 메시지는 AI로 인한 일자리 손실은 제한적이며 기술 업그레이드를 통해 해결 가능하다는 것입니다. 즉, 자본주의는 침착하게 하던 일을 계속해야 한다는 것입니다.

수년 동안 격렬했던 이 논쟁은 이제 잘 짜인 각본처럼 진행됩니다. 2018년 BBC는 런던 금융가(City of London)를 위해 수행된 연구를 보도했는데, 이 연구는 향후 20년 이내에 영국 수도 일자리의 3분의 1이 기계에 의해 수행될 것이라고 시사했습니다. 100만 명을 고용하고 있는 도소매업, 운송업, 창고업, 음식업이 큰 타격을 입을 것이라는 내용이었습니다. 영란은행의 수석 경제학자 앤디 홀데인(Andy Haldane)은 이 주제에 관한 인터뷰에서 '4차 산업 혁명'이 증기력, 전기, 초기 컴퓨터화가 가져온 변화보다 "훨씬 더 큰 규모"가 될 것이라고 선언했습니다. 비록 이전의 변화들이 "많은 이들을 일자리 없이 생계를 꾸리기 위해 고군분투하게 만드는 wrenching(고통스럽고 갑작스러운)하고 장기적인 영향"을 미쳤지만, "기계가 생각과 행동을 모두 수행하며 인간의 인지적 기술과 기술적 기술을 모두 대체할 때" 그러한 영향은 더욱 심각해질 것이라고 말했습니다. 즉시 《가디언》의 기자인 사이먼 젠킨스(Simon Jenkins)는 "로봇이 우리 일자리를 훔칠까 봐 걱정된다고? 얼마나 어리석은가"라는 기사로 응수했습니다. 영국의 의료나 교육과 같은 사회 서비스 부문의 만성적인 인력 부족을 언급하며, 젠킨스는 AI로 인한 대량 실업 공포는 터무니없다고 단언했습니다. 새로운 기술은 일부 활동을 기계화하겠지만 "역사 전반에 걸쳐 그랬듯이" 노동 시장은 변화할 것이고 "사람들—혹은 그들의 자손들—은 재교육을 받을 것"이라고 했습니다. "단기적 혼란"은 "경제 역사의 실재"였지만, "새로운 요구와 일자리가 생겨남에 따라 우리는 살아남았고 번영했다"고 했습니다. 또 다른 산업 혁명은 "본질적으로 인간관계와 관련되어 로봇이나 기계로 할 수 없는 서비스 산업"에서의 노동을 위한 시간을 열어줄 것입니다. 젠킨스는 경제학자들이 "AI를 노동자들을 경험 경제로 해방시키는 것으로 환영하는" 편이 나을 것이라고 결론지었습니다.

이 두 가지 상충하는 입장이 처음 명료화된 이후 수많은 예측 연구들이 쏟아져 나왔습니다. 일부는 경제협력개발기구(OECD)나 세계 경제 포럼(WEF) 같은 자본의 엘리트 자문 기관에서 제작, 의뢰 또는 발표되었습니다. 다른 것들은 맥킨지 연구소(McKinsey Institute), 프라이스워터하우스쿠퍼스(PwC), 가트너(Gartner)와 같은 AI 관련 기회에 관심이 있는 민간 비즈니스 컨설팅 회사들에서 나왔습니다. 노동법을 다루는 법률 협회, 국제 노동 기구(ILO), 그리고 빈곤 퇴치 단체들에서도 연구가 나왔습니다. 또한 수많은 독립적인 학술 연구들도 있었습니다. 이러한 쏟아지는 자료들은 어떤 면에서는 분석을 정교화했지만, 다른 면에서는 더 혼란스럽게 만들었습니다.

일반적으로 프레이와 오스본(2013)처럼 일자리 전체를 대체하는 AI에 초점을 맞춘 연구들은 이후 어떤 일자리 내에서 자동화에 취약한 '과업'들을 분석하는 더 미세한 연구들로 계승되었습니다. 이는 인간 노동을 완전히 대체하기보다는 AI가 이를 보완하거나 강화할 가능성을 열어주었습니다. 선호되는 비즈니스 은어로는 '자동화(automating)'가 아닌 '증강(augmenting)'입니다. 이후의 OECD 연구들은 즉각적인 자동화 위험에 처한 고용 비율을 아포칼립스적인 수준에서 단지 경고 수준으로 낮추었습니다. 모든 회원국을 통틀어 14%(6,600만 개 이상의 일자리에 해당)이며, 다른 33%는 자동화에 의해 "깊이 재구조화"될 것이라는 내용입니다. 미국에서는 단 9%(약 1,300만 개의 일자리)만이 AI에 취약한 것으로 분류되었지만, 저자들은 "이것은 1950년대 디트로이트 자동차 산업의 쇠퇴로 인해 지역 경제가 겪은 혼란의 몇 배에 달할 것"이라고 언급했습니다. AI에 의해 창출될 고용 기회에 대한 다양한 추정치들이 계산에 포함되면 그림은 더욱 수정됩니다. 일부는 4차 산업 혁명의 기술들로 인해 전반적인 고용 증가가 일어날 것이라고 약속하기까지 했습니다. 그럼에도 불구하고 그들은 여전히 순 일자리 손실의 가능성을 인정하곤 합니다.

AI 자동화에 가장 취약한 일자리의 유형에 대해서도 번복이 있었습니다. AI 아포칼립스론자들의 주요 주장 중 하나(그리고 냉소적으로 제안하자면 이 문제가 두드러지게 부각된 이유 중 하나)는 육체 노동뿐만 아니라 정신적인 '중산층' 일자리도 위협받는다는 것이었습니다. 그러나 더 최근의 연구들은 즉각적으로 위험에 처한 것은 일상화된(routinized) 업무라고 강조합니다. 운송 운전사, 행정 비서, 계산원, 창구 및 대여 점원, 텔레마케터, 회계사가 가장 위태롭다는 데 일반적으로 동의하며, 중산층 일자리 중 자동화될 가능성이 가장 높은 곳은 고도의 교육 자격 없이도 전문직 산업으로 진입하는 길을 제공했던 '준전문직' 일자리(예: 법률 사무장, 급여 관리자, 부기 담당자)와 '준행정직' 일자리들입니다.

AI 주도 자동화의 지리적 분포 또한 논쟁의 대상입니다. 많은 연구는 "평균 임금이 높을수록 자동화를 촉진하므로" 선진 경제국들이 가장 큰 타격을 입을 것이라고 가정합니다. 다른 이들은 행성적 공장의 덜 발달된 지역에 일상적인 산업 일자리가 더 많기 때문에 바로 그곳에서 AI가 가장 극적인 영향을 미칠 수 있다고 제안합니다. 국제 노동 기구(ILO)의 연구는 캄보디아, 인도네시아, 필리핀, 태국, 베트남의 1억 3,700만 명 이상의 노동자가 컴퓨터 비전과 자동 재봉 기술이 결합된 '소봇(sewbots)'과 같은 기계로 대체될 높은 위험에 처해 있다고 추정합니다. 그러한 '조기 탈산업화(premature deindustrialization)'는 자본주의 발전 모델을 위태롭게 하며, 기계 비용과 인간 비용 사이의 '바닥을 향한 경쟁' 속에서 "동남아시아 전역에서 수백만 개의 일자리를 삭감하고 인신매매와 현대판 노예제를 급증시킬" 위협이 됩니다. 선진 자본주의 중심지 내에서의 일자리 손실 지리적 분포 또한 불균등할 것입니다. 미국에 초점을 맞춘 연구는 대도시에는 자동화 위험이 적은 인지적 또는 분석적 성격의 직종이 불균등하게 많은 반면, 소도시 일자리는 소매업 및 음식 서비스업의 사무직처럼 일상적인 업무 비중이 불균등하게 높기 때문에 AI 자동화로 인한 일자리 손실이 소도시에 가장 큰 영향을 미칠 것이라고 주장합니다.

거대한 추측성 AI와 일자리 논쟁은 변화하는 경제 조건에 의해 채색되어 왔습니다. AI 아포칼립스론자들은 2008년 붕괴 이후의 높은 실업률 상황에서 큰 영향력을 가졌습니다. 10년 후 경기 회복이 선언되고 고용 수준이 회복되자(적어도 미국에서는), '평소와 다름없는 비즈니스' 전문가들이 다시 자신감을 얻었습니다. 4차 산업 혁명의 충격적인 효과에 관한 가장 최근의 경영 보고서와 정책 자문의 톤은 '부정'도 '파멸'도 아닌 'daunting(벅차고 위협적인)'이며, 노동자 재교육을 위한 마셜 플랜 규모의 거대 프로젝트들에 대한 논의가 담겨 있습니다. 따라서 AI와 일자리 논쟁에는 큰 불확실성이 계속되고 있습니다. 그러나 완곡어법과 약속 이면에는 대규모의 부문별 일자리 손실과 만성적인 불안정이 지배하는 프롤레타리아트의 고난의 세계가 보입니다. 그리고 AI와 관련된 새로운 일자리 창출에 대한 가장 낙관적인 추정치들에서도 계급 관계에 미칠 결과에 대한 다른 중요한 질문들이 남아 있으며, 이제 그 질문들로 넘어가겠습니다.

파놉틱스, 불안정성, 양극화 그리고 프롤레타리아 교육

발레리오 데 스테파노(Valerio de Stefano)가 지적했듯, AI 관련 일자리 손실과 창출에 관한 논의는 질적인 문제보다는 양적인 문제에 초점을 맞춥니다. 실업 예비군의 규모가 계급의 해체와 재구성에 영향을 미치듯, 관리 기술, 노동의 공간과 시간성, 인력 내의 분절, 그리고 인력이 스스로를 재생산하기 위해 거쳐야 하는 훈련과 교육의 형태 또한 그러합니다. 한 논평가가 언급했듯이 "로봇이 더 많은 일자리를 창출할 것이라는 말이 사실일 수도 있지만, ... 만약 그 일자리들이 자동화가 없애버린 일자리들보다 질이 떨어지고 보수도 적다면 어떻게 될까요?" 우리는 파놉틱스(panoptics), 불안정성(precarity), 양극화(polarization) 그리고 프롤레타리아 교육(proletarian schooling)이라는 네 가지 지점을 살펴봅니다.

직장에서의 인공지능에 관한 《이코노미스트》 보고서의 표지는 거대한 사무실 램프가 소인국 노동자들을 비추고 있는 그림 위에 'AI-스파이'라는 제목을 달고 있습니다. 디지털 기술은 직무 숙련도 저하(deskilling)와 알고리즘 관리가 융합되고, 그 어떤 클립보드를 든 감독관의 능력보다 훨씬 뛰어난 작업장 감시 능력이 동반되는 **'새로운 테일러주의'**를 작업장에 가져왔습니다. 피비 무어(Phoebe Moore)와 동료들은 사회 측정 배지, 키보드 카운터, 이메일 스캔, 위치 추적, 모션 센서, 그리고 매 순간 효율성과 기분 변화를 감지하는 음성 및 안면 인식 기술이 어떻게 작업장에서 정상이 되었는지 상세히 설명합니다. 소셜 미디어 흔적을 기반으로 직원 스크리닝과 선택을 위해 AI 도구를 활용하고 인터뷰를 챗봇에 위임하는 기업 인사 부서의 새로운 집착은 머신러닝 기반의 '피플 애널리틱스(People Analytics)'입니다. 이러한 데이터를 공급받은 AI는 노동자의 "특정 과업 수행 능력과 적합성"을 평가하는 수단이 됩니다. 이러한 디지털 '정량화된 노동자(quantified worker)'의 탄생은 자발적인 자기 개선과 '웰빙'을 위해 직원들에게 자신의 성과, 건강, 심리 상태에 대한 유익한 정보를 제공한다는 명목하에 추진됩니다. 웨어러블 작업장 기기 제조 기업들은 이를 '인간화' 기술로 마케팅합니다. 그러나 이는 "제한 없는 노동자 감시" 기술을 통한 경영 권력의 명백한 강화를 간신히 가릴 뿐입니다.

무어 등은 주로 그러한 감시가 직원들에게 가하는 스트레스, 모욕감, 사생활 침해에 관심을 두며 '심층 자동화'에 대해서는 회의적이고 AI의 급격한 도입을 가로막는 경제적, 기술적, 사회적 장벽들을 강조합니다. 하지만 그러한 모니터링은 AI 개발 과정 내의 한 순간입니다. 알파고가 수천 시간의 이전 인간 대국 내용을 디지털로 소화함으로써 승리했듯이, 관리상의 이유로 시작된 노동자 성과 기록은 노동을 기계 형태로 변환하는 새로운 길을 열어줍니다. 자율 주행 차량은 인간 운전 기록을 수십만 시간 동안 디지털로 기록하는 데 의존합니다. 콜센터 직원들의 녹음 기록은 처음에는 그들의 업무를 보조하고 그다음에는 대체하는 음성 분석 소프트웨어의 기초가 됩니다. 아마존 주문 처리 센터의 로봇화는 인간 '암봇'에 대한 전자적 태깅(tagging)에서 탄생했습니다. 2018년 아마존은 피커의 손 움직임을 재고와 관련하여 모니터링하고 '햅틱 피드백'을 제공하여 노동자를 올바른 물건 쪽으로 "넛지(nudge)"하는 초음파 펄스 및 무선 신호 방출 손목밴드 추적기에 대한 두 개의 특허를 승인받았습니다. 이 특허들에 대한 보고는 노동자의 사생활 침해와 속도전에 대한 대중의 분노를 불러일으켰지만, 그 손목밴드나 심지어 더 광범위한 모니터링 장치들이 피커를 로봇으로 대체하기 위한 길을 닦을 수 있다는 점 또한 분명합니다. 작업장 모니터링과 노동자 대체, 따라서 AI 개발과 감시 사이의 유기적 연결로 인해 《이코노미스트》는 AI 작업장이 즉각적으로 사람이 없어지지는 않더라도 "더 소름 끼치게(creepier)" 될 것이라고 결론지었습니다.

불안정한 고용은 21세기 자본주의 노동의 가장 많이 논의되는 특징 중 하나입니다. '불안정성(precarity)'에 대한 정의는 다양하지만, 흔히 2008년 붕괴 이후 증가하고 있다고 여겨지는 시간제, 임시직, 자영업 등을 포함합니다. 특히 우버(Uber), 리프트(Lyft), 태스크래빗(TaskRabbit) 또는 업워크(UpWork), 클릭워크(Clickwork), 메카니컬 터크(Mechanical Turk)와 같은 온라인 플랫폼을 통해 조직되는 '긱 경제(gig economy)'의 성장에 주목이 쏠려 왔습니다. 이곳의 노동자들은 독립 계약자로 지칭되어 연금, 혜택 및 기타 규제적 보호 없이, 종종 낮은 임금을 받으며 일합니다. 일부 노동 정치 분석가들은 '긱'의 규모가 과장되었다고 주장합니다. 이 관점에 따르면 오늘날 노동자들의 진짜 문제는 불안정성 자체보다는 여전히 고용의 가장 큰 부분을 차지하는 정규직 일자리에서의 임금 정체, 비용 상승 및 열악한 노동 조건입니다. 노동자들이 저임금 정규직 일자리를 불안정한 고용으로 보충할 수 있다는 점에서 이 두 관점은 전적으로 모순되지는 않습니다.

AI와 불안정한 노동 사이에는 친화력이 있습니다. 앞서 보았듯이 AI는 온라인 마이크로워크에 의존합니다. 또한 AI는 플랫폼 자본주의가 임시 노동자를 조직하고, 수요에 맞춰 그들의 수, 수입, 일정을 조정하여 "노동 패턴의 비정규직화와 일자리 및 소득 불안정에 기여"하는 데 사용하는 알고리즘 관리에 중요하게 쓰입니다. 우버는 "자사 DNA에 머신러닝이 들어있다"고 스스로 묘사하는 기업입니다. 2014년과 2015년에 급격히 확장하던 당시 우버는 매달 최대 50,000명의 운전자를 추가하고 있었는데, 이는 인간 관리자가 일정을 짜고 감독하기 불가능한 숫자였기에 "어떤 형태의 가상 관리 시스템이 도입되어야만 했습니다." 우버는 "평점 시스템, 성과 목표 및 정책, 알고리즘 기반 탄력 가격제(surge pricing), 끈질긴 메시지 전송 및 행동 넛지"를 제공하여 "운전자가 특정 장소와 특정 시간에 일하도록 유도"하는 다양한 자동화 관리 도구들로 그 공백을 메웠습니다. 알렉스 로젠블랏(Alex Rosenblat)이 언급했듯 이 시스템은 "운전자가 중립적이고 매개적인 소프트웨어 플랫폼을 통해 고용 기회를 얻는 독립적인 노동자라는 주장을 복잡하게 만듭니다." 2016년부터 우버는 이러한 알고리즘 관리 도구들을 "데이터 관리, 모델 학습·평가·배포, 예측 수행 및 모니터링이라는 엔드-투-엔드 머신러닝 워크플로우를 포괄하도록 설계된" 자사 내부 제작 '미켈란젤로(Michelangelo)' 머신러닝 시스템 내로 통합했습니다. 미켈란젤로의 궤적의 논리적 귀결은 자율 주행 차량을 위한 소프트웨어를 공급하려는 우버의 야심이 실현될 때 완성될 것으로 보이는데, 이 경우 수십만 명의 불안정한 자영업 운전자들로부터 수집된 데이터는 AI가 지시하는 자율 주행 차량에 흡수될 것입니다.

AI가 증폭시킬 가능성이 높은 세 번째 현재의 경향은 '상위' 일자리와 '하위' 일자리 사이의 양극화입니다. 1950년대 이후 미국에서 뚜렷해진 이 궤적은 디지털 자동화와 아웃소싱이 '중간 수준의 일상적' 일자리들을 비우고 고임금의 인지적 노동이나 저임금의 수동 노동을 선호하게 됨에 따라—비록 양쪽 모두에 하향 압력이 가해지긴 했지만—심화되었습니다. 미국 노동부의 2024년까지의 직업 전망은 '컴퓨터 및 수학 관련 직종'을 가장 빠르게 성장하고 보수가 좋은 고용 분야 중 하나로 꼽고 있습니다. AI-자본은 (적어도 자기 자동화 능력이 발휘되기 전까지는) 머신러닝의 직접적인 프로그래밍뿐만 아니라 머신러닝이 의존하는 빅데이터를 제공하는 소셜 미디어, 앱, 센서의 코딩도 필요로 하므로 이러한 성장에 기여할 것입니다. 미국의 IT 직종 전국 평균 연봉은 약 81,000달러(전체 직종 전국 평균의 두 배 이상)이며, 이 분야는 "다른 대부분의 직종보다 빠른 속도인 2014년에서 2024년 사이 12% 확장될 예정"입니다. 하지만 코딩 노동은 절대적인 숫자와 성장률 면에서 연봉 20,000달러대인 개인 돌봄 업무, 간호 및 의료 지원, 소매 판매 및 음식 서비스 분야의 일자리에 비하면 왜소한 수준입니다. 이는 한편으로는 다른 중간 수준의 일자리들을 코딩으로 없애버리는 프로그래머들과, 다른 한편으로는 노령 인구 돌봄과 같이 기계가 하기에는 아직 너무 저렴하면서도 인간적으로 복잡한 업무를 수행하는 노동자들로 나뉜 미래의 노동력을 시사합니다—비록 섹스봇과 로봇 교사의 즉각적인 가능성에 대한 환상이 난무하긴 하지만 말입니다. 그러한 꿈과 악몽은 인구 고령화 문제가 특히 심각하고 자동 기계에 대한 문화적 수용이 상대적으로 쉬운 일본의 노인 돌봄 시설에서 현실화되고 있을지도 모릅니다. 간병인을 도울 잠재적 보조자로서 '소셜 로봇'의 개발은 정부 지원 산업 연구의 초점이 되어 왔으며, 일본 대중은 "인근 요양원 네트워크에서 끝없이 유쾌한 노역에 종사할 운명인 ... 외골격, 사물 인터넷 장치, 인간형 또는 동물 모양의 로봇들"의 끊임없는 홍보에 노출되어 있습니다. 다른 곳에서는 개인 돌봄 노동자의 임금이 낮은 수준을 유지하는 동안 그러한 궤적은 아마도 느리게 진행될 것입니다.

이러한 양극화는 젠더적, 인종적 차원을 가집니다. 초기 디지털 자동화 물결은 제조업 고용에 미친 영향 때문에 특히 남성들에게 큰 타격을 주었습니다. '정보 혁명'은 흔히 여성이 많은 노동 분야에서 점진적으로 진출하게 된 한 가지 원인으로 꼽힙니다. 그러나 AI 자동화가 될 가능성이 높은 많은 일자리는 일반적으로 행정, 비서, 판매 및 고객 서비스 업무에 종사하는 여성들이 보유하고 있는 반면, 소프트웨어 엔지니어링은 남성 중심적입니다. 북미에서 컴퓨터 과학을 공부하는 여성의 수는 정체되어 있거나 줄어들고 있는 반면, 영국에서는 컴퓨팅 전공 학생 5명 중 단 1명만이 여성입니다. "STEM 기술에 대한 더 큰 수요로부터 남성들이 불균등하게 혜택을 입을 가능성이 높습니다." 실리콘밸리 기업들은 '브로그래밍(brogramming, 남성 형제 문화+프로그래밍)' 문화를 벗어나지 못하는 모습을 보여주었으며 인종적 분리도 드러내고 있습니다. 미국 고용 평등 기회 위원회의 보고서에 따르면 기술 부문 일자리의 단 8%만이 히스패닉, 7.4%가 아프리카계 미국인, 36%가 여성이었습니다. 이러한 패턴은 알고리즘 고용 도구에 의해 강화될 수 있습니다. 2018년, 주로 남성의 이력서로 학습된 아마존의 AI 채용 기술이 놀랍지 않게도 "스스로 남성 후보자가 더 선호된다는 사실을 학습하여" 여성에 대한 본질적인 편향을 보였다는 사실이 보고되었습니다. 그 시스템이 폐기되었다는 사실은 하이테크 섹시즘에 대한 인식과 저항이 커지고 있음을 반영하지만, 그것은 고립된 사례가 아닙니다. 링크드인과 구글의 자동 채용 프로세스 분석 또한 유사한 성차별적 편향을 시사합니다. 반대쪽 극단에서 가장 빠르게 성장하는 저임금 서비스 일자리 중 상당수는 여성과 소수자가 강력하게 대표되는 일자리들입니다. 따라서 AI-자본은 젠더화되고 인종화된 노동 분절의 새로운 장을 열 수 있습니다.

AI 자동화에 직면하여 생존하는 경로는 보편적으로 교육이라고 여겨집니다. 새로운 AI 관련 업무를 위한 '재숙련(reskilling)' 약속은 전체 노동력이라는 거시적 수준에서는 말하기 쉽지만, 개별 노동자의 미시적 운명은 그리 쉽지 않을 것입니다. 기술적으로 실업자가 된 이들이 자신의 프로그래밍 기술과 컴퓨터 활용 능력을 업그레이드해야 한다는 것이 자본주의의 처방입니다. 2008년 붕괴 이후 불황기에 저비용 노동력이 풍부했던 상황에서, 기업들은 광범위하게 교육 훈련을 포기했습니다. 관련 기술을 가진 새로운 사람을 고용하는 것이 더 저렴했기 때문입니다. 그러한 노동 시장에서 노동자와 실업자들은 신자유주의 정책으로 인해 교육에 대한 접근이 급격히 계층화된 바로 그 시점에 막대한 비용이 드는 업그레이드 노력을 직접 수행해야 합니다. 댄 슈완(Dan Shewan)이 미국의 사례에 대해 썼듯이:

카네기 멜런 대학교와 같은 사립학교들은 ... 학생들에게 최첨단 로봇 실험실을 제공할 수 있을지 모르지만, 로봇에 의해 밀려난 노동자들이 의존해야 할 교육 프로그램을 제공하는 커뮤니티 칼리지와 직업 학교들에 대해서는 똑같이 말할 수 없다. 막대한 학자금 대출과 점점 더 불안정해지는 노동 시장에 비추어 볼 때, 많은 젊은이들이 자신의 선택지를 재고하고 있다. 40대와 50대 노동자들 대부분에게 사립 대학의 전통적인 4년제 학위 과정에 참석하기 위해 수만 달러의 빚을 낸다는 생각은 상상도 할 수 없는 일이다.

이 문제에 대한 가상적인 해결책으로는 "무크(MOOC), 경력 지향적 나노 디그리 ... 산업에서 인정받는 자격증을 제공하는 과정, 그리고 몇 달 안에 취업 가능한 IT 기술을 가르치는 코딩 부트캠프" 등이 포함됩니다. 그러나 현재로서는 "이러한 프로그램들은 주로 이미 고학력이거나 디지털 지식이 풍부하여 최첨단 기술을 습득함으로써 자신의 고용 가능성을 더욱 높이려는 사람들에 의해 사용되고 있습니다. 노동 시장의 하층부에 있는 노동자들 중 이러한 프로그램을 활용하는 사람은 거의 없습니다." AI가 만연한 상황에서는 "기술 변화의 속도로 인해 이러한 기술들이 빠르게 습득될 것을 요구하겠지만, 그것들은 더 짧은 '반감기'를 가지며 더 빨리 구식이 될 것이고", 따라서 "지속적으로 재숙련하고 기술을 업그레이드해야 할 필요성은 교육과 개인 발전에 필요한 비용과 시간을 높일 것입니다." AI와 관련된 순 일자리 손실 여부와 상관없이, AI가 가져오는 불안정성, 노동 시장 양극화, 일자리 재구조화 등의 문제들의 연쇄는 작업장 조직화에 더 큰 어려움을 초래하고, 첨단 기술 노동이라는 새로운 엘리트와 저임금 또는 실업 노동자 사이의 분열을 심화시키며, 대부분의 사람에게 교육과 훈련에 관한 스트레스와 비용을 가중시킬 위협이 됩니다. 그것은 또한 다음 섹션에서 다룰 것처럼 사람들이 정치적 문제에 대해 생각하고 소통하며 상호작용하는 방식에도 광범위하게 영향을 미칠 것입니다.

네트워크의 문법화

노동자 계급의 구성과 해체가 작업장에서 시작되더라도 그 너머로 확장된다는 것은 사회적 공장 개념의 본질입니다. 공장 문 안에서 노동자 계급은 테일러주의와 점점 더 진보하는 자동화 기술에 의해 해체되었습니다. 이러한 숙련도 저하 과정은 AI와 함께 계속되지만, 점점 더 유통, 소비 및 사회적 재생산 영역으로 확장됩니다. AI가 자동화된 사회적 공장에 미치는 영향을 설명하기 위해 우리는 베르나르 스티글레르(Bernard Stiegler)로부터 **'문법화(grammatization)'**라는 개념을 빌려오는데, 그 이유는 그가 노동자들의 기술뿐만 아니라 어떻게 살고 생각하는지에 대한 지식까지 영향을 미치는 숙련도 저하를 지칭하기 위해 이 용어를 사용하며 이를 AI와 직접 연결시키기 때문입니다.

스티글레르에게 문법화는 "우리의 존재를 엮는 흐름과 연속체들이 이산화(discretized)되는 과정"입니다. 이 개념은 인간 활동의 측면들을 기록하고, 분리하고, 부호화하는 기술들의 발전을 가리킵니다. 말하기를 그 문법 규칙과 함께 알파벳 쓰기로 번역하는 것이 이 과정의 초기이자 전형적인 예입니다(그리하여 '문법화'입니다). 그러나 스티글레르의 사용법에서 문법화는 감각 기관(시각과 청각), 신체의 움직임과 제스처(일할 때나 집에 있을 때 혹은 소비할 때), 그리고 사회적 상호작용의 전체 패턴도 포함합니다. 노동자의 지식을 기계로 이전하여 그들을 자본에 종속시킴으로써 노동자를 숙련도 저하 상태로 만드는 것은 프롤레타리아 문법화라는 광범위한 과정의 초기 단계에 불과합니다(우리는 지난 장에서 이를 언급했습니다). 이 과정은 나중에 소비의 자동화로 퍼져나가며—사람들은 문화 및 광고 산업의 시청각 기술에 의해 소비자로 훈련됩니다—그다음에는 소셜 미디어와 빅데이터 분석 등에 의해 자동화되는 지식인 인간의 자기 이해로 퍼져나갑니다.

우리는 문법화가 노동의 실질적 포섭이 마르크스가 1844년 초고에서 **'생명 활동(life-activity)'**이라고 불렀던 것으로 확장된 것으로 이해되어야 한다고 주장합니다. 머신러닝이 포섭하는 것은 노동뿐만 아니라 구매와 소비를 포함하여 우리가 어떻게 사는지와 관련된 보다 일반적인 인간 행동, 커뮤니케이션, 지식 및 기술이며, 또한 자본의 관점에서는 순환을 가속화하기 위해 활용되어야 할 엔진인 우정, 유쾌함, 사랑 등의 사회적 관계들입니다. 스티글레르가 세 가지 유용한 프랑스어 구절을 사용하여 표현했듯이, **savoir-faire(만들고 행하는 법을 아는 것), savoir-vivre(사는 법을 아는 것), 그리고 savoir-être(존재하는 법을 아는 것)**가 사회적 또는 행성적 공장의 전체 범위에 걸쳐 인간에게서 박탈됩니다. 최근의 저서에서 그는 이를 AI 및 빅데이터와 명시적으로 연결하며, 현재의 형태에서 이들이 불만스럽고 혼란스러우며 무능력한 주체성, 즉 심오한 의미에서의 'stupified(멍청해진/마비된)' 상태를 만든다고 시사합니다. 스티글레르에게 머신러닝은 "개인 및 집단 행동을 자동으로 예측하기 위해 상관관계를 계산하며, 또한 모든 숙고를 지름길로 가로지르고 우회함으로써 그러한 행동을 유도하고 '자기 실현'하게 합니다." 우리의 용어로 표현하자면, 그것들은 강화된 해체 상태를 만들어냅니다.

자본이 일상의 사회적 관계를 재구조화하고 계급 구성에 중대한 함의를 가지는 가장 강력한 AI 개입을 행사하고 있는 곳이 바로 소셜 미디어입니다. 구글의 검색 순위 알고리즘과 페이스북의 네트워크화된 개인 관계 소셜 그래프는 10년 이상 이러한 플랫폼 사용자들의 활동을 광고주에게 판매하고 콘텐츠를 타겟팅하기 위한 디지털 프로필로 변모시켜 왔습니다. 이것이 어디서 AI의 영역으로 경계를 넘는지에 대해서는 논쟁의 여지가 있습니다. 알고리즘 처리는 AI 효과의 대상이기 때문입니다. 그럼에도 불구하고 자신의 성능을 개선할 수 있는 능력과 그 결과로 나타나는 예측 신뢰도의 에스컬레이션이라는 두 가지 중요한 경계에서, 두 기업 모두 거대한 보폭을 내딛고 있다고 주장합니다.

페이스북은 2016년에 'FBLearner Flow(FBL)'라고 명명된 '자가 개선형 인공지능 기반 예측 엔진'을 공개했습니다. 이것은 기업의 "핵심 비즈니스 과제"를 해결하기 위해 "위치, 기기 정보, 와이파이 네트워크 세부 정보, 비디오 사용량, 취향, 그리고 사용자가 친구들과 얼마나 닮았는지를 포함한 우정의 세부 정보"를 끌어오는 '머신러닝 전문 지식'을 사용합니다. FBL은 단순히 광고주에게 인구 통계와 소비자 선호도에 기반하여 사람들을 타겟팅할 수 있는 능력을 제공하는 것이 아닙니다. 그것은 또한 20억 명 이상의 사용자 기반을 검색하여 한 브랜드에서 경쟁 브랜드로 갈아탈 "위험"이 있는 수백만 명을 감지하는 '충성도 예측' 서비스를 제공하는데, 이 대상들은 "그들의 결정을 완전히 선제적으로 차단하고 바꿀 수 있는 광고로 공격적인 타겟팅을 받게" 됩니다.

자본의 AI 기반 개인 커뮤니케이션 문법화의 또 다른 사례는 구글의 연합 학습(Federated Learning) 프로젝트입니다. 이는 2017년에 "머신러닝 모델이 사용자의 스마트폰에서 직접 훈련되는" '탈중앙화된' 에지 AI로 발표되었습니다. 이제 구글은 앱을 통해 안드로이드 폰에 AI 훈련을 위임할 수 있게 되었는데, 이 앱은 사용자의 파일을 읽고, 디지털 프로필의 개인화를 개선하며, 이 정보를 광고주 고객에게 전달하는 한편, 원본 데이터는 클라우드의 구글 서버에 보관하는 대신 폰에 "그대로" 남겨둡니다. 구글은 이 방식의 사용자 프라이버시 혜택을 부각하기로 선택했지만, 연합 학습은 기업에 다른 여러 가지 이기적인 이점들을 가져다주었습니다. 네트워크 연결 없이 사용자의 기기에서 "로컬로" 작동하는 '탈중앙화된' AI는 "전력 소모가 적고, ... 지연 시간이 최소화되며 머신러닝 처리가 더 빠름"을 의미하며, 실제로 클라우드의 원격 서버로 수확할 수 있는 것보다 **"더 많은 사용자 데이터"**에 대한 접근권을 줍니다.

2008년 금융 위기 이후, 기업 소유의 소셜 미디어가 확산되면서 사회적 반대의 가능성 또한 확대될 수 있을 것처럼 보였습니다. 2011년에 터져 나온 점거, 집회, 폭동의 물결은 널리 '페이스북(또는 트위터, 유튜브) 혁명'이라 불렸습니다. 비록 이러한 명칭은 터무니없는 기술 결정론(예: Tawil-Souri 2012)이라는 이유로 널리 정당하게 비판받았지만, 비록 전통적인 현장 조직화와 대면 커뮤니케이션이 병행되긴 했어도 시위자들이 소셜 미디어 플랫폼과 모바일 폰 네트워크를 광범위하게 사용했다는 점은 여전히 사실입니다. 이는 시위의 빠른 동원과 전염성 있는 확산에 기여했지만, 아마도 이후의 정치적 일관성 결여와 짧은 지속력의 원인이 되기도 했을 것입니다.

그러나 이러한 동요의 여파 속에서 AI와 관련된 두 가지 발전이 네트워크화된 반자본주의 운동에 큰 문제를 제기했습니다. 첫 번째는 자본주의 자유민주주의 국가들의 디지털 인구 감시 범위가 드러난 것이며, 특히 에드워드 스노든의 미 국가 안보국(NSA)에 관한 폭로였습니다. 이 폭로들은 9/11 이후 수립된 감시 프로그램들이 미국 소셜 미디어 및 검색 엔진 기업들의 알고리즘 데이터 수집에 편승했으며, 이들 기업 모두가 NSA의 PRISM 프로그램과 협력했음을 보여주었습니다. 스노든은 또한 NSA가 PRISM 및 기타 프로젝트에서 수집된 정보를 자체적인 첨단 AI 프로그램을 통해 처리하며, 데이터와 메타데이터를 수집하고 이를 NSA 클라우드 서버에 저장한 뒤 머신러닝을 적용하여 의심스러운 활동과 관계를 식별하고 있음을 보여주었습니다. 그러한 AI 기반 감시의 표면적인 타겟은 테러리즘이었지만, 그 기술들은 의심할 여지 없이 다른 목적으로도 적용될 수 있었습니다. CCTV, 모바일 폰 및 소셜 미디어 감시를 통한 '사이버 탄압'의 대상이었던 시위자들은 이제 NSA 자체는 아니더라도 NSA와 GCHQ 같은 엘리트 정보 기관에서 경찰, 민간 보안 업체, 기업의 노동 스파이로까지 하향 전이된 AI 기반 감시라는 새로운 극단의 감시 대상이 될 가능성에 처하게 되었습니다.

소셜 미디어 정치에 대한 AI 주도 해체의 두 번째 파동은 '케임브리지 애널리티카(Cambridge Analytica)'라는 이름으로 요약될 수 있는데, 이를 도널드 트럼프의 대선 캠페인을 둘러싼 대안 우파 네트워크, 선거 디지털 전략, 그리고 러시아의 사이버 전쟁 개입의 융합에 대한 약칭으로 본다면 더욱 그렇습니다. 아직도 여파가 계속되고 있는 이 스캔들에 대한 AI의 기여는 여러 수준에서 나타납니다. 첫째, 억만장자 로버트 머서의 회사가 트럼프를 돕기 위해 사용한 유권자 프로파일링 및 타겟팅 프로그램의 세부 사항은 여전히 불투명하지만, 그의 AI 개척자로서의 배경은 이 프로그램들이 머신러닝을 수반했음을 사실상 확실하게 만듭니다. 둘째, 트럼프 캠페인은 케임브리지 애널리티카가 얻은 데이터뿐만 아니라 주커버그의 회사가 트럼프 캠페인의 디지털 광고를 맞춤 제작하는 데 제공한 노골적인 도움을 받기 위해서도 머신러닝의 선구자인 페이스북에 의존했습니다. 셋째, 트럼프의 선거 전략가들, 그의 대안 우파 지지자들, 그리고 우호적인 러시아 요원들 모두 자신들의 메시지 순환을 위해 자극적이고 주의를 끄는, 따라서 광고 수익이 되는 콘텐츠를 촉진하는 소셜 미디어 알고리즘에 의존했습니다. 2016년경 이 알고리즘들은 머신러닝의 도움으로 엔지니어링되었습니다. 로버트 머서의 딸 레베카가 트럼프 캠페인에 기반하여 '머신러닝 대통령(The Machine Learning President)'이라는 실내 게임을 고안한 것은 결코 우연이 아닙니다.

트럼프의 당선은 해체주의적 계급 정치의 전형적인 사례였습니다. 그것은 정확히 인종과 젠더의 선을 따라 사람들을 분열시키는 것—특히 세계화로 피해를 입은 러스트 벨트 인구에 주목하여—을 목표로 하여 그들이 자본주의 재벌에게 투표하도록 만들었습니다. 트럼프는 머신러닝 기술을 배치한 유일한 정치인이 아니며 앞으로도 아닐 것입니다. 결국 오바마도 "빅데이터 대통령"이었으니까요. 그의 캠페인과 지지자들, 그리고 영국의 브렉시트 캠페인과 같은 유사한 벤처들은 AI 기반의 개입이 네트워크 커뮤니케이션을 얼마나 깊이 부패시킬 수 있는지를 보여주었습니다. 그것들은 또한 우익 포퓰리즘, 혹은 더 적절하게는 신파시즘과, 수십 년간의 신자유주의 계급 전쟁으로 이미 파편화되고 새로운 AI 기반의 균열 직전에 놓인 노동자 계급 내의 분열을 디지털로 악화시키는 것 사이의 친화력을 보여주었습니다. 사회적 공장을 둘러싼 재구성적 시도들이 반자본주의 정치에 가장 중요해 보이는 바로 그 순간에, 이러한 시도들은 알고리즘 광고의 주의력 분산 효과, 머신러닝 정보를 받는 대중 감시의 위축 효과, 그리고 선동적인 가짜 뉴스, 유독한 챗봇, 사이버 전쟁 및 기타 형태의 '무기화된 AI 프로파간다'에 의해 훨씬 더 어려워졌습니다. 따라서 AI는 인터넷을 '투쟁의 순환'을 위한 잠재적 영역에서 상품의 순환, 저항의 감시, 그리고 계급적 연대의 파괴가 지배하는 영역으로 변모시키는 데 기여합니다.

투쟁의 헵타곤(7각형)

그럼에도 불구하고 자본주의의 AI 야망의 규모와 방향에 대한 대중적인 우려는 커지고 있습니다. 최근 몇 년간 사회적 공장 곳곳에서 AI와 관련된 저항과 항의가 터져 나오고 있습니다. 우리가 강조하는 점은 이것들이 AI의 확대를 위한 것이 아니라, AI의 **거부(refusal)**를 위한 대중적 감정의 분출이라는 점입니다. 그중 어느 것도 완전한 반AI 투쟁은 아니지만, 각기 AI의 구체적인 측면들에 반대하거나 이의를 제기합니다. 이들의 조합과 중첩은, 비록 빈번한 단절과 모순에도 불구하고, AI-자본의 현재 궤적에 도전합니다. 우리는 이러한 길항 작용들—투쟁의 헵타곤—을 일곱 가지로 나열해 봅니다.

1) AI 주도의 임금 하락, 속도전, 모니터링, 불안정성 및 알고리즘 관리에 대항하는 파업 및 기타 작업장 행동. 가장 전형적인 사례는 독일, 이탈리아, 스페인, 폴란드 및 영국의 아마존 주문 처리 센터 전역에서 임금 인상, 고용 안정 및 노동자 안전 개선을 요구하며 일어난 파업과 동맹 파업의 물결입니다. 2018년 10월 제프 베이조스가 아마존 노동자의 최저 임금을 인상하겠다고 한 약속(비록 다른 다양한 수당의 회수로 인해 빛이 바래긴 했지만)은 이 운동의 부분적인 승리였으며, 이는 유럽에서 미국으로 투쟁이 옮겨붙는 것을 차단하기 위한 양보였습니다. 다른 파업들은 불안정한 노동의 알고리즘 관리를 방해했습니다. 음식 배달 업체 딜리버루(Deliveroo)는 "기수와 주문의 최적 조합 ... 기수 이동 시간, 음식 준비 시간 등을 끊임없이 계산하고 재계산하는" '프랭크(Frank)'라는 머신러닝 기반 배차 엔진으로 운영됩니다. 2016년부터 '프랭크'가 가능케 한 낮은 보수와 높은 불안정성에 대항하는 딜리버루 기수들의 파업은 영국에서 유럽 전역으로 바이러스처럼 퍼졌고 홍콩에까지 이르렀습니다. 이와 관련된 투쟁의 흐름은 런던에서 캘리포니아에 이르기까지 알고리즘적으로 관리되는 자신들의 비노동자 지위에 반대하여 우버 운전사들이 제기한 일련의 복잡한 법적 도전들입니다. 이들은 자신의 일자리를 갉아먹는 것에 반대하여 법적 이의 제기, 도로 봉쇄 및 항의 자살로 싸우는 '일반' 택시 운전사들과 협력하는 동시에 대립하며 전개되었습니다. 이러한 소요들이 아무리 격렬하더라도, 중국의 우버 격인 디디(Didi)의 방대한 운영 전반에서 몰아치는 운전자 파업, 항의, 알고리즘 사보타주 및 시스템 게이밍(system-gaming)의 규모에 비하면 미미한 수준인데, 이러한 반란들은 AI-자본 하에서의 노동 운동의 혼란스러운 미래를 예고할지도 모릅니다. 노동자 행동의 파일에는 고커(Gawker), 살롱(Salon), 허핑턴 포스트(Huffington Post), 바이스 캐나다(Vice Canada), 알 자지라(Al Jazeera)와 같은 새로운 디지털 저널리즘 기업에서의 예상치 못한 북미 노조 결성 물결도 추가되어야 합니다. 이곳의 젊은 노동자들은 "연중무휴 온라인 및 소셜 미디어 콘텐츠를 생성해야 한다는 엄청난 압박"을 받으며, 이들의 수입과 노동 조건은 AI 기반 광고와 지향성 뉴스 피드에 의해 직접적으로 형성됩니다. 보다 확산된 형태의 노동자 조직은 우리가 보았듯이 AI 생산 과정의 일부인 마이크로워크 플랫폼에서 발견됩니다. 아마존 메카니컬 터크 노동자들의 온라인 포럼인 터커 네이션(Turker Nation)은 수년 동안 마이크로워크 노동자들의 상호 지원과 지식 공유를 촉진하고, 플랫폼의 기업 고객들에 의한 지독한 착취에 도전하며 아마존 자체의 정책에 항의해 왔습니다. 머신러닝과 다른 형태의 AI가 자본에 더 많이 스며들수록, 기업 권력에 대한 모든 노동자의 저항은 사실상 그 권력이 구체화된 알고리즘 형태에 대한 저항을 수반하게 될 것입니다.

2) 군사 및 준군사 AI 적용에 대한 항의. 2018년 여름 내내 군사 및 군사화된 경찰 프로젝트에 대항하는 기술 노동자들의 놀라운 저항 물결이 실리콘밸리를 휩쓸었습니다. 구글에서는 노동자들이 드론 공격의 타겟팅을 개선하기 위해 머신러닝을 사용하는 펜타곤의 프로젝트 메이븐(Project Maven)을 중단시키기 위해 조직을 결성했고 성공했습니다. 이에 뒤이어 구글의 CEO 순다르 피차이는 다른 군사 프로젝트를 수행할 권리는 남겨두면서도, AI 무기나 감시 계약은 수행하지 않겠다는 AI 개발 원칙 성명서를 발표했습니다. 이 회사는 또한 100억 달러 규모의 펜타곤 계약인 합동 기업 국방 인프라(JEDI) 클라우드 컴퓨팅 프로젝트 입찰을 철회했습니다. 한편 아마존에서는 노동자들이 베이조스에게 "무관용" 집행 정책으로 악명 높은 미국의 경찰 부서와 이민세관집행국(ICE)에 자사의 레코그니션(Rekognition) 안면 인식 소프트웨어를 판매하는 것을 중단하라고 청원했습니다. 마이크로소프트에서도 노동자들이 ICE와의 1,940만 달러 규모 클라우드 컴퓨팅 계약 종료를 유사하게 요구했고, 세일즈포스(Salesforce)에서도 노동자들이 관세국경보호청(CBP)과의 연계를 차단하려 했습니다. 이러한 사건들과 함께, 아래 5번 항목에서 논의할 성차별과 차별 문제에 속하는 것으로, 기업의 성희롱 문제 처리에 반대하는 구글 직원들의 전 세계적인 동맹 파업도 포함될 수 있습니다. 안보 국가에 대한 반대는 새로운 일이 아니지만, 실리콘밸리의 반란은 예외적이었습니다. 그것은 부, 지위 및 자유지상주의적 사고방식 덕분에 진지한 정치화로부터 면역된 것으로 수십 년간 여겨졌던 디지털 무기 생산에 핵심적으로 관여하는 엘리트 첨단 기술 인력을 동원했습니다. 그러한 사건들은 갑자기 나타난 것이 아닙니다. 부분적으로 그것들은 자신의 임금이 아무리 좋아도 사장들의 터무니없이 팽창하는 부의 속도를 따라가지 못하는 첨단 기술 노동자들의 증가하는 불안을 간접적으로 반영합니다. 그러나 그 이면에는 계약직 프로그래밍 작업의 노조 결성을 위해 노동 단체들과 수년간 협력해 왔으며, 기업 권력에 대한 비판, 인종차별과 성차별에 대한 반대, 그리고 프로그래머와 저임금 지원 노동자 간의 연대를 발전시키기 위해 실리콘밸리와 시애틀에서 끈질기게 캠페인을 벌여온 기술 노동자 연합(Tech Workers Coalition)과 같은 그룹들의 조직화가 있었습니다.

3) 반감시 운동. 에드워드 스노든의 폭로 이후, 자본주의 자유민주주의 국가들에서의 감시 범위에 대한 인식이 높아졌습니다(비록 중국 등지에서는 그러한 감시가 뉴스도 아니겠지만). 이것은 NSA가 스캔에 머신러닝을 사용하기 때문만이 아니라, 감시가 AI 개발에 필수적이기 때문에 AI 이슈이기도 합니다. 우리가 설명했듯이 머신러닝 시스템을 학습시키기 위해서는 대규모 데이터 세트가 필요합니다. 이러한 데이터 세트들이 모두 반드시 인간의 행동을 면밀히 조사하는 것은 아니며, 그러한 관찰의 침해성을 완화하려는 일부 기술적 시도도 있지만, AI 개발은 대규모의 피플-워칭(people watching)에 상당히 의존할 가능성이 큽니다. 북미에서는 반감시 자습서와 정보 시트들이 사회 운동 전반에 확산되었습니다. "프라이버시와 항의를 위한 사용자 가이드"는 감시와 데이터 수집을 방해하기 위해 모호하거나, 혼란스럽거나, 오해의 소지가 있는 정보를 의도적으로 추가하는 관행인 '오퓨스케이션(obfuscation, 난독화/은폐)' 사례들을 요약합니다. 안면 인식 AI와 이를 '적대적 이미지'로 교란하는 가능성은 최근의 뜨거운 이슈입니다. 그러나 개별화된 반감시 기술 조치에는 시간, 비용 및 전문 지식의 심각한 한계가 있습니다. 감시에 대한 정치적, 법적 제한이 대중적 효과를 거둘 가능성이 더 높습니다. 북미에서 가장 중요한 이니셔티브 중 일부는 프로파일링 시스템이 어떻게 의심스러운 사회 집단을 동시에 구성하고 통제하는지 너무나 잘 알고 있는 소수자들로부터 나옵니다. 이웃 전체와 블랙 라이브즈 매터(Black Lives Matter) 리더들에 대한 디지털 추적에 반대하는 아프리카계 미국인들, 토지와 파이프라인 항의에 대한 디지털 조사를 거부하는 퍼스트 네이션(First Nations), 그리고 자신들의 존재에 대한 도매금의 데이터 뱅크 목록화에 반대하는 무슬림 아랍인들이 그들입니다. 그러나 감시 제한의 주요 정치적 조치들은 나치즘과 스탈린주의의 기억이 여전히 살아있는 유럽에서 나왔습니다. 맥스 슈렘(Max Schrem)의 'None of Your Business'와 같은 반기업 감시 운동과 국가 주권 침해에 반대하는 통치 엘리트들의 반대는 이 이슈에 실질적인 정치적 무게를 실어줍니다. 2018년에 발효된 유럽 연합의 일반 데이터 보호 규정(GDPR)은 대형 AI 개발자들을 포함한 디지털 자본의 데이터 수집을 제한합니다. 디지털 추적에 대한 사용자 기본 동의가 아닌 능동적 수락(opt-in) 요구, 개인 데이터 사용에 대한 기업의 투명성, 저장된 데이터를 잃지 않고 플랫폼을 떠날 수 있는 사용자의 권리, 자동화된 의사결정에 대한 설명 요구, 그리고 '잊힐 권리' 등은 모두 기계 지능 구축을 위한 추출 원료로서의 인구 데이터 사용을 옥죄고 있습니다. 머신러닝 개발자들과 컴퓨터 과학자들의 부정적인 반응, 그리고 유럽의 규제를 미국의 기업적 자유와 중국의 감시 국가 권력과 비판적으로 비교하는 그들의 태도는 반감시 운동이 AI-자본에 얼마나 큰 문제를 제기하는지, 동시에 그러한 운동이 AI 경쟁이 치열한 세계 시장에서 직면한 도전이 무엇인지 보여줍니다.

4) 소셜 미디어 탈퇴. 반감시 활동보다 더 분산되어 있고 보이지 않는 것은 '빼기'를 통한 저항입니다. 케임브리지 애널리티카 스캔들의 여파로 소셜 미디어를 떠나는 것이 역설적으로 소셜 미디어의 밈이 되었는데, 이는 디지털 감시와 조작에 대한 우려, 기술 중독의 심리적 영향, 그리고 온라인 환경의 극단적인 상품화에 대한 혐오감이 섞여서 일어났습니다. '페이스북 삭제(Delete Facebook)' 캠페인이 일어났다가 가라앉았습니다. 그러나 18세에서 24세 사이의 사람들이 부모 세대가 점점 더 몰입하고 있는 반면 소셜 미디어 사용을 줄이거나 때때로 포기하고 있다는 증거가 있습니다. 머신러닝이 빅데이터 사업인 한, 일부 AI-자본은 데이터 주체들이 소셜 미디어를 "로그아웃"하는 느린 엑소더스에 의해 방해받을 수 있습니다.

5) 알고리즘 편향 격파. 우리는 AI가 기존의 성차별적, 인종차별적 차별을 증폭시키는 경향을 보았습니다. 백인 남성들이 소유하고 지배하는 비즈니스와 그들에 의해 관리되는 거버넌스 시스템은 화이트 남성들이 누려온 고용, 부, 깨끗한 기록, 경력 성공의 역사적 수준을 반영하는 데이터 세트로 학습되었기 때문에 여성과 소수자를 차별하는 AI 시스템을 생산하고 있습니다. 그러한 차별적인 AI는 경찰, 국경 수비대, 복지 서비스의 화면에서 이를 마주하는 사람들에게 특히 가혹한 영향을 미칩니다. 그러나 '알고리즘 편향(algorithmic bias)'이라는 이름이 붙여졌다는 것 자체가 그것에 대항하는 투쟁의 증거입니다. 매사추세츠 공과 대학교(MIT)에서 "부호화된 시선(the coded gaze)"에 맞서 싸우는 알고리즘 저스티스 리그(Algorithmic Justice League)부터, 미국의 예측 치안 유지 소프트웨어의 알고리즘 편향을 밝혀낸 비영리 NGO인 인권 데이터 분석 그룹(HRDAG), 산호세 지역의 이민자 및 수용자 권리와 경제 정의에 관여하는 실리콘밸리 디버그(Silicon Valley De-Bug)나 저임금 노동자와 가난한 지역사회를 조직하고 있는 필라델피아의 미디어 모빌라이징 프로젝트(Media Mobilizing Project)에 이르기까지 다양한 단체들이 이 문제를 다루고 있습니다. 알고리즘 편향을 수정하는 것이 AI 예측의 정확도를 높여주기 때문에, 비록 이것이 당혹스럽고 비용이 많이 드는 성차별, 인종차별, 동성애 혐오의 전시를 인정하는 것을 요구하더라도, 그것은 이론적으로 자본에 기여하여 상품의 틈새 타겟팅과 유능한 노동력 채용을 개선할 수 있습니다. 이것이 적어도 진보적 신자유주의가 그러한 이니셔티브에 설정한 조건들입니다. 그러나 알고리즘 편향이 가난하면서도 여성, 퀴어 또는 유색인종인 사람들—즉 가장 취약한 사람들 중에서도 가장 취약한 사람들—을 차별하는 한, 알고리즘 정의 운동은 AI-자본의 소위 과잉 인구에 대한 훈육과 폐기를 방해하며, AI 개발에 영향을 미쳐온 "지배의 매트릭스"에 도전합니다.

6) 디지털 도시 소요. 거대 AI 개발자들이 자신들의 본사, 캠퍼스 및 실험 장소로 도시 경관에 더욱 강력한 발자국을 남김에 따라, AI의 도시 인큐베이터들에서 사회적 갈등이 폭발하고 있습니다. 이는 억만장자들의 호화 저택, 첨단 기술 캠퍼스에서 일하는 백만장자들, 저임금 서비스 노동자들, 그리고 거대한 노숙인 인구가 끊임없는 긴장 속에 공존하는 실리콘밸리 주변에서 가장 극명하게 나타납니다. 소프트웨어 생산이 밸리에서 샌프란시스코 북쪽과 베이 지역으로 확장됨에 따라 이러한 사회적 단층선도 함께 확장되었습니다. 2013-14년, 마운틴뷰에 있는 '구글플렉스(Googleplex)'로 첨단 기술 노동자들을 실어 나르는 사설 버스들이 젠트리피케이션, 퇴거, 이주 및 혼잡에 반대하는 항의의 발화점이 되었습니다. 시위대들은 버스 노선을 봉쇄했습니다. 피켓에는 "젠트리피케이션과 퇴거 기술: 통합된 이주와 문화적 말살", "구글은 꺼져라"라고 적혀 있었습니다. 전단지들은 구글이 "양심 없는 감시, 통제, 자동화의 세계를 구축하고 있다"고 비난했습니다. 항의는 타올랐다 꺼졌다가 2018년에 다시 나타났습니다. 'Techsploitation is Toxic(기술 착취는 유독하다)' 투사들은 우버 스타일의 회사가 사용하는 전기 스쿠터들을 쌓아 올려 구글 버스 12대를 막아 세웠고, "텐트가 아니라 기술을 쓸어버려라", "그들은 그것을 'Disruption(파괴/혁신)'이라 부르지만, 우리는 이주라고 부른다"는 슬로건으로 노숙인 텐트촌 철거 계획을 비난했습니다. 이러한 도시 소요에는 AI 기반의 '스마트 시티'에 대한 저항도 포함됩니다. 2017년 구글의 지주 회사인 알파벳의 자회사 사이드워크 랩스(Sidewalk Labs)는 토론토시와 수변 지역인 퀘이사이드(Quayside) 개발을 위한 '민관' 파트너십을 협상했습니다. 세부 사항이 공개되지 않은 이 협약에 따르면 퀘사이드는 자율 주행 차량을 위해 설계된 도로, 로봇 쓰레기 수거, 도처에 널린 센서와 보안 카메라, 그리고 도서관과 건강 카드로 거주자의 ID를 읽는 중앙 집중식 정보 관리 시스템 등 AI가 포화된 도시 혁신의 쇼케이스가 될 예정이었습니다. 캐나다의 저스틴 트뤼도 총리는 이 프로젝트를 깨끗하고 친환경적인 도시성의 전조라고 칭송했습니다. 구글의 전 CEO 에릭 슈미트는 구글의 창업자들이 "누군가 우리에게 도시 하나를 주고 우리를 책임자로 앉혀주기만 한다면 할 수 있는 모든 일들"을 생각하며 흥분하여 아이디어가 나왔다고 설명했습니다. 초기 계약에서 언급되지 않은 것으로 보이는 것은 퀘사이드에서 수집될 디지털 데이터의 소유권과 수집 조건이었습니다. 이 이슈는 무분별한 디지털 상품화에 반대하는 단체인 테크리셋 캐나다(TechReset Canada)가 주도한 캠페인에 의해 공론화될 때까지 불투명하게 남아 있었습니다. 이들은 거래의 불투명성을 비판하고 계약서 공개를 요구했으며, "이 프로젝트의 데이터와 데이터 인프라는 토론토시와 그 거주자들의 자산임을 보장하라"는 조항을 요구했습니다. 이는 주거 활동가부터 불만을 품은 도시 계획가들에 이르기까지 다양한 이들을 참여시킨 연합을 동원했고, 이들의 대의는 외국 기업에 대한 지적 재산권 양도에 반대하는 캐나다의 선도적인 첨단 기술 기업가들로부터도 지지를 얻었습니다. 퀘사이드 계약을 감독하던 이사회의 저명한 위원들이 사임했습니다. 2019년 초 현재 이슈는 여전히 해결되지 않은 상태입니다. 사이드워크 랩스는 이의 제기에 굴복하는 척하면서도 집계된 익명 데이터만 수집하겠다고 동의함으로써 항의를 교묘히 피할 수도 있습니다. 하지만 이는 개인의 프라이버시라는 제한된 이슈만 다룰 뿐, 인구 수준의 정보와 도시 설계에 대한 기업의 명령권이라는 더 큰 문제들은 건드리지 않는 계책입니다.

7) 반기업적 테크래시(techlash). 이러한 우려들 중 상당수가 대형 디지털 기업들의 권력에 대항하는 막연한 '테크래시'로 수렴되었습니다. 2016년 미 대선의 페이스북, 케임브리지 애널리티카 및 러시아 사이버 전쟁 스캔들은 오랫동안 잠잠했던 디지털 과점 체제의 소유권 집중에 관한 논의를 촉발했습니다. 국가 규제에 강력히 반대하는 것으로 유명한 미국 첨단 기술 커뮤니케이션 내에서조차 구글과 페이스북의 자율 규제 능력에 회의를 표하는 목소리가 나왔으며, 강제적인 투명성 확보와 알고리즘 프로세스의 부정적 외부 효과에 대한 재정적 책임까지 요구했습니다. 다른 비판들은 더 깊이 들어갔습니다. 예를 들어 자본의 미디어 기업들이 광고라는 '가짜 뉴스'와 고도로 엔지니어링된 주의력 조작에 얼마나 깊고 근본적으로 의존하고 있는지 묻는 식이었습니다. 유럽에서는 공공 규제와 노동법 위반, 조세 회피 및 독점적 지위의 반경쟁적 남용을 두고 디지털 자본주의의 거물들을 상대로 소송이 제기되었습니다. 버니 샌더스와 제레미 코빈(그리고 때로는 트럼프와 같은 우익 권위주의 포퓰리스트들의 rumi-nations(반추/생각) 속에서도)의 정강에 거대 AI 개발 기업들의 해체와 규제에 관한 요구가 나타났습니다. 독점 금지 정치가 곧 반자본주의는 아니지만, 그러한 우려들이 '주류화'됨에 따라 "데이터 뱅크의 사회화"라는 보다 급진적인 제안들이 논의될 공간이 열렸습니다. 이는 과점 기업의 규제나 해체를 넘어 국가와 시장 모두로부터 분리된 '커먼즈(commons)' 제도를 수립하고, 정부 및 기업 권력과 거리를 둔 공공 컴퓨팅 유틸리티를 형성하는 것까지 확장됩니다. 우리는 결론에서 이러한 문제들로 돌아갈 것입니다. 2018년경에는 비즈니스 논평가들조차 디지털 자본에 대한 태도 변화를 기기 포화 상태가 된 시장, 국제 무역 전쟁과 더불어 기술주가 인간 가치의 무오한 지표인 주식 시장에서 '망치질(hammering)'을 당하게 만든 여러 요인 중 하나로 이야기하고 있었습니다.

결론: 사건의 지평선을 향하여

AI가 다양한 반란과 이의 제기가 배열되는 보이지 않는 유인력(attractor)으로 작용하면서, 디지털 자본 내에서 어느 정도의 노동자 계급 재구성이 일어나고 있습니다. 우리는 이 과정을 과대평가하고 싶지는 않습니다. 반기업적 테크래시는 정치적으로 얕을 수 있고, 스마트 시티 반대자들은 여전히 소수이며, 알고리즘 정의는 자본에 방해가 되기도 하지만 도움이 되기도 합니다. 소셜 미디어 탈퇴는 느리고 부분적이며, 반감시 정책은 경쟁 압력에 의해 후퇴할 수 있습니다. 프로젝트 메이븐 반란의 성공에도 불구하고 군사화된 AI에 대한 다른 승리는 드뭅니다. 무엇보다도 AI-자본에 대항하는 파업의 증가 위에는 저항이 오히려 자동화를 더욱 촉진할 수 있다는 그림자가 드리워져 있습니다. 우리는 일자리 손실 문제와 무관하게 AI-자본이 인류의 웰빙에 다른 많은 위협을 가한다고 제안했지만, 그 안에서의 투쟁의 미래는 4차 산업 혁명이 임금 노동의 토대를 얼마나 깊이 갉아먹느냐에 상당히 달려 있는 것도 사실입니다.

앞서 보았듯이 AI로 인한 고용 붕괴가 임박했다는 초기 예측들은 더 최근의 연구들에 의해 상당히 희석되었으며, 미국의 포스트 불황 경제가 공식적으로 완전 고용 상태로 돌아가면서 그 기세가 꺾였습니다. 하지만 일부 관찰자들은 자동화로 인한 제한적이고 부문적인 일자리 손실이라 하더라도, 2016년에 해외로 떠난 일자리 문제가 그랬던 것처럼 다가올 미국 선거에서 큰 비중을 차지할 수 있다고 제안합니다. 장기적으로 AI 고용 효과에 대한 추정치는 계속해서 극명하게 엇갈리고 있으며, 심지어 일부 '평소와 다름없는 비즈니스' 이론가들조차 자본의 일자리 창출 기능과 파괴 기능이 심각하게 어긋날 수 있는 가능성을 인정하도록 모델을 수정했습니다. 일부는 매우 파국적인 입장을 견지하고 있습니다. 구글 차이나의 전 대표인 리카이푸(Kai-Fu Lee)의 널리 읽히는 AI 저서는 2030년까지 미국 일자리의 최대 40%가 사라질 것이며 중국도 비슷한 수치를 기록할 것이라고 주장합니다. 즉, 세계사적 격동을 일으킬 숫자들입니다. 그러한 폭주하는 AI는 실업 예비군을 대규모로 늘려 노조와 다른 노동자 조직들을 더욱 약화시키겠지만, 극심한 빈곤화는 새로운 형태의 프롤레타리아 반란(아마도 《웨스트월드》의 안드로이드들만큼이나 피비린내 나고 결연한)을 낳을 수도 있습니다. 그러한 추측 속에서 우리는 자본의 기계적 동력이 자본을 내부에서 폭발시키는 '기계에 관한 단편'이 예견한 사건의 지평선에 도달합니다. 노동자 계급을 종국적으로 해체하며, 자본은 자기 자신을 해체합니다. AI-자본주의에 직면한 좌파들에게 아마도 모종의 최후의 확신, 안일함 혹은 심지어 열광을 주는 것은 바로 이러한 미래주의적 명제의 부정할 수 없는 논리일 것입니다. 사람들은 말합니다. "아마 그 기술은 제대로 작동하지 않을 거야. 그리고 만약 작동한다 하더라도, 그것은 단지 시스템의 자기 파괴를 완성할 뿐이지." 하지만 이러한 확신은 얼마나 정당한 것일까요?