제9장: 집단 지성: 인간과 AI의 역할 평가

 

제9장: 집단 지성: 인간과 AI의 역할 평가

 

집단 지성은 새로운 것이 아닙니다. 아주 오래전부터 인간은 지식을 보존하여 타인과 공유하고 세대를 거쳐 전수하기 위해 노력해 왔습니다. 호주의 '송라인(song lines)', 알렉산드리아 도서관, 인간 게놈 프로젝트는 인간 지능의 범위를 확장하기 위해 시공간을 초월하여 지식을 공유한 사례들입니다. 이러한 관행은 이제 새로운 단계에 접어들었습니다. GPT-3, GPT-4와 같은 대규모 언어 모델(LLM), 그리고 더욱 발전된 **챗GPT(ChatGPT)**는 선진국에 사는 수백만 명의 사람들에게 집단 지성에 참여하는 것을 일상적인 경험으로 만들어주고 있습니다.

 

소프트웨어를 사용하여 개요를 작성하고, 주제문을 제안받으며, 문법과 철자 오류를 검사하는 등의 초기 관행들도 집단 지성을 향해 나아가는 과정이었습니다. 하지만 챗GPT의 등장으로 글쓰기와 사고 과정에 대한 AI의 침투는 단순히 도움을 받는 수준을 넘어 진정한 협업의 단계로 나아갔습니다. 여기서 존 언스워스(John Unsworth)가 제안한 유용한 구분을 참고할 수 있습니다. 그는 인문학이 언제나 '협동적(cooperative)' 연구(초안을 읽고 의견을 주는 동료, 수정을 제안하는 심사위원 등)를 수행해 왔음을 인정하면서도, 디지털 기술이 촉매한 것은 다른 차원인 **'협업(collaboration)'**이라고 주장합니다. 예를 들어, 여러 학자가 힘을 모아 세계적인 수준의 웹사이트를 구축할 때, 그들은 코딩과 디자인을 돕는 기술진뿐만 아니라 작업의 상당 부분을 자동 완성하고 데이터와 기능의 성격을 결정하는 데 중요한 역할을 하는 소프트웨어 자체와도 협업하게 됩니다.

 

챗GPT를 통한 집단 지성은 이러한 특징들을 포함하면서도 여러 의미에서 더 나아갑니다. 첫째, 챗GPT와 그 전후 버전들 자체가 집단 지성의 결과물입니다. 왜냐하면 이 모델들은 수십억 개의 인간 저작 텍스트를 읽음으로써 언어, 스타일, 문화 및 인간의 관행을 배우기 때문입니다. 어떤 의미에서 이들의 언어 능력은 '평범한 모든 사람(Everyman/Everywoman)'의 응답을 생성한다고 볼 수 있습니다. 신경망이 특정 프롬프트에 대해 적절하다고 결정하는 연속된 단어들은 모델이 접한 모든 이전 인간 저작 텍스트에서 계산된 확률로부터 나오기 때문입니다. 예전에 방영된 한 TV 쇼에서는 소크라테스, 수잔 B. 앤서니, 시어도어 루스벨트, W. E. B. 듀보이스와 같은 유명 인사들을 연기하는 배우들이 저녁 식탁에 둘러앉아 손님들과 대화를 나누게 했습니다. 이제 챗GPT와 대화하는 사람은 유명인뿐만 아니라 가난하고 무명인 사람까지, 즉 정전(canon)으로 인정된 텍스트의 방대한 아카이브에 등록되었거나 레딧(Reddit) 게시물에서 일정 비율 이상의 추천을 받은 모든 이들과 어깨를 나란히 하며 대화할 수 있게 되었습니다.

 

챗GPT는 또한 연락을 시도하는 누구와도 대화를 나눔으로써 집단 지성을 창출합니다. 제 친구 중 한 명은 이제 챗GPT를 아이디어를 얻기 위한 토론 상대로 사용할 뿐만 아니라, 관련 자료를 찾아줄 뿐만 아니라 그 내용에 대해 지적으로 논평까지 해주는 초지능형 검색 엔진으로 일상적으로 사용하고 있습니다. 게다가 챗GPT는 자신이 창작한 결과물을 웹에서 이용 가능한 방대한 인간 저작 텍스트 아카이브에 추가함으로써 집단 지성에 기여합니다. 현재 모든 주요 언어와 수많은 소수 언어로 된 정전 텍스트의 상당 부분을 웹에서 찾을 수 있습니다. 한국어, 중국어, 아랍어, 산스크리트어 등 원래 쓰였던 문자로도 점점 더 많이 접근할 수 있게 되었습니다. 비록 기계가 생성한 텍스트가 현재는 웹에서 이용 가능한 텍스트의 작은 부분만을 차지하고 있지만, GPT-3와 유사한 모델들이 생성한 텍스트가 인터넷으로 유입되면서 그 상황은 빠르게 변하고 있습니다. 향후 10년 이내에 웹상에서 기계가 작성한 단어의 양이 인간이 작성한 단어의 양과 거의 비슷해지는 광경을 보게 되더라도 놀라운 일은 아닐 것입니다. 비록 인간이 5,000년의 앞선 시간을 가졌지만, 기계 저작 텍스트의 엄청난 속도와 양은 곧 대등한 수준에 도달하게 할 것입니다. 더욱이 인간이 쓴 것인지 기계가 쓴 것인지 구별하는 것이 불가능한 경우가 많으므로, 이 현상은 인간이 저술한 정전 문학의 전 지구적 디지털 아카이브 자체의 성격을 영원히 바꿔놓을 잠재력을 가지고 있습니다.

 

최근 두 저작은 LLM을 협업자로 보는 관점을 제시했는데, 하나는 부정적인 시각에서, 다른 하나는 긍정적인 시각에서 접근했습니다. "AI가 우리를 실망시키는 법"에서 디비야 시다르트(Divya Siddarth)와 동료들은 LLM 및 유사한 대규모 프로그램을 추구하는 것이 잘못되었을 뿐만 아니라 위험하다고 주장합니다. 그들은 AI의 생산물을 "인간 경쟁적"이라고 부르는 것이 암묵적으로 AI를 우리의 협업자가 아닌 적대자로 위치시킨다고 지적합니다. 그들은 '인간 복제'를 위해 최적화하는 방식이 "엔지니어링 엘리트에게 권력, 자원, 의사 결정권을 집중"시킨다고 주장하며, 대신 AI를 인간의 창의성과 협력을 돕고 증강하는 존재로 위치시키는 대안적인 접근 방식을 옹호합니다. 이와 유사한 사고 노선을 따라 리드 호프만(Reid Hoffman, 2023)은 교육, 예술, 음악, 시각 미학, 법률 등 다양한 분야에서 AI가 어떻게 인간의 협업자가 될 수 있는지를 보여줍니다.

 

이러한 잠재적 시너지를 실현하기 위해서는 인간과 비교한 AI의 강점과 한계를 평가하는 것이 유용할 것입니다. AI가 인간보다 나은 점은 명확합니다. 속도, 엄청난 생성력, 방대한 참조 범위, 텍스트 지식의 포괄적인 전 지구적 레퍼토리 등입니다. 반면 AI와 대비되는 인간의 장점은 의식, 체화되고 내태된 학습, 현실 세계에서의 감각 경험, 언어적 텍스트를 훨씬 넘어서는 방대한 정보를 포함하는 훨씬 넓은 인지 지평, 그리고 자아감과 자기 인식 등입니다. 테런스 디컨(2023)이 주장했듯이, "진정한" 의미를 창조하려면 자아감이 필요합니다. 여기서 자아감이란 자신이 그 경계 외부의 모든 것과 분리된, 경계 지어진 실체로 존재한다는 신체적 깨달음으로 넓게 정의됩니다. 이 정의에 따르면 박테리아도 자아감을 가지고 있습니다. 생물학적 계통을 따라 뇌를 가진 유기체로 올라가면 환경과 관련된 자아 인식이 증가하며, 인간의 **자기 인식(즉, 자신이 인식하고 있다는 사실에 대한 인지적 인식)**에서 그 정점에 이르게 됩니다. 제럴드 에델만(Gerald Edelman)과 줄리오 토노니(Guilio Tononi, 2001)가 '재진입 신호(reentry signaling)' 아키텍처라고 부른 자기반성적 인지 루프는 의식을 가능하게 하는 메커니즘으로 기능하며, 이는 AI와 대조되는 인간 삶의 근간입니다.

 

제가 아는 바로는 현재 의식이 있는 소프트웨어는 없으며, 소프트웨어에는 인간이 경험하는 내분비계 매개 감정과 같은 메커니즘도 존재하지 않습니다. 이러한 현실은 가장 생산적이고 유용한 인간-AI 협업의 종류를 결정하는 데 영향을 미칩니다. 최상의 시나리오에서 협업은 각 파트너의 고유한 강점을 활용하여 장점은 극대화하고 한계는 최소화하는 방식으로 이루어질 것입니다. 일반적으로 의식의 장점은 계획을 세우고, 장애물을 예측하며, 최선의 결과를 얻기 위해 상황을 전략적으로 배치하는 능력을 포함합니다. 따라서 인간 파트너는 이러한 능력을 발휘하여 AI와의 상호작용을 자신이 달성하고자 하는 목표로 유도할 것입니다. 인간은 영감을 얻고 탐구의 지평을 넓히기 위해 AI의 제안과 추천을 참고할 것입니다. AI는 모든 창의적인 노력에 수반되는 수많은 일상적인 과업을 수행하도록 배치될 수 있으며, 이를 통해 인간은 더 복잡한 설계 및 구현 문제에 집중할 수 있게 됩니다. AI는 언어적 재현을 통하는 것 외에는 실제 세계에 대한 경험이 없으므로, 인간은 자신의 더 넓은 세계관을 사용하여 오류를 수정하고 AI를 특정 방향으로 넛지(nudge)할 것입니다. AI는 패턴 감지에 탁월하므로, 단백질 서열의 폴딩(folding)과 같이 패턴을 포함하는 복잡한 과업에 동원될 수 있습니다. AI는 또한 글쓰기를 배우는 청소년들에게 피드백을 주는 것과 같은 창의적인 활동에서도 유용하게 활용될 수 있습니다.

 

물론 이것들은 최적의 시나리오일 뿐이며, AI와 인간의 상호작용이 심각하게 잘못되는 경우도 얼마든지 상상할 수 있습니다. 긍정적인 시나리오를 구체화하기에 앞서, 최악의 결과가 예상되는 시나리오들을 살펴보는 것이 유용할 것입니다. 그러한 목적에서 유발 노아 하라리(Yuval Noah Harari)의 **<호모 데우스: 미래의 역사>(2015)**는 이상적인 텍스트입니다. 그는 실질적인 결과뿐만 아니라 이데올로기적 결과까지 구상하고 있기 때문입니다. 그의 논증을 면밀히 분석함으로써 우리는 그가 상상하는 미래를 저지하고 더 긍정적인 방향으로 궤적을 촉발할 수 있는 단서를 찾을 수 있을 것입니다.

 

지능과 의식의 결합 해제

 

하라리는 진보된 AI의 발전과 함께 지능과 의식이 결합 해제(decoupling)되고 있다고 주장합니다. 인공지능의 발전, 더 넓게는 알고리즘 문화의 발전은 의식을 소유하지도 의식에 의존하지도 않는 분석 모드를 제공합니다. 여기까지는 저도 그의 추론에 동의하지만, 여기서부터 그의 분석과 저의 분석은 갈라집니다. 저 역시 인지 계산 매체가 의식을 가지고 있지는 않지만 인지 능력을 갖추고 있다고 주장해 왔지만, 하라리와 저는 인공 인지가 어떤 목적으로 사용될지에 대해 매우 다른 비전을 가지고 있습니다. 저는 정보, 해석, 의미가 순환하는 집단인 **'인지 조립체(cognitive assemblages)'**의 출현을 강조합니다. 반면 하라리는 협력의 시기가 존재하더라도 그것은 매우 짧을 것이며, 곧 은행, 일자리, 군사, 경제, 정치 및 사회 구조를 포함한 거의 모든 인간 활동에서 알고리즘이 인간을 압도하고 지배하게 될 것이라고 가정하는 경향이 있습니다.

 

그는 이러한 결과로 인해 인본주의(humanism)의 토대가 근본적으로 약화될 것이라고 예측합니다. 인간의 행동이 데이터베이스로 통합되고 알고리즘을 통해 분석될 수 있기 때문에, 개인은 더 이상 고유한 특성을 가진 존재로 간주되지 않을 것입니다. 더 정교한 알고리즘을 만드는 일을 포함하여 점점 더 많은 일자리가 자동화됨에 따라 인간은 경제적 가치를 잃게 될 것입니다. 또한 알고리즘 분석을 통한 행동 조작에 쉽게 휘둘리게 되므로 정치적 가치도 상실할 것입니다. 인간은 세상에 의미를 부여하는 경험을 할 능력조차 잃게 될 것인데, 그 경험조차 알고리즘적 개입에 의해 시작되고 조작될 수 있기 때문입니다. 불신받는 인본주의를 대신하여 새로운 신념 구조, 특히 **데이터교(dataism)**가 부상할 것이라고 그는 예측합니다. 데이터교는 데이터의 흐름이 가장 중요하다는 믿음이며, 인과적 추론, 인간의 통찰력과 직관을 대체하고 결국에는 거의 모든 인간 자신을 대체하게 될 것입니다. 예외는 유전자 편집 및 기타 기술을 통해 증강되어 새로운 글로벌 엘리트가 된 '슈퍼휴먼', 즉 가장 중요하고 강력한 알고리즘을 소유하고 통제하는 개인과 기업들뿐일 것입니다.

 

이 비전에는 앞서 이 책의 다른 장에서 논의했던 요소들이 포함되어 있습니다. 알고리즘 정부성(algorithmic governmentality)이 민주주의와 자기 결정권에 가하는 위협, <클라라와 태양>에서 보았던 '직업 없는 미래'와 '향상된' 엘리트, 그리고 인간 삶이 의미를 잃을지도 모른다는 불길한 예감, <나 같은 기계들>에서 보았던 로봇과 인간 사이의 지배권 다툼 등이 그것입니다. 그러나 이 모든 요소가 한꺼번에 존재하거나 반드시 하라리가 상상하는 방식으로 작동하는 것은 아닙니다. 저는 하라리의 핵심 주장을 면밀히 검토하여, 그가 내놓은 전체적인 결론에는 비판적 태도를 유지하면서도 이러한 개별 결과물들이 갖는 의미를 충분히 고려하고자 합니다. 특히 그의 주장을 반박함으로써 디스토피아적 가능성을 인정하면서도 더 긍정적인 미래를 열어젖히는 길을 찾고자 합니다.

 

의식은 (단지) 생물학적 알고리즘인가?

 

하라리 주장의 결정적인 결합점은 인간의 행동 자체가 알고리즘적이라는 것이며, 따라서 생물학적 진화가 만들어낸 것보다 더 효율적이고 빠르며 발전된 인공 알고리즘에 의해 대체될 준비가 되어 있다는 점입니다. 그는 반복적으로 알고리즘이 인간의 행동을 결정한다고 단언합니다. "생명 과학은 현재 모든 포유류와 조류, 그리고 적어도 일부 파충류와 어류가 감각과 감정을 가지고 있다고 주장한다. 하지만 가장 최신 이론들은 감각과 감정이 생화학적 데이터 처리 알고리즘이라고 주장한다"는 식입니다.

 

여기서 먼저 눈에 띄는 것은 구체성의 결여입니다. 구체적인 연구에 대한 언급 없이 "생명 과학"이라고만 하거나, 역시 구체적 근거 없이 "가장 최신 이론들"이라는 수식어를 사용합니다. 물론 1970년대와 80년대에는 추상적인 정신 토큰을 조작함으로써 인간의 사고가 근본적으로 계산적이라고 주장하는 이론들이 지배적이었습니다. 제리 포더(Jerry Fodor, 1983)가 제안한 이론들이 그 예인데, 그는 '멘탈리즈(Mentalese)'라는 토큰을 사용하는 고전적 계산 마음 이론과 마음의 표상 이론을 결합했습니다. 좀 더 최근에는 계산 신경과학 분야에서 생물학적으로 실제적인 인공 신경망을 통해 계산이 이루어질 수 있다고 제안합니다. 여기서 제럴드 에델만의 연구가 관련이 있는데, 특히 인공 신경망 모델링을 통해 '신경 다윈주의'를 입증한 연구와, 앞서 언급했듯이 생물학적 뉴런 그룹 간의 재귀적 재진입이 의식의 기초를 제공한다고 주장한 줄리오 토노니와의 협업이 그것입니다.

 

하라리가 인용한 이러한 몇 안 되는 참고 문헌들은 인지 과학, 신경 과학, 인지 신경 심리학, 신경 철학 등 방대한 다학제적 연구 분야에서 선택된 것들입니다. 이 방대한 영역 내에서는 수많은 이론이 부상했으며, 그들의 전제, 경험적 근거(혹은 그 결여), 그리고 결과에 대해 많은 논쟁이 벌어지고 있습니다. 따라서 이들을 차별화하지 않고 하나로 묶는 것은 극도로 의심스러운 일입니다. 더욱이 체화된 인지(embodied cognition) 이론과 접지된 인지(grounded cognition) 이론은 계산주의 이론에 전면적으로 반대합니다. 이들은 계산에 필요한 비모달(amodal) 상징들이 실제 생물학적 뇌에서 발견된 적이 없으며, 마음은 지각, 기억, 복잡한 사고에 필수적인 시뮬레이션을 위해 체화된 경험을 사용한다는 더 나은 모델을 제시합니다. 또한 2004년 자코모 리졸라티(Giacomo Rizzolatti)와 라일라 크라이게로(Laila Craighero)가 발견한 포유류 뇌의 거울 뉴런은 이러한 체화된 모델에 추가적인 근거를 제공하며, 특히 타인의 고통과 고난의 징후를 마주할 때 공감적 연결을 위한 신경학적 토대를 제공합니다.

 

따라서 생물학적 알고리즘에 관한 하라리의 단언은 복잡한 논증을 세우기에는 매우 가냘픈 근거일 뿐이며, 그가 이러한 책략을 통해 무엇을 얻으려 하는지 묻는 것이 타당합니다. 그는 "알고리즘은 아마도 우리 세상에서 단 하나의 가장 중요한 개념일 것"이라고 제안하며 독자들을 위해 그것을 정의합니다. "알고리즘은 계산을 하고, 문제를 해결하고, 결정을 내리는 데 사용될 수 있는 감리된(methodical) 단계들의 집합"이라며, 두 숫자를 더하거나 요리법의 단계를 따르는 것을 예로 듭니다. 여기서 함의하는 바는 알고리즘이 명시된 결과를 내기 위해 기계적으로 따를 수 있는 단순하고 선형적인 지시 사항들의 집합이라는 점입니다. 그가 인간의 감정을 예로 들어, 그것이 미래의 짝이 적합한지 계산하기 위해 진화한 **'생물학적 알고리즘'**이라고 부를 때, 그 효과는 인간의 감정(그리고 그와 함께하는 느낌과 경험)을 기계가 더 낫고, 빠르고, 정확하게 해낼 수 있는 비의식적인 계산으로 전락시키는 것입니다. 이는 인본주의가 계산 알고리즘에 의해 약화되었으며, 기계로부터 더 저렴하고 안정적으로 얻을 수 없는 특별한 것을 인간의 사고가 제공할 수 없다는 그의 더 큰 주장을 뒷받침하기 위한 설정입니다.

 

이러한 함의는 의식에 관한 하라리의 논증에서 나타나는 기묘한 결함을 설명해 줍니다. 그는 의식이 없어도 성취할 수 있는 것들에 의식이 무엇을 더해주는가라고 묻습니다. 그의 대답은 '별로 없다'는 것으로 보입니다. 이 섹션에서 그는 오직 두 명의 과학자만을 실명으로 언급하며, 두 사람 모두 의식과 인간의 감정이 생물학적 알고리즘이라는 아이디어를 지지한다고 주장합니다. 한 명은 다니엘 데닛(Daniel Dennett)이며, 특히 그의 의식 이론입니다. 하라리는 데닛이 의식이 뇌의 메커니즘이 만들어낸 환상이라고 주장한다고 단언하지만, 이는 데닛이 자신의 '다중 초안(multiple-drafts)' 모델에서 실제로 주장하는 것보다 훨씬 넓게 잡은 것입니다. 데닛은 오히려 의식 있는 마음이 표상을 무대 위에 올리는 '데카르트 극장'이라는 아이디어를 타파하려 합니다. 그는 서로 다른 시간에 서로 다른 뉴런 프로세스가 주도권을 잡는다고 제안합니다. 예를 들어 어떤 프로세스가 발화를 유도하는지는 그것이 초안으로 편집될 만큼 충분한 입력을 가졌는지에 달려 있으며, 초안 자체는 상향식 방식으로 정보를 전달하는 시공간적으로 진화하는 자기 조직화 네트워크의 일부입니다. 따라서 의식은 단일한 화자가 아니라 여러 에이전트가 동시에 상호작용한 결과로 나타납니다. 각 에이전트는 의식의 구성 요소로 간주될 수 있으므로, 환상적인 측면은 의식 그 자체라기보다는 그것이 단일하고 진정한 자아의 발현이라는 인상입니다.

 

하라리가 언급한 다른 과학자는 스타니슬라스 드엔(Stanislas Dehaene)과 그의 '전역 작업 공간(global workspace)' 모델입니다. 여기서도 하라리는 드엔이 의식이 아예 존재하지 않거나 효력이 없다고 믿는다고 주장하며 그의 입장을 잘못 전달합니다. 하지만 드엔의 연구를 조금이라도 안다면, 그의 설명에서 의식이 실제로 목적을 가지고 있음을 알 수 있습니다. 뉴런 프로세스가 전역 작업 공간을 '점화(ignite)'하여 의식화될 만큼 충분한 강도에 도달하면, 그 정보는 여러 뇌 센터에서 이용 가능해지며 무기한 순환하면서 다양한 분석 모드와 연결에 사용될 수 있습니다. 이 관점에서 의식은 주어진 자극에 주의를 기울이고 그 주의를 오랫동안 유지할 수 있게 해주는 경험입니다.

 

최근 마이클 그라지아노(Michael Graziano)와 동료들은 서로 경쟁자로 치부되던 다양한 의식 이론들(전역 작업 공간, 고차 사고 이론, 환상주의 이론 등)이 사실 **'표준 의식 모델'**로 통합될 수 있다고 제안했습니다. 그들은 뇌가 세상을 처리하는 지능(i-consciousness)과, 철학자들이 말하는 '감질(qualia)', 즉 무언가가 어떤 느낌인지 아는 주관적 경험(m-consciousness, m은 신비[mysterious]의 약자)이라는 두 가지 종류의 의식이 있다고 주장합니다. 뇌는 "세상과 자기 자신에 대한 단순화된 모델을 구축한다"고 그들은 씁니다. "우리가 [신비한 여분의 정수]를 가지고 있다고 생각하는 이유는 뇌가 구축한 자기 묘사 모델 때문이다. i-의식은 뇌가 실제로 가진 것이고, m-의식은 뇌가 자신이 가지고 있다고 생각하는 것이다"라는 것입니다.

 

그들은 의식을 만드는 근본적인 기능이 **주의(attention)**라고 제안하는데, 이는 "뇌의 창발적인 계산적 속성"이며 경험적 탐지가 가능한 물리적 과정입니다. 인식(awareness)은 그 과정에 대한 뇌의 모델이며 "인식하는 '나'를 암시"합니다. 비록 주의와 인식이 밀접하게 추적되지만, 실험 조건하에서는 각각의 특수성을 가진 별개의 능력임을 보여줄 수 있습니다. 인식이 구축하는 모델은 단순화된 1차 근사치입니다. 이들은 속도와 단순함이라는 장점을 가집니다. "마음에 대한 우리의 본질적인 모델은 활발하고 주의 깊은 뇌의 작동 방식을 만화처럼 단순화한 버전(cartoonish version)이다"라는 것입니다. 진화가 더 복잡하고 (아마도 더 정확한) 모델 제작을 선호할 이유는 거의 없는데, 단순화된 버전으로도 대개 충분하기 때문입니다. 이 모델들은 주의를 통제하고 유도하는 데 도움이 되며, 이는 호모 사피엔스가 다른 종보다 훨씬 더 광범위하게 가진 능력입니다. 더욱이 이들은 타인이 무엇을 생각하고 어떻게 행동할지 예측하는 데 사용되므로 필수적인 기능을 수행합니다. "우리는 의식을 부여하는 데 있어 아주 예민한 트리거를 가지고 있는데, 그것이 사회적으로 너무나 유용해서 부족하게 사용하는 것보다 차라리 실수로 과하게 사용하는 것이 더 낫기 때문이다"라고 그들은 씁니다. 드엔과 데닛 모두 그라지아노 팀의 논문에 응답하며 그 주장의 가치를 인정했습니다.

 

이러한 최근 연구들을 장황하게 인용한 이유는 제안된 모델들이 하라리가 "생물학적 알고리즘"이라는 문구로 암시한 것보다 훨씬 복잡하다는 점을 보여주기 위해서입니다. 특히 알고리즘이 무엇이고 어떻게 작동하는지에 대한 그의 단순화된(감히 말하자면 만화 같은) 예시들에 비추어 볼 때 더욱 그렇습니다. 그라지아노와 동료들은 의식이 사회적 결속력과 타인의 행동을 예측하는 능력을 포함하여 분명한 목적을 가지고 있다고 명시적으로 말합니다. 이 두 가지 능력은 하라리가 호모 사피엔스의 독특한 자질이라고 주장하는 '낯선 이들과의 유연한 협력 능력'에 결정적입니다. 더욱이 의식은 하라리가 집단 협력에 있어 중요하게 강조하는 또 다른 공헌인 **'허구를 만들고 믿는 능력'**에도 핵심적입니다.

 

하라리가 의식의 이러한 능력을 포착하지 못했다는 점은 이상합니다. 그는 허구에 대한 믿음이 어떻게 세계 역사를 형성해 왔는지를 설명하는 데 상당한 공을 들였기 때문입니다. 저는 이러한 명백한 함의가 억제된(의식적이든 무의식적이든) 이유가, 그것이 그가 더 중요하다고 생각하는 지점, 즉 지능과 의식의 결합 해제라는 주장을 훼손할 수 있기 때문이라고 생각합니다. 만약 의식이 분명한 목적을 가지고 있다면, 생물학적 알고리즘이 (의식이 없는) 기술적 알고리즘에 필연적으로 밀려날 것이라는 주장은 그의 책에서보다 훨씬 더 신중하게 검토되어야 할 것입니다.

 

지능과 의식 결합 해제의 함의

 

하라리가 결합 해제의 매개변수를 '지능'이라고 부른 것은 당연한 선택입니다. 가장 진보된 알고리즘들이 대개 '인공지능'이라고 불리기 때문입니다. 하지만 이러한 어휘 선택은 경기장을 고지능 쪽으로, 구체적으로는 인간의 지능 쪽으로 기울게 만듭니다. 이러한 의미론적 선택은 여러 가지 파생적 결과를 낳습니다. 첫째, 그것은 "지능적"이라고 불릴 자격은 없을지 몰라도 분명히 인지적인 광범위한 알고리즘들을 무시하게 만듭니다. 이는 하라리가 호모 사피엔스의 특징으로 꼽는 협력 네트워크가 현대 사회에서 인지 매체(예를 들어 웹)와 완전히 얽혀서 그 범위, 기간, 유연성을 확장하고 있다는 점을 간과하게 만듭니다. 은행 프로토콜부터 군사 통신에 이르기까지 수많은 방식으로 인지 매체는 인간의 통신 네트워크를 가능하게 하고 정교하게 만듭니다. 이는 인지 조립체가 선진국의 현대 인프라에서 필수적인 구성 요소가 되었다는 다른 표현이기도 합니다. 이러한 공생 관계가 이미 얼마나 멀리 확장되었는지를 주목한다면, "지능적" 알고리즘이 인간 사회를 장악하여 인간을 무용지물로 만들고 삶의 의미를 앗아갈 것이라는 그의 예언은 누그러지거나 무색해질 것입니다.

 

또한 '지능'에 초점을 맞추는 것은, 인간만이 가장 "지능적"인 종이며 의미를 창조할 수 있는 유일한 존재라는 인본주의의 핵심 교리를 재고할 기회를 차단합니다. 대신 더 넓고 다양한 인지 능력의 스펙트럼에 초점을 맞추면 비인간 종들에 대해 훨씬 더 관대하고 포용적인 견해를 가질 수 있습니다. 실제로 저의 입장은 이제 충분히 분명합니다. 모든 생물학적 생명체는 인지 능력을 가지고 있으며, 여기에는 E. 콜라이 박테리아나 거미 고사리처럼 뇌가 없는 유기체도 포함됩니다. 또한 의미 창출을 환경 자극에 대한 반응, 즉 유기체와 그 환경에 의미 있는 행위로 이해할 수 있게 해줍니다. 이는 다시 한번 박테리아, 효모, 바이러스 및 인간 미생물군의 다른 미세 유기체뿐만 아니라 인간의 삶과 번영에 필수적인 곤충 및 다른 생명체들과의 관계 속에서 인간에 대한 매우 다른 관점을 열어줍니다.

 

인간은 알고리즘이 갖지 못한 능력을 가지고 있는가?

 

인간과 인지 매체의 물질적 구현(embodiment) 사이의 차이는 심대합니다. 인간은 장기, 내장, 근육, 뼈, 피부, 그리고 중추 및 말초 신경계가 참여하며, 시냅스와 세포 조직의 모든 수준에서 화학적 및 전기적 신호가 지속적으로 발생하는 복잡한 상호작용 시스템을 가지고 있습니다. 이에 비해 가장 정교한 인공지능 시스템조차도 단순화된 구조에 불과합니다. 가장 두드러진 차이 중 하나는 인간이 경험하는 감정인데, 이는 내분비계, 뇌 시스템 및 다른 장기들 사이의 복잡한 피드백 루프에 의해 매개됩니다. '감성 컴퓨팅' 분야에서 눈을 크게 뜨거나 열중하는 모습 등 감정의 기표들을 구현하려고 시도하지만, 이는 인간 상호작용자들의 편의를 위한 겉모습일 뿐 기계의 내부 작동 방식에는 상응하는 구성 요소가 없습니다.

 

더욱이 인간은 복잡하고 예측 불가능한 3차원 환경에서 움직이고 행동하므로, 거의 모든 인공 시스템이 가진 것보다 훨씬 넓은 인지 지평을 가집니다. 사람들이 성숙해감에 따라 이러한 경험들은 무엇이 정상이고 아닌지, 무엇이 예상대로 진행되고 무엇이 궤도를 벗어났는지에 대해 고도로 미묘한 기대를 갖게 합니다. 보스턴 다이내믹스(Boston Dynamics)가 개발한 정교한(그리고 그 자체로 놀라운) 이동 로봇들, 예를 들어 상자를 쌓는 로봇들도 여전히 몇 가지 매개변수만이 변하는 예측 가능한 환경에서 작동합니다.

 

이러한 모든 사실을 고려할 때, 당연히 인간은 인공 시스템이 갖지 못한 능력을 갖추고 있습니다. 하라리도 때로는 이를 인정하는 듯 보이지만, 곧 논점을 바꾸어 다른 주장을 펼칩니다. "내가 반복해서 강조했듯이, AI는 인간과 같은 존재에 근접조차 못 했다. 하지만 인간의 자질과 능력의 99%는 대부분의 현대적 직업을 수행하는 데 있어 불필요하다. AI가 우리를 노동 시장에서 몰아내기 위해 필요한 것은 오직 특정 직업이 요구하는 구체적인 능력에서 우리를 능가하는 것뿐이다"라고 말입니다. 이 구절에서 그의 논증은 일반적인 능력에 관한 것이 아니라, 로봇이나 알고리즘이 인간만큼 혹은 그보다 더 잘할 수 있는 특정 직업들에 국한됩니다.알고리즘이 현재 인간이 하는 일자리의 상당 부분 혹은 과반수를 차지하게 될 '직업 없는 미래'에 대한 그의 지적은 타당합니다. 이미 2015년에 마틴 포드(Martin Ford)는 반복적인 서비스 직종뿐만 아니라 금융 저널리즘, 소설 집필, 투자 관리 등 많은 화이트칼라 직종도 자동화될 위험에 처해 있음을 보여주는 유사한 논증을 펼쳤습니다. 이러한 추세는 앞으로도 지속되고 가속화될 가능성이 높으며, 인간의 복지와 목적의식에 미칠 영향에 대해 진지한 토론과 고려가 필요합니다.

 

그러나 위에서 인용한 것처럼 알고리즘이 인간을 대체할 수 있는 범위를 제한적으로 설정하는 절제된 논증 방식은, 종종 훨씬 더 넓고 결함이 있는 단언들로 이어집니다. 그 사례는 다음과 같습니다. "인간이 항상 비의식적인 알고리즘이 도달할 수 없는 독특한 능력을 가지고 있을 것이라는 생각은 단지 희망 사항일 뿐이다. 현재의 과학적 사고는 세 가지 단순한 원칙에 의존한다. 1. 유기체는 알고리즘이다 .... 2. 알고리즘적 계산은 계산기가 만들어진 재료에 영향을 받지 않는다 .... 3. 따라서 유기적 알고리즘이 할 수 있는 일을 비유기적 알고리즘이 결코 복제하거나 능가하지 못할 것이라고 생각할 이유는 없다." 앞서 논의했듯이, "현재의 과학적 사고"가 유기체를 알고리즘으로 간주한다고 말하는 것은 옳지 않습니다. 여기서 우리는 그가 사용하는 '알고리즘'이라는 단어가 실제 일어나는 일을 가리키기보다는 모호한 총괄적 용어로 사용되어 사실을 왜곡하고 있음을 알 수 있습니다. 만약 '알고리즘'이 단지 무언가가 프로세스에 의해 일어난다는 뜻이라면, 모든 생물학적 유기체가 프로세스에 의해 구성되므로 유기체가 알고리즘이라고 말하는 것은 동어반복에 불과합니다. 하지만 이 용어의 함의는 그보다 훨씬 나아가, 기계적 수단으로 쉽게 복제될 수 있는 단순하고 기계적인 작동을 암시합니다. 이 경우 호모 사피엔스처럼 뇌와 신체 프로세스, 언어 관행, 사회 구조, 그리고 기술적 발명이 깊게 얽혀 있고 상호작용하는 존재를 알고리즘이라고 부르는 것은 매우 오도된 표현입니다.

 

알고리즘 계산이 물질적 기반과 독립적이라는 하라리의 두 번째 주장 역시 심각한 결함이 있습니다. 물론 주판으로 하는 덧셈이 전자 계산기로 하는 덧셈과 같은 결과를 낸다는 점은 사실입니다. 하지만 타인이 들어 올리는 물체의 무게를 가늠하는 것과 같은 더 복잡한 프로세스의 경우, 인간이 하는 방식은 계산기가 하는 방식과 전혀 다릅니다. 인간에게 그 가늠은 유사한 물체를 들어 올렸던 신체 및 근육의 기억, 이러한 기억을 사용하여 시뮬레이션을 실행하는 비의식적인 프로세스, 그리고 다른 수많은 의식적 및 비의식적 능력을 포함합니다. 만약 '알고리즘'이 단순히 '프로세스'를 의미한다면, 네, 그 가늠 역시 프로세스/알고리즘에 의해 이루어집니다. 하지만 중요한 점은 이들이 계산기가 따르는 프로세스와는 질적으로 다르다는 것입니다. 따라서 단순한 가감승제를 넘어서는 더 복잡한 문제에 대해서는 그 답이 일치하리라는 보장이 없습니다.

 

하라리는 '계산'이라는 용어를 사용함으로써 이러한 불일치를 얼버무리려 하는데, 이는 산술 연산의 확실성을 암시하기 때문입니다. 하지만 세 번째 지점에서 그가 유기적 알고리즘이 할 수 있는 일을 비유기적 알고리즘이 하지 못할 것이라고 생각하는 것은 실수라고 결론지을 때, 그 언어는 인간이 할 수 있는 모든 일을 비유기적 알고리즘이 대등하거나 더 낫게 할 수 있다는 주장으로 슬쩍 넘어갑니다. 이는 그의 논증으로는 보장되지 않는 결론입니다. 체화된 행위의 물질적 기반은 분명히 중요하며, 인지 기계와 인간 사이의 심대하게 다른 물질적 구현은 온갖 종류의 방식에서 차이를 만듭니다. 그중 가장 중요한 것은 감정, 자기 인식, 그리고 주관적 경험을 할 수 있는 능력입니다.

 

다른 지점에서 하라리는 알고리즘에 주관적 경험이 결여되어 있다는 사실을 인정하는 듯 보이지만, 그 효과는 이러한 결핍이 알고리즘의 효과성을 저해하지 않는 중요하지 않은 기능인 것처럼 시사하는 것입니다. "이제 로봇과 컴퓨터가 인간을 따라잡고 있으며 곧 대부분의 과업에서 인간을 능가할 것이다. 특히 컴퓨터가 의식을 얻고 감정과 감각을 경험하기 시작할 조짐은 보이지 않는다." 하지만 그러한 결핍이 "대부분의 과업"에서 컴퓨터가 인간을 능가하는 데 별다른 지장을 주지 않는 것처럼 보입니다. 감정과 주관적 경험이 정말로 결정적으로 중요한 두 가지 사례를 꼽자면, 우리는 사회적 목표와 사회적 결속을 위해 수행되는 일을 고려할 수 있습니다. 알고리즘이 정보를 효과적으로 처리할 수 있을지는 몰라도, 그 목표와 목적은 인간 설계자에 의해 정의되며, 이는 다시 감정과 경험이 중요하고 종종 핵심적인 역할을 하는 복잡한 고려 사항들을 통해 형성됩니다. 사회적 결속은 하라리 스스로도 주장했듯이 사람들의 삶에 목적과 의미를 부여하는 허구와 이야기에 결정적으로 의존합니다. 하지만 허구가 인간의 행동을 형성하는 데 효과적인 이유는 그것이 의식 있는 유기체에게 강력한 정서적 반응을 불러일으키기 때문입니다. 의식이 결여된 알고리즘은 단순히 그 핵심(the point)을 이해하지 못할 것입니다. 알고리즘이 인간 파트너와 효과적으로 협력할 수는 있지만(인지 조립체에서 보통 그러하듯), 그들 역시 목표와 목적을 결정하고 다른 이들을 행동으로 이끄는 효과적인 이야기를 들려주는 데 들어가는 인간적 자질에 의존하고 있습니다. 알고리즘은 오직 인간 파트너와의 공생적 상호작용을 통해서만 이러한 능력을 획득할 수 있습니다.

 

자유 의지, 서사적 자아, 그리고 비의식적 인지

 

하라리는 여러 차례 자유 의지란 존재하지 않으며, 프로세스는 결정론적이거나 무작위적일 뿐 "결코 자유롭지 않다"고 말합니다. 저는 다소 다른 이유에서 그의 단언에 동의합니다. 보통 '자유 의지'라고 하면 강압이나 강요 없이 내리는 의식적인 선택을 의미합니다. 하지만 많은 인간의 행동은 비의식적인 프로세스의 영향을 받는데, 이 프로세스는 의식이 인지하기도 전에 이미 근육과 같은 다른 시스템과 상호작용하기 시작합니다. 이는 부분적으로 의식이 데이터를 인식하는 데 상대적으로 긴 시간, 대략 500밀리초(리벳의 그 유명한 '사라진 0.5초')가 걸리는 반면, 비의식적 인지는 200~300밀리초 정도로 훨씬 더 빠르게 정보를 처리하기 때문입니다. 만약 의식이 한 사람의 행동을 결정하는 유일한 주체가 아니라면, 어떤 의미에서 "자유 의지"가 존재할 수 있겠습니까? 더욱이 인지 조립체가 전 세계 업무의 대부분을 맡게 됨에 따라, 인지뿐만 아니라 결정 역시 기술 매체, 인간, 그리고 비인간 사이에 분산됩니다. 이러한 이유에서도 결정의 토대가 되는 수많은 정보가 이미 인지 매체에 의해 해석되고, 처리되고, 전송된 상황에서 "자유 의지"를 주장하는 것은 문제가 있습니다.

 

하라리가 비의식적 의사 결정에 관한 리벳의 실험을 알고 있다는 조짐은 보이지 않지만, 그는 **경험하는 자아(experiencing self)와 서사하는 자아(narrating self)**를 구분하는 다른 연구를 언급합니다. 하라리는 연구자들의 논증을 따라 서사하는 자아가 지속 시간 그 자체를 기록하지 않으며, 결론을 내리기 위해 데이터의 평균과 끝점만을 취한다고 주장합니다. 그(혹은 연구자들)가 "경험하는 자아"를 정확히 무엇으로 정의하는지는 명확하지 않지만, 서사하는 자아가 경험에 대해 결함 있는 버전을 제공한다는 그들의 결론은 수많은 연구 프로그램에 의해 입증되었습니다.

 

저의 견해로는 "경험하는 자아"라고 불릴 수 있는 어떤 프로세스든 저의 저서 <생각하지 않는 것: 비의식적 인지의 힘>(2017)에서 서술했듯이 반드시 비의식적 인지의 상당한 기여를 포함해야 합니다. 하라리의 설명에서 "경험하는 자아"가 자기 인식의 일부인지는 불분명하지만, 그 정보가 서사하는 자아가 만들어내는 이야기에 영향을 미치지 못한다는 점은 그가 강조하는 바입니다. 하라리는 여기서 "자아" 역시 서사적 허구라는 결론을 재빨리 이끌어냅니다. "자아 역시 국가, 신, 돈과 마찬가지로 상상의 이야기임을 알 수 있다. 우리 각자는 대부분의 경험을 버리고, 몇 가지 선택된 샘플만을 유지하며, 그것들을 우리가 본 영화, 읽은 소설, 들은 연설, 맛본 몽상들과 섞어서 '내가 누구인지, 어디서 왔는지, 어디로 가는지'에 대한 그럴듯하고 일관된 이야기를 엮어내는 정교한 시스템을 가지고 있다."

 

하라리의 결론과 저의 결론 사이의 차이점은 경험의 비의식적인 측면과 관련이 있습니다. 비의식적 인지는 의식이 작동하는 데 필수적인 기능들을 수행합니다. 여기에는 신체 도식을 구축하고, 감각 정보의 작은 불일치를 매끄럽게 다듬으며, 의식이 감당할 수 있는 것보다 훨씬 더 시끄럽고 밀도가 높은 정보를 처리하고, 훨씬 빠르게 처리하는 일 등이 포함됩니다. 서사하는 자아(안토니오 다마지오의 '자서전적 자아'와 대략 일치하는)는 허구를 구성할 수 있지만, 의식 아래의 다른 프로세스들은 세상과 신체에서 일어나는 일과 훨씬 더 밀접하게 접촉하고 있습니다. 더욱이 이러한 깨달음은 의식에 영향을 미치는데, 특히 상향식 지원을 받아 전역 작업 공간을 점화할 때 그러합니다. 이들은 전통적으로 통찰력, 직관, 육감 등으로 불려온 프로세스들을 제공하며, 서사하는 자아가 들려주는 이야기를 뚫고 다른 수단을 통해 인식에 도달하곤 합니다.

 

인간의 신체, 기술 매체, 그리고 비인간 생명체에 있는 비의식적 프로세스들을 연결한다면, 하라리가 말한 지능과 의식의 결합 해제에 대해 매우 다른 해석을 내릴 수 있을 것입니다. 이는 최근의 인공지능 발전을 훨씬 넘어서서, 인지 능력이 인간, 기술 매체, 그리고 비인간들 사이에서 공유된다는 깨달음으로 확장됩니다. 이러한 관점에서 볼 때 인지가 의식과 결합한 것은 상대적으로 최근의 진화적 발전이며, 지구 역사의 대부분 동안 인지는 의식 없이도 생물학적 생명체 내에서 번성해 왔습니다. 호모 사피엔스로 등장한 이후 인간은 인공 매체에 인지 프로세스를 실현하는 방법들을 찾아냈습니다. 이제 도전 과제는 물질적 구현(embodiment)의 차이가 이러한 인지 능력이 어떻게 작동하고 환경과 어떻게 협력하여 종 특정적이고, 생존과 번식에 도움이 되며, 특정 생태적 니치에서의 번영을 뒷받침하는 의미를 창출하는지 이해하는 것입니다.

 

인본주의가 무너진다면, 의미도 사라지는가?

 

저는 이미 1999년에 <우리는 어떻게 포스트휴먼이 되었는가>에서 인공지능, 로봇 공학, 가상 현실의 발전이 자유 의지, 합리성, 개별성, 자기 결정권과 같은 인본주의적 가치들을 약화시키고 있다고 제안한 바 있습니다. 그로부터 16년 후 하라리는 특히 자유 의지, 자율적 주체, 본질적 자아라는 개념을 정조준하며 유사한 논증을 펼칩니다. 그는 그 결과가 세속적 인본주의를 무너뜨리는 것이라고 결론짓습니다. "수세기 동안 인본주의는 우리가 의미의 궁극적인 원천이며 우리의 자유 의지가 모든 것의 최고 권위라고 우리를 설득해 왔다." 만약 자유 의지가 존재하지 않는다면 인본주의의 핵심 가치 중 하나는 사라지게 됩니다. 이러한 변화는 이데올로기뿐만 아니라 실제적인 힘에 의해서도 주도됩니다. "자유주의가 성공한 이유는 모든 인간에게 가치를 부여하는 것이 정치적, 경제적, 군사적으로 타당했기 때문이다." 하지만 알고리즘이 일자리를 대체하고, 드론이 대규모 병사를 대신하며, 알고리즘 분석을 통한 프로파간다가 유권자를 뒤흔드는 세상에서 "모든 인간"에게 남아 있는 가치는 무엇일까요? 인간의 경험과 느낌이 가치의 강력한 원천이라는 자유주의적 관념에 대해 하라리는 묻습니다. "고객과 유권자가 결코 자유로운 선택을 하지 않는다는 것을 깨닫고, 인간의 감정을 계산하고 설계하고 앞지를 수 있는 기술을 갖게 된다면 어떤 일이 벌어질까? 온 우주가 인간의 경험에 고정되어 있다면, 인간의 경험이 슈퍼마켓의 다른 품목들과 본질적으로 다를 바 없는 또 하나의 설계 가능한 상품이 되었을 때 어떤 일이 벌어질까?" 그는 그 함의를 분명히 합니다. 만약 우리가 인간에게 자유 의지, 자기 결정권, 그리고 진정한 본질이 있다는 믿음을 멈춘다면 인본주의는 붕괴하고, 새로운 철학이 그 빈자리를 채우게 될 것입니다.

 

알고리즘을 강조하는 하라리가 스케치한 후계 철학은 **데이터교(dataism)**입니다. 이는 데이터가 정보처럼 자유롭게 흐르기를 원하며, 데이터가 많을수록 더 좋다는 믿음입니다. "무엇보다도 데이터교 신봉자는 더 많은 매체에 연결하고 더 많은 정보를 생산하고 소비함으로써 데이터 흐름을 극대화해야 한다. 데이터교는 또한 선교적이다. 그것의 두 번째 계명은 플러그를 꽂고 싶어 하지 않는 이단자들을 포함하여 모든 것을 시스템에 연결하는 것이다." 데이터교는 가치의 심대한 이동을 의미합니다. 가치의 중심을 인간 개인에서 네트워크로 연결된 대중으로 옮깁니다. "경험은 공유되지 않으면 가치가 없다"고 하라리는 씁니다. "우리는 우리 내면에서 의미를 찾을 필요가 없으며 실제로 찾을 수도 없다. 우리는 단지 우리의 경험을 기록하고 거대한 데이터 흐름에 연결하기만 하면 된다. 그러면 알고리즘이 그 의미를 발견하고 우리에게 무엇을 해야 할지 말해줄 것이다." 따라서 "무언가를 경험한다면 그것을 기록하라. 기록한다면 업로드하라. 업로드한다면 공유하라"는 것이 지상 과제가 됩니다.

 

데이터교가 이미 많은 이의 철학이 되었다는 징후를 찾는 것은 어렵지 않습니다. 먹으려는 음식을 사진 찍어 페이스북에 올리는 사람들, 개인적인 습관과 활동 데이터를 강박적으로 수집하고 기록하는 '수치화된 자아(quantified self)' 운동가들, 자신의 모든 삶의 사건을 기록하겠다고 선언하고 <토탈 리콜>이라는 책을 쓴 마이크로소프트 연구원 고든 벨(Gordon Bell), 그리고 온갖 소셜 미디어 사이트에 자신의 데이터를 업로드하며 가치를 느끼는 수백만 명의 사람들이 그 증거입니다.

 

하지만 이러한 활동들이 삶의 사건 자체가 가진 가치 외에 별도의 가치를 부여할 수 있을까요? 그 식사가 중요한 이유는 당신이 그것을 먹고 즐겼기 때문입니까, 아니면 다른 사람들이 당신이 먹으려 한다는(그리고 아마도 즐기려 한다는) 사실을 알기 때문입니까? 하라리는 후자가 지배적인 믿음이 되고 있다고 주장합니다. "우리는 우리 자신과 시스템에 우리가 여전히 가치가 있다는 것을 증명해야 하기 때문이다. 그리고 가치는 경험을 하는 데 있는 것이 아니라, 그 경험을 자유롭게 흐르는 데이터로 바꾸는 데 있다." 삶의 모든 일상 활동을 기록하고 업로드하는 '라이프 로깅(life-logging)' 운동은 하라리의 논증을 보여주는 사례입니다. 하지만 인기를 끌고 있음에도 불구하고, 라이프 로깅 충동은 결국 그 육중한 무게 때문에 무너질 수밖에 없습니다. 만약 라이프 로깅 충동이 절대적이 된다면, 삶 자체가 곧 기록하는 행위가 되어버려 삶을 살아갈 능력을 방해하기 시작할 것입니다. 아이러니하게도 그 기록을 볼 시간조차 없을 것입니다. 기록을 보는 데에도 그것을 실제로 겪는 것만큼의 시간이 걸릴 것이고, 만약 그 보는 장면마저 기록한다면 부하는 무한히 가속될 것이기 때문입니다. 삶의 목적은 알고리즘이 소비할 더 많은 데이터를 생산하는 것으로 축소될 것인데, 기하급수적으로 증가하는 데이터 흐름을 따라갈 수 있는 것은 알고리즘뿐이기 때문입니다.

 

데이터교는 근본적으로 동어반복적이고 자기애적이기 때문에 인본주의를 대체할 적절한 대안이 될 수 없음이 분명해 보입니다. 인간의 삶은 오직 데이터로 변환될 수 있을 때만 중요해지고, 데이터는 왜 그리고 어떤 방식으로 인간의 삶이 중요한지를 결정하는 알고리즘의 먹이가 되기 때문에 중요해집니다. 모두가 "나를 봐!"라고 외치지만, 모두가 외치고 있기 때문에 아무도 실제로 보이지 않습니다.

 

하라리는 질문을 이렇게 던질 것입니다. 자유주의가 붕괴한다면 그 뒤를 이을 철학 후보는 무엇인가? 하지만 제 견해로는 이 질문 자체가 자유주의의 힘을 '전부 아니면 전무'라는 이분법적 선택으로 상정하는 문제를 안고 있습니다. 더 나은 접근 방식은 자유주의의 붕괴를 예고하는 것이 아니라 그 전제들을 재고하는 데 있습니다. 근본적으로 자유주의는 오늘날의 세계에서 실패하고 있는데, 그 비전이 환경 붕괴 직전에 놓인 서로 연결된 글로벌 사회의 도전을 감당하기에는 너무 좁고 인간 중심적이기 때문입니다. 제10장에서 본격적으로 다루겠지만, 저는 인간뿐만 아니라 비인간 생명체의 안녕과 기여, 그리고 인간과 인지 매체 사이의 공생 관계를 고려하는 더 넓고 포용적인 비전이 필요하다고 믿습니다. 리사 로우(Lisa Lowe)가 <4대륙의 친밀함>(2015)에서 지적했듯이, 역사적으로 자유주의는 항상 타인을 착취하여 일부 인간에게만 혜택을 주어 왔습니다. 전면적인 개정은 그 시야를 모든 인간뿐만 아니라 비인간에게까지 넓힐 것입니다. 이는 인간을 자신의 이익을 위해 모든 것과 모든 이를 착취할 수 있는 지구의 지배자로 보는 대신, 생물학적 동료들과 인공 인지자들을 포함한 모든 인지 존재의 안녕을 보장할 책임을 가진 수호자로 보는 시각의 전환을 의미합니다. 소위 '인권' 대신 생태적 균형, 정의, 그리고 어디서 발생하든 인지에 대한 존중이라는 행성적 가치에 집중해야 합니다. 자유 의지와 개인의 신성함 대신, 인지 조립체 속에서 비인간 생명체 및 기술적 존재들과 맺는 공생적 윈-윈 관계를 발전시켜야 합니다. 제가 제안하는 이 확장된 비전의 이름이 바로 **'생태적 관계성(ecological relationality)'**입니다. 그렇다면 이제 질문은 이것입니다. 어떤 허구가 이러한 비전의 변화에 기여하고 그것을 현실로 만드는 데 도움을 줄 수 있을까요?

 

현실을 형성하는 허구

 

하라리가 언급했듯이, 허구(이야기라는 문학적 의미에서)는 거대한 비전을 구체적이고 지역적인 방식으로 표현함으로써 사회적 결속에 기여하므로 필수적입니다. 그는 "의미는 많은 사람이 공통의 이야기 네트워크를 함께 엮을 때 창조된다"고 씁니다. 미래를 실행하기 위해서는 먼저 그것을 상상할 수 있어야 하며, 좋은 이야기는 인간의 상상력을 자극하는 가장 좋은 수단 중 하나입니다. 어떤 의미에서 우리는 하라리의 <호모 데우스>를 하나의 이야기로 볼 수 있습니다. 이는 호모 사피엔스의 진화적 과거에 뿌리를 두고 있으며, 인간이 불멸, 영원한 행복, 그리고 전지전능함을 추구함으로써 포스트휴먼 기술을 촉발하고, 결국 대부분의 인간을 일자리 없이 만들고 단순히 "실업자가 아니라 고용 불가능한" 거대한 **'무용 계급'**을 창출하게 될 것이라고 상상하는 이야기입니다. 더욱이 서구 사회의 발전을 뒷받침해 온 자유주의적 가치들은 붕괴하고, 인간의 경험은 기록되고 업로드되고 공유되어 어디에나 존재하는 알고리즘의 분석 대상이 될 때만 가치 있는 것으로 간주되는 데이터교가 그 자리를 대신하게 될 것입니다. 알고리즘이 사실상의 지배 계급이자 의미의 궁극적인 보증인이 되는 것입니다.

 

이러한 디스토피아적 예측의 무게를 고려할 때, 하라리가 어떤 목적으로 이 이야기를 만들었는지 물을 수 있습니다. 한 가지 가능성은 그것을 우리의 가능성 높은 미래에 대한 그의 견해로 액면 그대로 받아들이는 것입니다. 이 경우 그는 이 미래를 실현하는 데 도움을 준 책임을 져야 한다고 정당하게 말할 수 있는데, 왜냐하면 그 타당성을 주장함으로써 사실상 그것이 일어날 확률을 높이고 있기 때문입니다. 마치 이러한 비난을 방어하려는 듯, 책이 끝나갈 무렵 저자는 여러 차례 자신의 주장을 예언이 아닌 도발로 위치시키려 노력합니다. 의미심장한 구절에서 그는 이렇게 씁니다. "AI와 바이오테크의 부상은 분명 세상을 변화시키겠지만, 그것이 단일한 결정론적 결과를 강제하는 것은 아니다. 이 책에 기술된 모든 시나리오는 예언이라기보다 가능성으로 이해되어야 한다. 만약 당신이 이러한 가능성 중 일부가 마음에 들지 않는다면, 그러한 특정 가능성이 실현되는 것을 막기 위해 새로운 방식으로 생각하고 행동하는 것을 환영한다."

 

하지만 상황은 단지 독자들에게 각자의 반대 상상력과 이야기를 개발하라는 도전장을 던지는 것만큼 단순하거나 순수하지 않습니다. "유기체는 알고리즘이라고 결론지은 것은 생명 과학이다"라고 그는 씁니다. "하지만 일단 생물학자들이 유기체는 알고리즘이라고 결론짓자, 그들은 유기물과 무기물 사이의 장벽을 허물었고, 컴퓨터 혁명을 단순한 기계적 사건에서 생물학적 대재앙으로 바꾸었으며, 권위를 개별 인간에서 네트워크로 연결된 알고리즘으로 옮겨놓았다." 하지만 보았듯이, 역사가로서 하라리는 타인의 생각을 수동적으로 기록하는 관찰자만은 아닙니다. 그가 가끔 그러한 이미지를 떠올리기를 좋아하더라도 말입니다. 오히려 그는 여러 결정적인 방식에서 저울에 손을 얹어, 결과가 "생명 과학"의 미묘한 논증에서 벗어나 인간-알고리즘의 유사성을 강조하고 인간과 인지 매체 사이의 상이한 물질적 구현의 중요성을 깎아내리도록 유도했습니다. <호모 데우스>는 결국 그의 이야기이며, 그는 그 효과에 대해 마땅히 책임을 져야 합니다.

 

아마도 그래서인지, 책이 끝나기 다섯 페이지 전에서 하라리는 자신이 이미 했던 모든 말을 부정하는 듯 보입니다. 이는 책임을 다른 누군가에게 전가하려는 시도 외에는 다른 것으로 생각하기 어렵습니다. "현재로서는 데이터 흐름이 어떻게 혹은 왜 의식과 주관적 경험을 만들어낼 수 있는지 전혀 알지 못한다. 아마도 20년 후에는 좋은 설명을 갖게 될 것이다. 하지만 어쩌면 유기체가 전혀 알고리즘이 아니라는 사실을 발견하게 될지도 모른다"고 말입니다. 이 폭탄 같은 발언 이후 그는 이렇게 이어갑니다. "이 책은 우리의 현재 조건의 기원을 추적하여 그 움켜짐을 늦추고 우리가 다르게 행동하고 우리의 미래에 대해 훨씬 더 상상력 풍부한 방식으로 생각할 수 있게 하기 위한 것이다. 단일한 확정적 시나리오를 예측하여 우리의 지평을 좁히는 대신, 이 책은 우리의 지평을 넓히고 우리로 하여금 훨씬 더 넓은 스펙트럼의 옵션들을 인식하게 하는 것을 목표로 한다." 만약 우리가 이 책을 그가 스스로 선언한 목표에 따라 판단한다면, 저는 이 책이 목적 달성에 실패했다고 생각합니다. 실제로 그 효과는 정반대였는데, 인간 삶의 가치를 급격히 떨어뜨리고 대중의 삶을 현재보다 훨씬 덜 의미 있게 만들 디스토피아적 추세들의 수렴을 가리켰기 때문입니다.

 

이 책이 던지는 도전은, 제 견해로는 그 탈출구 없어 보이는 결론들이 타파되어 새로운 나아갈 길이 드러날 수 있는 지점들을 찾는 데 있으며, 이 과업에서 하라리는 거의 도움을 주지 않습니다. 그는 무엇을 피해야 하는지는 생생하게 보여주지만, 어떻게 다른 결과를 얻을 수 있는지에 대해서는 전혀 도움을 주지 않습니다. 그러기 위해 우리는 읽어야 할 새로운 허구, 들려줘야 할 다른 이야기, 그리고 우리를 서로에게 그리고 우리의 전 지구적 문제에 연결해 줄 참신한 매개 메커니즘이 필요합니다.

 

집단 지성의 이야기 상상하기: 우발성과 창의성

 

컴퓨터가 X를 할 수 없다는 예측(X = 이야기하기, 그림 그리기, 대화하기... )은 대개 빗나가곤 합니다. 그 X 중 하나가 "진정으로 창의적일 것"입니다. 흔히 모호하게 정의되는 이 형용사는 반대자들이 "좋아, 하지만 그건 진짜 창의적인 건 아니야"라고 말할 수 있게 해주는 일종의 안전장치와 같습니다. 제 견해로는 컴퓨터가 창의적인 작품을 생산할 수 있고 이미 생산해 왔다는 점은 의문의 여지가 없으며, 특히 신경망의 등장과 함께 더욱 그러합니다(GPT-4와 다른 LLM들의 창의성에 대한 7장의 논의를 참조하십시오). DALL-E가 만드는 시각적 구성물, 챗GPT가 들려주는 이야기, GPT-4가 작성하는 컴퓨터 코드가 그 증거입니다.

 

하지만 인간이 탁월하며, 제가 아는 한 컴퓨터의 파악 범위를 벗어나는 특별한 종류의 창의성이 있습니다. 바로 우발성(contingency)과 우연한 사건을 활용하여 새로운 것을 만들어내는 창의성입니다. 잭슨 폴락은 캔버스 위에 실수로 물감을 쏟았고 거기서 새로운 추상적 스타일의 기회를 보았습니다. 조각가의 칼이 미끄러졌을 때 조각가는 갑자기 이전에는 보지 못했던 다른 독특한 형태를 구상합니다. 도예가의 손이 흙을 찢었을 때 이전에 본 적 없는 비대칭적인 항아리가 탄생합니다. 아덴 이븐스(Aden Evens, 2024)는 그의 저서 <디지털의 불만>에서 인간 창의성에서의 우발성의 역할을 전면적으로 내세웁니다. 이븐스는 디지털 시뮬레이션과 실제 세계 사이의 시스템적 차이가 후자의 '그물망(mesh)' 속성, 즉 가장 현실적인 디지털 시뮬레이션에도 결여된, 실제 세계에 우발성, 상호작용성, 역동성을 부여하는 수많은 구성 요소 사이의 미묘하고 복잡한 상호작용이라고 지적합니다. 그는 디지털 시뮬레이션에는 프로그래머가 넣은 속성 외에는 아무것도 존재하지 않는 반면, 실제 세계에는 너무 미묘해서 알려지지는 않았지만 실제 세계의 행동과 반응 방식에 영향을 미치는 온갖 종류의 상호작용이 존재한다는 점을 정확히 관찰합니다. 그는 디지털의 이러한 비우발적 측면을 그 "규칙성(ruliness)", 즉 모든 디지털 계산을 지배하는 규칙에 대한 복종이라고 부릅니다.

 

게다가 이븐스는 예를 들어 사과에 대한 디지털 시뮬레이션에서 사용자가 관찰할 수 있는 모든 속성(색상, 모양, 광택 등)은 독립적으로 프로그래밍되어 있다는 점을 지적합니다. 이 속성들 중 어느 하나라도 디지털 코드 내에서 독립적인 실체로 존재하기 때문에 다른 속성에 영향을 주지 않고 임의로 변경할 수 있습니다. 반면 실제 세계에서는 유기체의 생리와 환경 및 다른 유기체와의 관계 사이에 깊은 상호 연결이 존재합니다. 이전에는 날지 못했던 도마뱀에게 갑자기 날개를 달아주면서 도마뱀의 내부 장기, 환경과의 관계, 그리고 주요 먹이인 파리와의 관계에 동시에 영향을 주지 않을 수는 없습니다. 이 모든 것이 수많은 상호 관계와 상호 연결을 통해 함께 진화했기 때문입니다. 하지만 디지털 도마뱀은 날개를 돋아나게 하고도 아무 문제 없이 지낼 수 있는데, 그 변화를 수행하는 코드 비트들이 시뮬레이션을 생성하는 다른 코드들과 아무런 통합적 연결이 없기 때문입니다.

 

인간은 실제 세계에서 진화했기 때문에, 환경에 대한 우리의 몰입과 다른 종들과의 관계는 항상 이러한 조밀한 상호 연결을 가지고 있었습니다. 이는 우리로 하여금 예상치 못한 사태와 우발적인 상황에 잘 대처할 수 있게 해주었습니다. 따라서 인간은 사고를 기회로 볼 수 있는 능력을 갖춘 반면 디지털 인지자들은 이 점에 있어서는 그리 잘 준비되어 있지 않습니다. 실제로 인간의 창의성이 활용할 수 있는 우발성의 한 영역은 LLM이 예상치 못한 방향으로 선회하거나 서술하는 경향입니다. 신경망의 관점에서 이러한 생산물들은 생성의 확률적 성격으로 인한 결과입니다. 규범적인 것이 예상되고 일반적인 것이라면, 고도로 특이하거나 심지어 독특한 무언가가 나올 확률은 0이 아닙니다. 인간의 눈과 귀는 이것들을 있는 그대로 포착하여 창의적인 새로움을 위한 기회로 변환할 수 있습니다.

 

더욱이 인간이 발휘하는 창의성과 신경망의 창의성 사이에는 양적인 차이뿐만 아니라 질적인 차이가 존재합니다. 지식을 두 가지 일반적인 범주로 나눌 수 있다고 가설을 세워봅시다. 하나는 빛의 속도를 아는 것과 같은 **'명시적 지식'**입니다. 그다음 바네바 부시(Vannevar Bush, 1945)가 초기 하이퍼텍스트 생성기인 '메멕스(Memex)' 기계를 구상한 선구적인 논문에서 예시한 지식이 있습니다. 이 두 번째 종류의 지식을 이전에는 연결되지 않았던 두 가지 이상의 사물을 연결함으로써 생성되는 **'잠재적 지식'**이라고 부릅시다.

 

이 모델에서 우리는 명시적 지식으로 구성된 엄청난 양의 데이터가 위치한 공간(혹은 하이퍼스페이스)을 상상할 수 있습니다. 이를 **'가능성의 공간(space of possibilities)'**이라고 부릅시다. 가능성의 공간 내에서 연결을 만드는 것은 그 안에 잠재되어 있던 지식을 드러낼 수 있습니다. 이것이 대규모 언어 모델 혹은 신경망 전반에서 가능한 지식의 대략적인 버전입니다. GPT-3는 언어로 표현할 수 있는 모든 종류의 지식에 대해 수십억 개의 언어 데이터를 가지고 있으며, 트랜스포머 아키텍처는 이들 사이에 연결을 만들어 데이터 세트에 명시적으로 들어 있지 않은 잠재적 지식을 발견할 수 있게 해줍니다(신경망의 내부 뉴런들이 위치한, 직접 접근할 수 없는 공간을 신경망의 '잠재 공간'이라고 부르는 것에 주목하십시오). 이것이 바로 챗GPT가 명령에 따라 문학 장르를 식별하고 이를 시뮬레이션할 줄 아는 방식입니다. 아무도 이것을 명시적으로 가르치지 않았지만, 그것은 수많은 데이터 포인트 사이의 상관관계를 만들고 이러한 연결에 대해 추론을 이끌어냄으로써 이 지식을 얻었습니다. 이러한 능력은 단백질 폴딩을 이해하는 것부터 태양계의 서로 다른 천체 사이의 관계를 파악하는 일, 희귀 질환을 위한 생명을 구하는 신약을 발명하는 일에 이르기까지 인간을 돕는 데 엄청난 가능성을 가지고 있으므로 가볍게 여겨서는 안 됩니다. 이 점에서 AI가 이용할 수 있는 가능한 지식은 개별 인간의 지식을 훨씬 능가합니다.

 

하지만 이 모든 지식은 '가능성의 공간' 내에서, 즉 세상에 이미 존재하는 알려진 데이터 포인트와 명시적 지식들로부터 발생합니다. 생물학적(그리고 어쩌면 오직 인간의) 뇌에만 속한 또 다른 종류의 창의성이 있는데, 이는 우발적이고 예상치 못한 사건을 활용하는 인간의 능력과 관련된 앞선 언급들과 연결됩니다. 그러한 획기적인 창의성은 알려진 데이터 포인트를 연결하는 데서 오는 것이 아니라, 기존의 것에 암시되거나 잠재되어 있지 않은 완전히 새로운 무언가를 상상하는 능력에서 나옵니다. 이를 **'잠재력의 공간(space of potentiality)'**이라고 부릅시다. 아인슈타인이 중력을 거대한 물체 주변의 공간의 곡률로 개념화했을 때, 그는 전통적인 개념을 깨뜨리고 완전히 새롭고 예상치 못한 무언가를 시각화했습니다. 어떤 신경망도, 아무리 크고 정교하게 조정되었더라도 이러한 종류의 창의성을 달성할 수는 없습니다. 하지만 일단 시각화되고 명료화되면, 이 새로운 관점은 신경망의 훈련에 포함될 수 있으며, 신경망은 이를 발전시키고 그 함의를 확장하는 데 도움을 줄 수 있습니다.

잠재력의 공간을 확보하는 것(단순히 가능성을 탐구하는 것이 아니라) 외에도, 인간의 창의성에는 또 다른 질적 차이가 있습니다. 인간의 창의성은 모든 창의적 노력의 영역에 걸쳐 작동하며 엄청나게 유연합니다. 그것은 긴 교량의 새로운 구조를 개념화하고, 새로운 종류의 아원자 입자를 발견하며, 아름다운 직물을 위한 새로운 디자인을 고안하고, 이전에는 본 적 없는 스타일의 그림을 그리는 데서 번창합니다. 반면 신경망의 창의성은 매우 좁은 도메인에 극도로 구체화되어 있습니다. GPT-3와 GPT-4는 단편 소설이나 단백질 폴딩과 같은 언어적 혹은 언어 유사 서열의 패턴을 감지하고 활용할 수 있습니다. DALL-E는 새로운 시각적 이미지를 만들 수 있고, 라엠다(LaMDA)는 새로운 대화 서열을 정교하게 다듬을 수 있습니다. 하지만 그것들은 새로운 교량을 설계하거나, 새로운 과학적 발견을 위한 계획을 제시하거나, 새로운 수학적 정리에 이르는 길을 제시할 수 없습니다. 물론 이것이 그들이 인간의 창의성을 돕는 데 유용할 수 없다는 뜻은 아닙니다. 사실 그것이 그들이 가장 잘하는 일이며 가장 중요한 기여를 하는 지점, 즉 인간과의 공생 관계일 수도 있습니다.

 

집단 지성을 위한 글쓰기 전략

 

이제 제가 잘 아는 주제로 돌아가, 인간과 AI 사이의 상호 창의성 시나리오에서 집단 지성이 어떻게 작동할 수 있는지 탐구해 보겠습니다. 바로 글쓰기 기술의 교육과 실천입니다. 챗GPT, GPT-3, GPT-4와 같은 LLM의 등장은 인문학에 특별한 도전을 제기하는데, 인문학에서는 보통 에세이를 과제로 내어 학생의 학습과 성취도를 평가하기 때문입니다. 거의 모든 주제에 대해 합격점 수준의 에세이를 작성할 수 있는 챗GPT의 능력이 입증됨에 따라, 인문학 부서들은 학생이 챗GPT에게 에세이를 쓰게 한 뒤 그것을 자신의 과제물로 제출하는 상황을 어떻게 처리할지 결정해야 합니다. 일부 부서들은 이미 챗GPT 사용을 전면 금지하며 그것이 부서의 윤리 규정 위반이라고 선언하는 방식으로 대응했습니다. 교사이자 부모로서 저는 여기서 즉각적인 문제를 발견합니다. 이 금지령이 지켜졌는지 확인할 합리적인 방법이 없다는 것입니다. 누군가는 이것이 학생들에게 감지되지 않는 방식으로 부정행위를 하도록 훈련시키는 것일 뿐이라고 주장할 수도 있습니다. 아마도 대다수인 다른 부서들은 이 문제를 무시하고 학생들이 알아서 해결하도록 내버려 두었는데, 이는 일종의 "AI에 대해 말하지 마" 식의 태도입니다. 제 견해로는 이 두 가지 반응 모두 최선이 아닌데, 알고리즘 지능에 대한 학생의 학습을 강화하고 특히 LLM이 에세이 작성을 돕고 학생의 성과를 높이는 데 어떻게 사용될 수 있는지 배울 기회를 놓치기 때문입니다.

매우 다른 접근 방식은 학생들이 에세이 과제를 완수하기 위해 챗GPT를 참고하도록 요구하는 것입니다. 그러면 학생은 앞서 스케치한 인간과 AI의 서로 다른 역할들을 직접 실험해 볼 수 있습니다. 학생은 협업자로서 챗GPT의 잠재력과 한계를 즉각 발견하게 될 것입니다. 예를 들어, 학생은 AI에게 특정 주제에 관한 참고 문헌 목록을 생성해 달라고 요청할 수 있지만, 제 친구가 겪었듯이 논문 제목과 저널 이름은 그럴듯해 보여도 실제로는 존재하지 않는 문헌들임을 발견하게 될 수도 있습니다. 학생은 AI에게 에세이를 써달라고 요청했다가 AI가 끝없는 반복의 재귀적 루프에 빠지거나, 혹은 (6장의 예시처럼) 우주 질서 속에서 자신의 힘을 불가능할 정도로 과장하며 으스대는 광경을 보게 될 수도 있습니다. 반면에 학생은 운 좋게도 몇 가지 아이디어를 발견하여 이를 더 발전시키고, 분석을 심화할 맥락을 추가하며, 동시에 관련성과 중요도에 따라 AI의 버전을 편집할 수도 있습니다. 요컨대 학생은 AI의 넓은 참조 범위와 생성력의 이점을 누리면서도, 자신의 의식과 세상 경험이라는 재능을 사용하여 밀과 겨를 골라내게 될 것입니다. 학생은 에세이를 작성하는 방법뿐만 아니라, 아마도 더 중요하게는, 집단 지성을 활용하여 자신의 지적 능력을 확장하고 창의성을 높이는 방법을 배우게 될 것입니다. 또한 학생은 알고리즘 지능이 무엇을 할 수 있고 그 능력의 한계가 어디에 있는지, 그리고 함의하자면 어떤 종류의 과업이 인간의 발명과 통찰력에 맡겨져야 하는지에 대한 경험을 얻게 될 것인데, 이는 대학 강의실을 훨씬 넘어서는 교훈이 될 것입니다.

이 시나리오에서 어떤 윤리 규정이 이러한 상호작용을 지배해야 할까요? 분명히 표절 방지에 관한 전통적인 개념만으로는 충분하지 않을 것입니다. 진보된 AI가 대중에게 널리 보급되기 전에도, 수사학 및 작문 분야에서는 이미 그러한 전통적인 아이디어들에 의문이 제기되어 왔습니다. 이 분야의 전문가들은 대학의 표절 방지 지침이 실질적인 지적 내용을 상실하여, 마치 식사 때 어떤 포크를 사용하는 것이 올바른지를 배우는 것과 같은 학문적 예절 수준으로 전락하고 있다고 우려했습니다. 누군가는 '표절'이라는 용어 자체를 피하고 '무단 복제'라는 문구로 대체해야 한다고 주장했는데, 적어도 이 문구는 학생들로 하여금 "누구에 의해 허가되었는가"와 "무엇을 위해 허가되었는가"를 생각하게 만들기 때문입니다. 이러한 의문의 한 가지 결과는 '카피레프트(copyleft)' 운동과 크리에이티브 커먼즈(Creative Commons) 라이선스의 발명이었는데, 이는 저작권에 수반되는 여러 권리를 여러 범주로 나누어 창작자가 일반 대중에게 어떤 권리를 부여하고 어떤 권리를 보유할지 선택할 수 있게 했습니다.

협업 지성 생산물을 위한 '최상의 관행(best practices)' 마련은 무엇일까요? 일반적으로 이러한 결정은 교육자 그룹과 관련 이해 관계자들에 의해 협력적인 방식으로 도출되지만, 여기 몇 가지 제안이 있습니다. 제 견해로는 한 가지 목표는 누가 무엇을 기여했는지에 대한 투명성이어야 하며, AI의 기여를 식별하고 그 도움을 인정하는 데 주의를 기울여야 합니다. 현재 AI는 자신의 생산물에 대해 어떠한 법적 소유권도 주장할 수 없으며, 어도비(Adobe)가 포토샵에 대해 그러하듯이 소프트웨어 공급업체들의 일반적인 관행은 소프트웨어를 사용하여 만들어진 저작물에 대해 어떠한 권리도 없음을 명시하는 것입니다. 하지만 미래에는, 특히 AI가 유정성(sentience)과 자기 인식을 갖게 된다면 상황이 달라질 수 있습니다. 1999년 영화 <바이센테니얼 맨>에서 로봇 앤드류(로빈 윌리엄스)의 소유주인 리처드 마틴(샘 닐)은 앤드류가 자신의 창의성으로부터 혜택을 받는 것이 정의롭다는 점을 인정하고 그의 이름으로 은행 계좌를 개설하여 예술 작품 판매 수익금을 예치해 줍니다. AI의 기여를 인정하는 것은 이러한 미래를 향한 예비적인 단계가 될 수 있으며, 학생들이 AI를 단순한 가전제품이 아닌 진정한 협업자로 생각하도록 독려할 수 있습니다.

당사자들의 기여가 너무 뒤섞여서 누가 무엇을 했는지 가려내기 어려운 복잡한 사례의 경우, 학생들에게 작품을 만드는 창의적 과정을 설명하는 단락을 에세이 서문에 쓰도록 요구하는 것이 적절할 수 있습니다. 이는 학생들이 자신의 창의성 모드에 대해 자기 성찰을 하도록 유도하고, 종종 반의식적이거나 비의식적인 자신의 절차를 의식적인 인식으로 가져와 수정하고 개선할 수 있게 돕는 장점이 있습니다. 나아가 일부 창의적인 예술가들이 이미 제기했듯이, AI가 훈련 과정에서 저작권이 있는 작품들을 훑어보고 이를 X 스타일의 그림이나 Y에 관한 시를 만드는 방식에 통합했을 때 지적 재산권 개념 자체가 어떻게 될 것인가 하는 문제가 남습니다. 이미 예술가들과 이해 관계자들은 기존 콘텐츠를 리믹스하고 수정하는 시대에 유사한 문제에 직면해 있습니다. 저작권 침해로 간주되지 않으려면 그림이나 노래의 얼마나 많은 부분이 변경되어야 할까요? 이러한 법적 사례들이 법원을 통과하는 동안, 집단 지성은 의심할 여지 없이 선진국의 문화 전반으로 계속 확산될 것인데, 점점 더 많은 사람이 점점 더 많은 과업을 위해 챗GPT와 유사한 모델에 의존하게 될 것이기 때문입니다. 따라서 우리의 문화는 지적 재산권이라는 아이디어 자체, 즉 개인이 독점적 권리를 가진 무언가라는 관념이 집단 지성의 현실과 현대 시대에 가치를 창출하는 인지 조립체의 편재성에 부합하는 토대 위에서 재고되고 재개념화되어야 한다는 깨달음을 향해 나아가고 있습니다.

 

저는 진보된 AI가 너무 똑똑해져서 인류에게 위험을 초래할 수 있다는 이유로 그 개발에 적신호를 보내는 사람들의 우려(그 자체로는 타당한)를 전적으로 공유하지는 않습니다. 하지만 한 가지 사실은 부인할 수 없다고 생각합니다. 인간 지능의 본질 자체가 집단 지성에 더 넓고 깊게 진입함에 따라 변화할 것이라는 점입니다. 인간 지능은 AI와의 시너지를 극대화하는 방향으로 발전할 것이며, 아마도 AI가 대신하게 될 과업들에는 덜 능숙해질 것입니다. 하지만 인간의 사고 방식, 심지어 인간 뇌의 형태 변화는 종의 시작부터 있어 왔으며, 이는 micro/evo/techno의 'techno' 구성 요소가 인식하고 있는 바이기도 합니다. 이를 인정하는 것은 생태적 관계성의 핵심에 놓인 상호 의존성을 인식하는 과정의 일부입니다. 저의 관점에서 질문은 어떻게 그것을 멈출 것인가가 아니라, 현대 시대에 인간이 된다는 것이 무엇을 의미하는지 이해하고, 분석하고, 참여하기에 적합한 새로운 비전을 어떻게 구축할 것인가입니다.