문화/예술/과학 게시판
비슷한 논의가 한번 있었었습니다 : http://theacro.com/zbxe/free/162030
제 생각에 "마음"이라는 거에대해서, 우리가 아직 정확한 정의를 못하고 있는게 아닌가 싶습니다. "무기물에 의해 simulate된 마음은 마음이 아니다."라고 강하게 믿고 있는 사람들로서는, 그 어떤 반론에 대해서도 그건 마음이 아니라 마음을 흉내낸 거에 불과해 라고 말해 버리면, 그 다음부터는 도리가 없지요.
Daft Kid 님, 매우 흥미로운 심리철학(마음철학) · 인지과학 관련 글을 올려주셔서 감사합니다. 아주 재밌게 읽었습니다. 마음 · 의식 · 지향성(intentionality) · 이해(understanding) · 창발(emergence) · 심적 속성(mental properties) · 인공지능 따위의 논제에 관해 숱한 생각거리를 던져줍니다.
그런데 약간은 비판적인 생각도 하지 않을 수 없습니다. 즉 ① 중국어방 사고실험(Chinese Room Thought Experiment)에 관한 정확한 이해/파악 부족, ② 자신의 논지를 전개하는 문장들에서 보이는 비문적 결함, ③ 심리철학 · 인지과학 · 뇌과학 따위와 관련된 중요 개념(어)들의 부정확한 구사 등등, 여러 가지 문제점이 발견된다는 것입니다. 윗글은 일종의 철학적 논증글이라고 할 수 있는데요. 이와 같은 문제점들은 철학적 논증글에는 치명적입니다. 구체적인 사례를 일일이 들어서 비판하고 싶지만, 시간이 없기 때문에 아래에 인용한 부분에서 보이는 논리적 허점만을 간략히 지적하겠습니다. (아래 인용글에 나오는 중국여성 뇌 속 요정 사고실험이 호질랜드의 것이든, 그 누구의 것이든, 오류가 있는 것은 분명해 보입니다.)
호질랜드의 여성
다음과 같이 상상해봅시다. 중국여성이 있습니다. 그러나 뇌의 결함이 있습니다. 뉴런은 신경전달물질을 보낼 수 없는 것입니다. 그러나 다행히도 중국여성의 뇌속에는 뉴런요정이 살고 있습니다. 호질랜드 요정이라고 해봅시다. 이 요정은 매우 작아 시냅스에서 살수 있고, 시냅스 속도에 비해 무척 빨라서, 뇌 전체에 동시에 있는 것에 맞먹을 정도입니다. 그리고 요정은 뉴런의 특성을 읽어서 (존이 룰북을 읽듯이, 뉴런 세포막의 전위차라든지 그런것들을 읽어서 ) 생물학적 규칙대로 적절한 자극을 시냅스에 줍니다.
그래서 진짜 신경 전달물질이 전달된 것과 기능적으로 구별할 수 없게 이 여성은 건강할 때와 똑같이 생활합니다. 여기서도 요정은 그녀의 사고를 알 수 없습니다. 규칙대로 할 뿐이니까요.
자 여러분은 이 중국여성이 마음을 가지고 사고하고 있는 걸까요?
존설의 반응
만약 중국어방과 일관된 관점이라면, 당연히 중국여성은 마음이 없습니다. 왜냐하면
중국어방의 존의 관점 = 프로그램의 관점 ---> 존의 이해 결여 = 프로그램의 이해 결여
요정의 관점 = 중국여성(또는 시스템)의 관점 ---> 요정의 이해 결여 = 중국여성의 이해 결여
이렇게 되는 거니까요.
학 자 존설은 우리에게 요정과 자신을 동일시하고, 시스템이론의 주장을 받아들이지 말고 여성은 마음이 없다고 다그쳐야 하겠지만, 그러나!!! 학자 설의 반응은 놀랍습니다. “이번에는 요정을 무시하고 중국여성의 관점을 선택해야 한다는 것입니다.”!!! 요정은 절규합니다. !!! 아니야 그녀는 단순한 꼭두각시야!! 내가 하는 일은 수행자 존이 하는 일과 동일해!!! 그녀의 행동은 전부 내가 뉴런의 기계적 규칙대로 자극을 하는 것일 뿐이야!!!
그러나 학자 설은 이렇게 말합니다.
< 그녀의 뉴런들은 여전히 적절한 인과력을 갖고 있다. 뉴런들은 단지 데몬(요정)의 도움을 필요로 할 뿐이다.> 단지 도움일 뿐이란게 무엇일까요? 어디서 이런 인과력의 차이가 나오는 것일까요? 형식적으로 동일한데 말이죠.
먼저 존 설(John R. Searle)이 중국어방 사고실험에서 전개한 논증을 세 개의 전제와 한 개의 결론으로 요약하면 다음과 같습니다. [애초에 중국어방 논증은 강인공지능(Strong AI)을 논박하기 위해 고안한 사고실험이었죠.] 중국어방의 존의 관점 = 프로그램의 관점 ---> 존의 이해 결여 = 프로그램의 이해 결여 요정의 관점 = 중국여성(또는 시스템)의 관점 ---> 요정의 이해 결여 = 중국여성의 이해 결여
전제 1: 실행되는 프로그램들은 구문론적 처리절차다.
전제 2: 마음은 의미론적 내용을 지닌다. (마음에는 의미론적 내용이 있다.)
전제 3: 구문론 그 자체로는 의미론에 충분하지도 못하고 의미론을 구성하지도 못한다.
결론: 그러므로 실행되는 프로그램들 그 자체로는 마음에 충분하지도 못하고 마음을 구성하지도 못한다. 요컨대, 강인공지능은 그르다(거짓이다).
Premise 1: Implemented programs are syntactical processes.
Premise 2: Minds have semantic contents.
Premise 3: Syntax by itself is neither sufficient for nor constitutive of semantics.
Conclusion: Therefore, the implemented programs are not by themselves constitutive of, nor sufficient for, minds. In short, Strong Artificial Intelligence is false.
위와 같은 논증은 아주 간단하지만 근본적인 두 가지 원리에 근거하고 있습니다. 즉 존 설이 주장하는 다음과 같은 근본 원리입니다.
제1원리: 구문론은 의미론이 아니다.
제2원리: 모사(시뮬레이션, simulation)는 복제(duplication)가 아니다.
First: Syntax is not semantics.
Second: Simulation is not duplication.
이상의 내용은 존 설 자신이 직접 중국어방 논증을 알기 쉽게 요약 해설한 《스칼러피디어 Scholarpedia》의 글에 나오는 것입니다. 더 상세한 내용을 알고 싶으면 “Chinese room argument”(http://www.scholarpedia.org/article/Chinese_room_argument)를 참고하기 바랍니다.
위와 같이 존설의 핵심 주장을 정확히 이해한다면, 위 인용글에 나오는 중국여성의 뇌 속 요정 사고실험은 일종의 잘못된 유추라는 오류를 저지르고 있음을 알 수 있습니다. 즉 설의 중국어방 속 작업자는 중국어 화자를 모사한/시뮬레이션한 중국어 입출력 작업, 즉 오로지 구문론적인 작업만을 하고 있을 뿐입니다. 반면에 중국여성 뇌 속 요정은 구문론적 작업을 하는 것이 전혀 아니라 신경전달물질의 기능을 완전히 대행하는, 실제와 똑같은 신경생물학적 작업을 하고 있다는 것입니다. 이러한 생물학적 작업은 중국어방 속의 프로그램 처리 작업과 질적으로 완전히 다르다고 할 수 있습니다. 즉 중국어방 작업자(혹은 그 프로그램)는 실제의 중국어 화자를 흉내내는 모사/시뮬레이션 작업을 하고 있지만, 중국여성 뇌 속 요정은 신경전달물질이나 뉴런의 역할을 완전 대행하는 생물학적 차원의 실제 작업을 하고 있다는 것이죠. 이런 유형의 완전한 기능적 복제는 신경전달물질 혹은 뉴런의 생물학적 복제에 준한다고 할 수 있습니다. 그러므로 사고실험 속의 중국여성이 정상적으로 행동하고 말하고 생각하는 데에는 아무 문제가 없을 것입니다. 즉 존 설(John R. Searle)이 이 중국여성에게 마음이 없을 것이라고 주장할 아무런 까닭도 근거도 필요도 없다는 것입니다. 오히려 역으로 이 사례에서 존 설은 자신의 “생물학적 자연주의(biological naturalism)”의 입지를 더욱 강화시켜줄 논거를 얻어낼 수도 있습니다.
따라서 중국어방 작업자와 중국여성 뇌 속 요정을 동일한 차원에서 유추 비교하는 것은 명백한 오류로 드러납니다. 이러한 오류를 저지를 수밖에 없었던 까닭은, 앞에서 인용한 존 설의 제2원리, 다시 말해 “모사(시뮬레이션)와 복제는 근본적으로 다르다”는 사실을 간과했거나 몰랐기 때문입니다. 그러므로 모사(시뮬레이션)와 복제 개념의 차별적 인식이 전혀 드러나지 않는 아래와 같은 유추적 논리 전개는 오류에 불과할 뿐입니다.
따라서 중국여성 뇌 속 요정 사고실험은 중국어방 논증을 무너뜨릴 만한 반대 논증으로서는 무력한/잘못 선택된 논증에 불과할 뿐이라는 결론을 내릴 수 있습니다.
(1)
제 처음 댓글에서도 썼지만, 결국 동어반복적인 싸움이 될 뿐입니다.
"마음은 의미를 이해하는 것을 말하고, 아무리 정교한 계산이라고 할지라도 의미를 이해하지 못하기 때문에 그것은 마음이 아니다."
(위에서 말한 syntax & semantic, simulation & duplication 전제)
라고 일단 전제를 걸어 버립니다.
"그래서 이해한다는게 도데체 뭔데?"
라는 말에 대해서 뭔가 정확한 정의를 내리지 않습니다. 한참 듣다 보면, "이해하는 것" == "인간 혹은 뭔가 유기체가 하는것.", "계산(simulate) 하는 것" == "기계가 하는것"으로 돌아갑니다. 결국 "이해하는 것" == "유기체가 하는 것" == "기계는 못하는것"을 일단 전제하고 논증을 펼치고 있는 것 입니다. 동어 반복일 뿐입니다.
(2)
튜링은 그래서 아예 이런 테스트를 고안했습니다.
"그래? 니가 그걸 정의 못하겠다면, 아예 칸막이를 사이에 두고 글로 대화를 하자. 니가 이쪽에서 뭐라고 하면, 저쪽에서 뭐라고 대답을 할께. 그래서 만약 니가 상대방이 기계인지 아닌지 구별을 못할 정도라면, 그건 지능(intelligence)이 있다고 하자, 오케?"
튜링 테스트에 따르면, 저 중국어 방 시험을 거쳐서, 중국어로 질문을 한 사람(들)이 대답한게 중국어 방인지, 중국인 현자인지 구별을 할 수 없다면, 저 중국어 방 시스템은 지능(intelligence)가 있다고 봐야 합니다.
(3) 이건 보충 자료입니다.
그리고 중국어로 질문한 사람들이 구별을 못할 정도가 되려면, 단순히 종이쪽지에 적힌 단순한 룰 몇 개 가지고는 절대 안될겁니다. 주어진 기술에 따른 중국어 방의 계산 능력은 수학적으로 한계가 있거든요. (이런 시스템을 finite state machine이라고 합니다. 이것만 가지고는 인공지능은 커녕 계산기도 못 만듭니다.)
지금 있는 컴퓨터 비슷한 거라도 만들려면,
(1) 적어도 메모리가 있어야 합니다. 즉 중국어 방에 들어가 있는 사람이 단순히 룰대로 방의 데이터를 읽기만 하는데 아니라, 특정 룰에 따라 방에 있는 데이터를 변경할 수 있어야 합니다.
(2) 다음으로 룰 그 자체가 변경이 가능해야 합니다. 즉 룰이 써있는 종이쪽지가 안변하는게 아니라, 그 이전에 들어왔던 입력에 의해서 룰이 써있는 종이쪽지의 내용을 변경할 수 있어야 합니다.
즉 적어도 memory + self-modifying이 가능해야 지능 비슷한 거라도 만들 수 있습니다. (이런 기계를 튜링 기계 Turing Machine이라고 합니다. 이런 기계로 수학적으로 가능한 모든 알고리즘의 수행 (즉 '계산')은 가능하다는게 거의 사실로 굳어져있습니다.) 그런데 우리 인간의 두뇌를 이루는 뉴런들은 이 두 개가 가능하지요. 그러니 지능을 가진 중국어 방도 이 적어도 두 가지는 해야 합니다. 그렇담self-modify만 있으면, 거기에 초기 데이터와 초기 프로그램만 있으면 지능이 생길 수 있는가? 잘 모릅니다.
(4) 궁극적으로
지능 = 특정 상태의 (자기 교정이 가능한) 연산 규칙 방법 + 정보의 특정한 저장 상태
인가 아니면 그 이상인가를 놓고 싸우고 있을 뿐입니다.
제가 보기엔 회의론자들은 "인간은 영혼이 있고, 기계는 없으므로 기계가 아무리 정교해 져도 인간이 못됨." 단지, 이 말을 하고 싶을 뿐인것 같습니다.
getabeam 님:
제 처음 댓글에서도 썼지만, 결국 동어반복적인 싸움이 될 뿐입니다.
qualia 답변:
결코 동어반복적인 싸움이 아니라고 생각합니다. 존 설의 중국어방 논증은 철학적 논증이지만 1980년 발표 뒤로 알게 모르게 인지과학 전반의 발전에 많이 기여했습니다. 인공지능의 발전 방향에도 직간접으로 영향을 미쳤다고 할 수 있습니다.
존 설이 부정하는 것은 강인공지능식의 기계 의식(machine consciousness) 만들기 기획이지 기계 의식의 가능성 그 자체를 부정하는 것은 결코 아닙니다. 설은 외계인 의식, 로봇 의식, 다른 미지의 의식 등등 모든 의식의 가능성을 열어두고 있습니다.
“이해(understanding)”, “지능(intelligence, 지적 능력 ≒ 기존 지식을 활용해 전혀 몰랐던 새 사실 따위를 알아내는 능력)” 등등은 기본적으로 의식적 작용의 한 측면에 해당합니다. 그러므로 이해의 정의나 지능의 정의는 기본적으로 의식의 정의에 수렴될 수 있습니다. 따라서 이해가 뭐냐고 묻는다면 의식의 본질적 측면을 살펴봐야 합니다. 대체적으로 학자들 간에 통용되는 의식의 3대 본질적 특성은 ① 인과력(causal power; causal efficacy) ② 일인칭 시점/관점의 사밀성(privacy) ③ 감각질(qualia) 등이라고 할 수 있습니다.
이러한 의식의 본질을 놓고 본다면, 중국어방식의 인공지능 컴퓨터는 물론이고 튜링 검사(Turing Test)를 완벽히 통과한 지능적 로봇까지도 의식을 지녔다고/지닐 수 있으리라고 결론내릴 수 없습니다. 즉 다른 식의 접근 혹은 연구 방법론이 필수적이라는 것입니다. 존 설의 중국어방 논증의 핵심 요지는 바로 이것이라고 할 수 있습니다. 따라서 동어반복은 중국어방을 오독/오해석한 반대 진영에서 하고 있다고 볼 수 있습니다.
getabeam 님:
튜링 테스트에 따르면, 저 중국어 방 시험을 거쳐서, 중국어로 질문을 한 사람(들)이 대답한게 중국어 방인지, 중국인 현자인지 구별을 할 수 없다면, 저 중국어 방 시스템은 지능(intelligence)가 있다고 봐야 합니다.
qualia 답변:
위에서 거론했듯이, 지능의 소유 여부 문제는 결국 의식의 문제로 수렴됩니다. 위에서 거론한 (최소한의) 의식의 3대 본질을 갖춰야만 진정한 지능을 지녔다고 볼 수 있습니다. 설의 요지는 바로 이것입니다. 즉 이런 의식의 본질적 특징을 갖추지 못했다면 튜링 검사(Turing Test)를 아무리 완벽하게 통과해도 의식적 존재/기계/로봇/컴퓨터라고 할 수 없다는 것입니다. 다시 말하면 튜링 검사로는 의식의 소유 여부를 판별할 수 없다는 것입니다.
getabeam 님:
제가 보기엔 회의론자들은 "인간은 영혼이 있고, 기계는 없으므로 기계가 아무리 정교해 져도 인간이 못됨." 단지, 이 말을 하고 싶을 뿐인것 같습니다.
qualia 답변:
존 설은 의식(과 영혼은 약간 다른 개념임)에 관한 한 회의론자가 절대 아닙니다. 존 설은 의식이 뇌와 같은 생물학적 기계의 신경 기제 작용으로 생겨난 것으로서, 실제 세계를 구성하는 하나의 실재(a real part of the real world)라고 주장합니다. 또한 물리/물질적 근본 기제에서 생겨났으므로 의식을 비롯한 심적 속성들은 근본적으로 물리적/물질적 속성의 한 종이라고 주장합니다. 그러나 의식은 (인과적으로는 환원이 되지만) 존재론적으로는 환원되지 않는 고유성을 지녔다고 합니다. 즉 위에서 말한 의식의 기본 특징들을 지녔다는 것이죠.
존 설은 인간의 뇌와 같이 의식이 생겨나게 할 수 있는 어떤 다른 기제(mechanism)가 있을 수 있다는 가능성을 절대 부정하지 않습니다. 그런데 많은 논자들이 존 설의 중국어방 논증을 잘못 이해해 존 설이 인공지능의 모든 기획이 불가능하다고 논증한 것으로 오해하고 있습니다. 존 설은 이러한 오해/오독에 관해 거듭해서 직접 비판했습니다.
■ 참고 자료
http://en.wikipedia.org/wiki/John_Searle
http://en.wikipedia.org/wiki/Biological_Naturalism
http://www.scholarpedia.org/article/Chinese_room_argument
뱀머리>
1) 혹시 알라딘에서, 심리철학이나 뇌과학관련 책에 자주의견 올리시는 qualia 분이랑 동일한 분이신가요? “마음철학”이라는 용어를 사용하는 점과, 글의 구성 서체같은게 비슷해서 그럽니다.
2)저는 퀄리아님의 댓글이 중국어방을 지지한다고 말한다기보단, 중국어방 지지자들에게 부족하게 느껴질 수 있는 부분을 짚어주신다고 생각합니다. 보완한다는 의미로 댓글 씁니다.
몸통>
우주적 요정 - 중요한점은 존설도 “인과력”이 생기고 사라지는 경계를 혼동하고 있다.
“설의 입장에서 약점은 진짜 의미가, 또는 진짜(당신)이 체계의 어디에서 사라지는지를 명확히 밝히지 않고 있다는 것이다.” - 호프스태터
유추가 다르다? “생물학실체에 수행하는 것”과 “형식절차모사를 수행하는 것”은 다르다. 가 핵심이겠지요? 여기서 동일한 유추가 아니라는 주장과 복제와 모사와 차이 등등이 나오는 것 같습니다.
중국여성도 다양한 스펙트럼의 버전을 가진 일반화된 사고실험의 한 버전입니다.
스펙트럼에서, “특정한 구분지점”(존설의 경우 탄소기반생물학과정의 실체)을 기준으로 앞과 뒤의 버전은 다르다고 주장할 수 있습니다.
그렇지만 그 특정한 구분지점을 확대해서, 경계를 무너뜨리는 사고실험은 얼마든지 가능합니다. 극단적으로 소립자 수준을 가정할 수도 있습니다. 소립자를 프로그램모델링 하는 것도 괜찮지만, 이 경우 어차피 실체가 아니라 “모사”일뿐이라고 하기 때문에. 방향을 바꿉니다.
이번에는 중국여성의 두뇌를 우주적으로 확대해서, 뉴런을 이루는 입자들이 스스로 상호작용하기 어려운 거리에 있습니다. 이때 소립자를 결합시키고, 분해시키는 모든 물리적힘을 수행하는 우주적존재의 힘을 가진 요정 이 물리법칙대로 소립자들의 상호작용을 실행시킵니다. 이 수준에서는 “생물학적 과정의 기능복제”가 아니라, “물리학적 과정에서의 기능복제”입니다. 이렇게 되어버리면, 특정한 구분지점은 물리적 실체의 존재여부에 있다고 해야합니까?
본문에 인공뉴런으로 대체하는 사고실험도 생물학적 실체에 대한 반박이 될 수 있겠습니다.
결국 모든 버전의 사고실험의 주인공은 “관점과 이해여부” 라고 생각합니다.
관점과 이해여부
올려주신 존설의 “논리적 논증”과, “사고실험 속 논증”을 구분해야 한다고 생각합니다. 사고실험 내의 문제를 말해야합니다. 주장을 설득하는 방법은 많으니까요. 중국어방 말고도 감각질,직접지의 문제도 있지 않습니까?
사고실험은 “시나리오 무대”이고, 본문의 논증은, 사고실험에서 독자들을 설득하는 “연극적 장치”입니다. 그 장치는 “독자들을 관점 이입시켜 이해 결여를 느끼도록하는 것”이고 여기서부터 마음과 프로그램, 의미와 형식의 차이를 설득력있게 주장하는 것 같습니다.
그래서 관점과 이해여부가 핵심이고 소재,스케일,복잡성은 부차적인 문제가 되버린 것입니다. 사실 복잡성이 부차적인게 되버린게 “시나리오 무대”의 문제점인 것 같습니다.
“연극적 장치”의 문제는
1. 하나의 관점만을 전제하기.
2. 수행자의 관점이 프로그램의 “주관적 관점”을 대변할 수 있다는 것.
입니다.
특히 근거도 없는 2번이 핵심입니다. 단지 형식절차“계산”을 보여주는 것 이상도 아니기 때문입니다. 중국어방을 힘들게 차리지 않아도, 계산이란 바로 이런 것이다!!! 라고 보여주려면, 주판알을 튕기는 것만으로도 가능하지 않습니까?
애초에 2번을 어떻게 받아들일 수 있겠습니까?
제2원리: 모사와 복제는 문제 - 마음의 존재론적 기반에 대한 인식차이
(용어들을 철학적으로 엄밀하게 정의된 개념으로 사용하지 못하는 것은 저의 소양부족입니다.)
주관적 경험은 둘째로 치고,
커즈와일같은 사람은, 마음은 일종의 “패턴”으로서 존재한다고 인식하는 것 같습니다.
탄소기반의 물질로 이루어진 “물리적 실체”에 기반을 두는 인식과 다릅니다.
“패턴”은 기계구조 말고도, 생물구조로서의 패턴도 있을 수 있습니다. 뉴런이 자극을 받고 내보내는 생물학적 과정을 패턴으로 생각한다는 것입니다. 그리고 그 패턴은 프로그램모델링 할 수 있습니다.
커즈와일 같은 입장의 경우에는 패턴의 모사는 사실상 패턴의 복사입니다.
왜냐하면, 애초의 패턴을 복사하는 것은 모사하는 방법으로서 이루어지기 때문입니다.
모사할 때, 사용하는 물리적 실체가 무엇인지는 상관없구요.
뱀다리>
헷갈려
근데 이쪽까지 오면 저는 헷갈리기 시작합니다. 중국어방은 잘못된 사고실험일지라도
계산은 마음을 가질 수 있는가? 우주는 계산적인가? 여부는 모르기 때문입니다.
우리 두뇌의 계산적 부분이 매우매우 많다는 것은 확실하지만요.
아 여기부터는 전문적이라서 포기하려고 합니다. 똑똑하신 학자분들이 알아서 해주시겠지만, 그분들이 말하는 것은 어려워서...
그리고 Daft Kid 님이 올린 재반론은 매우 흥미롭습니다만, 다루고 있는 논제들이 너무 방대하고 논란이 많은 사안들이라, 시간이 없는 제가 일일이 재반론할 수가 없을 듯합니다. 매우 아쉽게 생각합니다.
그런데 위 표젯글과 이 댓댓글에서 드러나는 Daft Kid 님의 논지는 거의 비슷해 보입니다. 또한 존 호질랜드(John Haugeland)가 중국어방 논증에 대해 제시한 반론과도 논리적 착상이나 논조의 측면에서 아주 비슷해 보입니다. 기본적으로 저는 존 호질랜드가 자신의 중국어방 논박에서 일종의 범주 오류 혹은 잘못된 유추 오류를 저질렀다고 판단하기 때문에, Daft Kid 님도 상당 부분 거의 동일한 오류를 저지르고 있다고 판단합니다.
Daft Kid 님이 위에서 거론한 “우주적존재의 힘을 가진 요정” 사고실험이나 “커즈와일(Ray Kurzweil)의 마음에 대한 패턴(pattern) 개념”을 제시하는 것도 존 설의 중국어방 논증에 대한 효과적인 반박 수단이 될 수 없다고 생각합니다. 제가 위에서 제시한 getabeam 님의 주장에 대한 반론 겸 답변을 그대로 Daft Kid 님의 주장에 대한 반론 겸 답변으로 다시 제시할 수 있습니다. 요컨대 Daft Kid 님이 존 설의 중국어방 논증의 핵심 요지를 정확하게 파악하지 못한 게 아닌가 판단합니다.
예컨대, 다음과 같은 Daft Kid 님의 주장은 존 설에 대한 오해에서 비롯된 것이라고 판단합니다.
커즈와일같은 사람은, 마음은 일종의 “패턴”으로서 존재한다고 인식하는 것 같습니다.
탄소기반의 물질로 이루어진 “물리적 실체”에 기반을 두는 인식과 다릅니다.
즉 Daft Kid 님은 위와 같은 커즈와일의 “패턴” 개념으로 존 설의 논증을 일부 논박하겠다는 것인데요. 제가 getabeam 님한테 제시한 답변에서 이미 말했듯이 존 설은 마음/의식의 인공적 실현(realization, implementation) 가능성을 열어두고 있습니다. 결코 불가능하다고 하지 않습니다. 마음/의식이 탄소 기반의 물리적 실체에서만 가능하다고 하지도 않습니다. 요컨대 Daft Kid 님뿐만 아니라 커즈와일 또한 존 설의 중국어방 논증과 의식 개념 그리고 생물학적 자연주의(biological naturalism)를 잘못 이해하고 있다는 것입니다.
제가 Daft Kid 님의 위 댓글에 대해 제시할 수 있는 반론들 중 많은 부분이 getabeam 님한테 제시한 답변들과 상당 부분 겹칩니다. 그래서 죄송한 말씀입니다만 Daft Kid 님께서 그 답변들도 참고해주시면 고맙겠습니다.

딱히 관련이 있다고 하기는 힘들지만... 최근 이런 일 하는 그룹도 있어요. 아래 동영상 보시면 아시겠지만, 쥐의 뇌를 투명하게 만든다음에 통채로 형광현미경 사진을 찍어서는 3차원 이미지를 구성한겁니다. 뉴런 하나 하나를 분리해서 추적할 수 있는 도구가 갖춰진 셈이죠. 사람뇌도 역시 잘 된다고 하는데... 샘플 얻기 엄청 어려울듯 싶어요.
생물학자들의 이런 노력을 뭐랄까요....
"컴퓨터 CPU를 분해해서 전자의 움직임을 관찰해서 트랜지스터의 동작 원리를 알아내면, 데스크톱 컴퓨터에서 돌고있는 바둑 프로그램의 동작원리를 알 수 있을 거다"
뭐 이런 느낌이라고 할까요?
당연하게 인간의 생각은 하드웨어 에 해당하는 뉴런과 신경세포들과 소프트웨어(데이터)에 해당하는 뉴런들의 연결 상태 및 신경 전달 호르몬 및 전기신호로 이루어져 있겠지요. 뉴런들의 연결이 계속 변한다는 사실 자체가 self-modifying program을 수행중이라는 뜻일꺼고요.
트랜지스터 -> 아날로그 전기 회로 -> 디지털 로직 -> 컴퓨터 아키텍쳐 -> OS 프로그램 -> 어플리케이션 바둑 프로그램
에 비교하면
인간의 뉴런 -> ...... ? -> 인간의 생각
인간의 마음 (생각, intelligence)는 분명 (최소한) 어떤 정보 처리 시스템입니다. 그러므로 분명 저 중간에 몇 단계가 있을 텐데, low-level에서 생물학적 기작 mechanism을 관찰하는 것 만으로는 그 정체를 알아내기가 요원하지 않을까 합니다. (뭐 안하는 거 보다는 낫겠지만)
문화/예술/과학 최신댓글