호질랜드의 여성 사고실험 - 중국어방과 사고실험

“설은 잘못된 데를 짚고 있다. 진정한 의미는 오로지 패턴에만 존재한다는 것을 받아들이지 않는 것 같다.” - 한스모라벡

중국어방 설명내용

http://www.aistudy.com/ai/chinese_room_argument.htm

1980 년도 존설의 “마음,뇌,프로그램” 에서 중국어방 사고실험 번역이 있네요. 아무래도 저도 읽었던 책의 텍스트를 뽑아놓은 것 같습니다. (구글에서 중국어방 논증 이라고 검색하니까 두번재로 뜨는 것입니다. 첫번째는 위키, 세번째는 바로 이 SF/과학 게시판 아래쪽에 있는 글이네요. ㅋ)

존설의 주장의 핵심

존설은 마음,뇌,프로그램에서 이렇게 말합니다.

- 프로그램이 순전히 형식적으로 규정되는 요소에 대한 계산 처리의 측면에서 정의되는 한, 앞의 사례가 시사하는 것은 이러한 처리 자체가 이해와 어떤 흥미 있는 관계도 맺지 않는다는 것이다. 이 논의의 중심적인 논점은 순수하게 형식적인 어떠한 모형도 그 자체로 의도성을 설명하기에 충분하지 않다는 것이다.

- 왜냐하면 형식 기호는 그 자체로 의도성을 갖지 않기 때문이다. 그것은 아무런 의미도 갖지 않느다. 심지어 그것은 기호 조작도 아니다. 왜냐하면 그 기호는 아무것도 상징하지 않기 때문이다. 언어학 용어를 빌리자면 그것은 구문론을 가질 뿐 의미론은 갖지 않는다..

- 기계는 생각할 수 있는가? 그렇다 우리가 바로 그러한 기계이다. 그렇다면 인공물, 즉 사람이 만든 기계는 생각할 수 있는가? 신경계를 가진 기계를 인공적으로 만들 수 있다면 가능할 것이다.
(존 설은 기계와 프로그램을 구분하고 있습니다. 여기서 프로그램은 형식절차에 따른 기호조작을 말합니다. 기계는 유물론적 존재를 말하는 듯 합니다. 그래서 인간의 뇌도 철저히 기계적이라고 말하고, 그는 인과적 의도성과 이원론을 구분하라고 경고합니다.)

주장의 핵심 : <마음을 모델링 한 프로그램은 형식기호조작일 뿐이고, 그것만으로는 인과적 의도성(마음)을 가질 수 없다. >

주장의 논증은 이렇게 됩니다.

“프 로그램만으로는 마음을 가질 수 없다.” 라는 주장을 “중국어방 속 수행자인 존설 자기자신이 중국어를 이해하지 못한다” 라는 분명한 사실로 뒷받침합니다. 또한 논증을 읽는 독자들은 사고실험 속 수행자와 자신을 동일시해서 중국어에 대한 <이해 결여를 느끼도록> 요청됩니다. 그리고 사실상 수행자가 하는 일은 컴퓨터나 다른 없다고 말합니다. (존과 존설을 구분해서, 존은 사고실험 속 인물, 존설은 현실의 학자를 말하겠습니다.)

중국어방의 존의 관점 = 프로그램의 관점 ---> 존의 이해 결여 = 프로그램의 이해 결여

따라서, 중국어능력의 수준과 상관없다. 아무리 완벽한 중국어능력을 가정한다 할지라도, 그건 형식기호조작일 뿐이고, 형식적 절차대로 컴퓨터처럼 행동하면, “진정한 이해”를 할 수는 없다.

존 설의 지지자들은 이제 프로그램과 마음의 차이가 논리적으로 밝혀졌다고 할지 모르지만, 애초에 존설은 <그렇다고 해서 내가 강한인공지능의 주장이 잘못임을 증명했다는 뜻은 아니다. 그러나 이 주장은 지금까지 우리가 검토한 사례에 비추어볼 때 분명 받아들이기 힘들 것이다.> 라고 말합니다.

사고실험과 직관펌프

사 고실험은 유용합니다. 아인슈타인도 사고실험의 도움으로 이론을 만들었으니까요. 사고실험은 현상에서 복잡성을 없애고, 특정부분을 확대시켜, 실험제안자가 원하는 핵심을 드러냅니다. 한편으로 독자들을 특정한 결론으로 밀어붙이는 경향이 있을 수 있습니다. 이런 경향을 “직관 펌프” 라고 부르는 학자들도 있습니다.

사고실험으로 “중국어방”의 위대한 장점이 있는데요.

첫째, 특별한 소양이 없는 일반인도 쉽게 이해할 수 있다.

둘째, 영화연극처럼, 사고실험 속 주인공의 관점에 이입시키고, 느끼게 만든다. - 자기자신이 중국어를 이해하지 못한다는 사실을요. 말로써 논박하는 것보다 느끼게하는게 확실하니까요.

바로 이 장점에서 사고실험의 문제점이 확대됩니다. 존설은 이 장점으로 복잡성을 제거하고 독자에게 관점을 밀어붙이는 것이 문제점입니다. 나중에는 존설도 자신의 사고실험의 문제가 다른 사고실험속에서 드러나자, 혼란을 드러내니까요.

우 리는, 인간이 이런 일을 할 수 있다고 생각하는 것이, 어떤 의미가 있는 듯한 잘못된 인상을 주고 있다는 점에서 설이 심각하고 근본적인 설명의 오류를 범했다고 생각한다. 이러한 상을 받아들이면 독자들은 알지 못하는 사이에 지능과 기호조작 사이의 관계에 대해 전혀 비현실적인 사고 방식을 전면적으로 받아들이는 셈이 되고 말 것이다. - 호프스태터

전체 시스템의 관점

존설이 버린 시스템의 관점을 분명하게 드러내는 것이, 중국어방 사고실험의 확장된 사고실험입니다. 이 확장된 사고실험 속에서는 존설도 관점의 혼란을 일으킵니다.

확장된 일반화 사고실험 : 이퀄라이저 조건

“결국 설의 주장은 두 개가 아니라 하나의 관점밖에 존재하지 않는다는 것이다.” (중간생략) “특히 설의 사고 실험의 설정이 그와 연관된 사고 실험들의 큰 집합 중 하나에 지나지 않음을 폭로하고자 한다”

- 더글라스 호프스태터

중 국어방에서는 중국어 능력의 복잡성을 간단한 “룰북”과 “기호조각” 으로 치환합니다. 생각해보면 사실 어마어마한 마법의 룰북과 기호입니다. 뿐만 아니라, 방의 크기에서부터 실험 속 인물, 인물의 기호조작에 필요한 시간 까지 다양한 복잡성과 스케일을 사고실험이란 이유만으로 쉽게 뛰어넘었습니다. 즉 그래서는 안되지만, 사고실험 속에서 복잡성은 쉽게 변형될 수 있는 부차적 조건이고, 핵심은 관점과 이해여부가 되겠죠.

그렇다면 조건을 마음대로 바꿀 수 있는 이퀄라이저 스위치가 있는 사고실험을 생각해봅시다. 호질랜드라는 학자가 제안했답니다. 뭐, 간단히 사고실험의 이름을 “시뮬레이션” 이라고 해보죠.

시뮬레이션의 조건 이퀄라이저 스위치

스위치1) 물리적 재료 : 뉴런, 반도체, 종이조각, 바닷가 돌멩이 연산컴퓨터 등등

스위치2) 모방의 정밀도 : 소립자, 원자 ~ 화학물질, 뉴런 ~ 컴퓨터회로 ~ 기호종이조각 ~ 개념,어휘

스위치3) 시뮬레이션의 물리적 크기 : 레고인형 뇌크기 수준부터, 중국어방, 지구적 크기까지

스위치4) 실험 속 수행자의 크기 : 존 ~ 소립자보다 작은 요정 까지

스위치5) 수행자의 속도 : 사람의 속도 ~ 광자의 속도보다 빠르게 / 기타: 수행자가 살아있는지 여부,

기타 : 관점) 수행자의 관점 vs 전체 시스템의 관점

즉 “중국어방”은 스위치를 특정하게 맞춰놓은 시뮬레이션의 특수 버전이라고 볼 수 있고, “시뮬레이션”은 중국어방의 일반화된 버전이라 볼 수 있습니다. 그렇지만, 실험의 본질은 달라진게 없습니다. 애초에 복잡성과 스케일은 사고실험 속에서 부차적으로 변경가능한 조건이니까요

호질랜드의 여성

다음과 같이 상상해봅시다. 중국여성이 있습니다. 그러나 뇌의 결함이 있습니다. 뉴런은 신경전달물질을 보낼 수 없는 것입니다. 그러나 다행히도 중국여성의 뇌속에는 뉴런요정이 살고 있습니다. 호질랜드 요정이라고 해봅시다. 이 요정은 매우 작아 시냅스에서 살수 있고, 시냅스 속도에 비해 무척 빨라서, 뇌 전체에 동시에 있는 것에 맞먹을 정도입니다. 그리고 요정은 뉴런의 특성을 읽어서 (존이 룰북을 읽듯이, 뉴런 세포막의 전위차라든지 그런것들을 읽어서 ) 생물학적 규칙대로 적절한 자극을 시냅스에 줍니다.

그래서 진짜 신경 전달물질이 전달된 것과 기능적으로 구별할 수 없게 이 여성은 건강할 때와 똑같이 생활합니다. 여기서도 요정은 그녀의 사고를 알 수 없습니다. 규칙대로 할 뿐이니까요.

자 여러분은 이 중국여성이 마음을 가지고 사고하고 있는 걸까요?

존설의 반응

만약 중국어방과 일관된 관점이라면, 당연히 중국여성은 마음이 없습니다. 왜냐하면

중국어방의 존의 관점 = 프로그램의 관점 ---> 존의 이해 결여 = 프로그램의 이해 결여

요정의 관점 = 중국여성(또는 시스템)의 관점 ---> 요정의 이해 결여 = 중국여성의 이해 결여

이렇게 되는 거니까요.

학 자 존설은 우리에게 요정과 자신을 동일시하고, 시스템이론의 주장을 받아들이지 말고 여성은 마음이 없다고 다그쳐야 하겠지만, 그러나!!! 학자 설의 반응은 놀랍습니다. “이번에는 요정을 무시하고 중국여성의 관점을 선택해야 한다는 것입니다.”!!! 요정은 절규합니다. !!! 아니야 그녀는 단순한 꼭두각시야!! 내가 하는 일은 수행자 존이 하는 일과 동일해!!! 그녀의 행동은 전부 내가 뉴런의 기계적 규칙대로 자극을 하는 것일 뿐이야!!!

그러나 학자 설은 이렇게 말합니다.

< 그녀의 뉴런들은 여전히 적절한 인과력을 갖고 있다. 뉴런들은 단지 데몬(요정)의 도움을 필요로 할 뿐이다.> 단지 도움일 뿐이란게 무엇일까요? 어디서 이런 인과력의 차이가 나오는 것일까요? 형식적으로 동일한데 말이죠.

기 타 추가로 사고실험을 해봅시니다. 이번에는 이퀄라이저를 바꿔서, 중국여성의 뇌를 지구크기로 확장하고, 요정을 다시 존으로 바꿉니다. 존은 이곳저곳을 인간의 속도로 돌아다니며 시냅스를 자극합니다. 이런 경우에는 어떤 관점을 가져야 할 까요?

중국어방은 잘못된 전제를 포함한, 착각을 일으키는 사고실험일 뿐이라 생각합니다. 결국  알게모르게 무시하도록 의도하였던 두가지 요소를 전면에 드러낸 사고실험을 접하자, 존설의 입장도 혼란을 겪게 된 것입니다.

첫째) 거대한 복잡성을 간과하게 만들고, 비현실적 사고방식을 받아들이게 만든다.

       -> 무시하였던 복잡성을 제대로 표현하면, 그 복잡성을 쉽게 무시할 수가 없습니다.

가령 “기호종이조각”, “스토리 책(룰북)”, “꼬부랑 기호조작” 이런 표현은 왜곡된 상을 주게 됩니다. 반면에 어마어마한 시냅스의 신경전달과정의 복잡성은 쉽게 간과하지 못하죠.

둘째) 중국어방 속 수행자 존의 관점, 한 가지만 존재하도록 요구한다.

       -> 두뇌와 같은 복잡성을 제대로 표현해주고, 비생물적인 중국어방에서 여성의 두뇌로 표현을 바꾸면, 숨겨진 관점이 드러납니다.

중국어방은 몇 개의 종이쪼가리 따위가 포함된 시스템보다는, 관점이 있는 것이 분명한 인간인 수행자 존의 관점에만 집중하게 만듭니다.

결국 중국어방은 하나의 관점만을 보여주는 우를 범한 것입니다.

(존 설은 시스템 이론에 대해서 애초에 중국어방과 비슷한 사고실험을 제시하면 반박했는데, 이 비슷한 실험도 중국어방과 동일한 문제를 가집니다. 반박하는 글에서 자신은 애초에 시스템이론은 받아들이기 어렵고 반박하는 것조차 당황스러움을 느낀다고 했습니다. 존설이 쓴 글에서 미루어볼때, 위장,엔진,자동온도계 따위와 동일한 비의식적 기호쪼가리들이 만드는, 전체시스템에게 “관점”이라는 인간적 요소를 대입시키는 것을 존설의 관념상, 애초에 상상할 수 없었던 일인 것 같습니다.

어떻게 중국어 종이기호조각 따위를 포함시킨 전체라는 관점 따위를 상상할 수 있겠어???? 응??? 프로그램의 관점이라는 표현도 문제야!!! 사람의 관점이 진짜지!!! 관점은 사람만 갖는 거니까!!! 흥!!! --- 이건 나중에 언급하는게 좋을 듯 하네요)

마지막으로, 중국어방 사고실험이 부지불식간에 증명없이 사용한 전제들이 있습니다.

부지불식간에 사용된 전제들

철학에서 러셀이 그랬나? 논증을 살펴보고 부지불식간에 증명없이 사용된 전제를 논의하는게 중요하다고 했습니다. 중국어방에도 이런 전제들이 있다고 저는 봅니다.

1. 위에서 언급한, “전체시스템의 관점”은 없고, 수행자의 존의 관점만 있다는 전제

- 전체시스템의 관점을 제외할 “논리적 이유”따위는 없습니다.

(아무리 상상하기 어렵다 해도, 인간마음 수준으로 중국어능력을 구사하는 방을 그냥

무시해야합니까? 애초에 중국어방이라는 상황 또한 상상하기 어려운 일이지요.)

2. 수행자 존의 관점이 프로그램의 관점을 대변하거나 사실상 동일하다는 전제

- 형식적 프로그램의 심적상태가 없다! 라는 주장의 근거는, 수행자 존의 관점 상의 이해 결여 때문입니다. 그런데 존의 관점이 프로그램의 “주관적 관점”을 대변한다는 근거가 무엇인가요? 또한 무엇을 대변하는가요? 룰북을 대변할 까요? 종이쪼가리를 대변할까요? 시스템을 대변할까요? (애초의 존설은 시스템관점을 상상할수도 없었다고 하지만) 어떻게 존이 “프로그램의 주관적 관점”을 느낄 수 있을까요? 과학의 관찰도 넘지 못한 주관적 경험을 허술한 중국어방을 차리는 것만으로 관찰할 수 있다는 건 말이 안됩니다. 그렇지만 실제로 존설은 형식프로그램의 주관적 상태를 수행자 존의 관점으로부터 읽을 수 있다는 듯이 말하는 것 같습니다.

존의 관점은 전체를 생각하지 않게 하고, 좁고 단편적 기호조작과정의 이미지에만 집중시킵니다.

다음으로 염두에 둘 점은 중국어 방 속의 사람은 사실 아무 의미가 없다는 것이다. - 레이 커즈와일

사 실상 존의 역할은 아무것도 없습니다. 전체를 보지못하고 형식기호가 움직이는 단편적 과정만을 관찰할 뿐인데, 존의 관점이 무슨 역할을 하겠습니까? 존이 하는 일은 단지, 외과의사가 환자의 두뇌를 열어보고, 신경시냅스의 흐름을 관찰하는 것과 동일합니다. 혹시, 존이 적극적으로 형식적 절차를 수행한다는 점에서 다를까요? 기계가 기호조작을 대신하고 존은 옆에서 과정을 지켜봐도 동일합니다. 이에 관련된 또 다른 사고실험을 할 수 있겠습니다. “귀차니스트 존”이라고 말이죠.

결국 동어반복,순환논증 사고실험일뿐

“설의 중국어방 유추가 동어반복에 불과하다고 생각한다.” – 레이 커즈와일

수행자 존의 이해결여는, 기호조각을 이리저리 규칙대로 움직여도, 여기어디에도 중국어를 이해하는 마음이 안보인다는 관찰 그 이상도 아닙니다. (눈에 보여? 이것봐 애잇 종이조각따위잖아!!! 던져버려!) 또한 더 나아가 이와 같은 형식기호조작들은 어디에도 마음의 존재 한방울도 찾아볼수 없다. 라는 인식으로 끌고 갑니다. 즉 이런 단순한 형식프로그램에서 마음을 찾을 있는지 사고실험으로 상상해보라.(근거) 단순한 프로그램에서 마음을 찾을 수 있는게 얼마나 어리석나?(주장) 하는 셈입니다. 원래 원했던 주장을 근거로 삼는 것입니다.

사실 이 인식은, 우리가 느끼는 마음의 신비를 인식하는 것과 같습니다. 우리 두뇌를 이루는 입자, 뉴런, 시냅스 그 어디에도 마음의 존재는 보이지 않습니다. 그거 물리적 규칙대로 움직이는 것일 뿐이니까요. 수행자의 관점에서 느껴지는 마음부재는, 단순한 물질,프로그램에서 느껴지는 마음부재와 동일합니다. 중국어방은 독자에게 어떠한 이미지상을 보여주는 사고실험이고 그 이미지상을 근거로 하여 주장을 하고 있습니다. 그리고 이미지상은 원래 우리가 느끼는 마음의 신비함입니다. 그러나 신비함만으로 프로그램이 마음을 가질 수 없다는 주장을 할 수는 없습니다.

--------------------------------------------------------------------------------------------------------------------------------

기타 존설의 편견

형식과 내용

으 악 소양이 부족해서 어렵습니다. 엄밀하게 따지면, 어디까지가 형식이고 내용일까요? 확실하게 정해진 것일까요? 인간마음과 프로그램은 다르다!!! 의미론과 구문론의 구분처럼 말이다!!! 구문론은 의미론이 아니다.!!! 인간은 의미를 이해할 수 있다!!! 그러나 프로그램은 이해 못한다!!! 왜냐??? 프로그램은 형식체계(구문론)이기 때문이다!!! (애초에 출신이 다르다. 출신이!! 천한 구문론따위 출신이!!)

그렇다면 애초에 중국어방의 구문론으로 적힌 룰북이 중국인과 구별할 수 없는 의미론을 포함한 중국어를 구사한다는 가정을 할 수 없습니다.

단 지 그는 인과력에 의해 의도성을 갖는 체계도 있고, 그렇지 않은 체계도 있다는 것을 강조할 뿐이다. 그는 그러한 힘이 어디에서 유래하는지에 대해 동요하는 것 같다. (중간 생략) 그 원인은 당시에 끌어대기에 편리한 것이면 무엇이든 될 수 있기 때문이다. 때로는 <내용>과 <형식>을 구별하는 모호한 본질이고, 때로는 의미론에서 구문론을 분리시키는 또 다른 본질이기도 하다.

- 호프스태터

생물학 우월주의

존설은 인간두뇌도 기계라고 합니다. 단지 인과적인 의도성을 가지고 있고, 그 인과적인 의도성은 신경생물학적 과정을 통해서만 일으킨다고 합니다. 알게모르게 생물학적 우월주의가 깔려 있습니다.

주관적 경험에 대한 철학적 착각

존설은 커즈와일에게 보낸 편지에서, 의식은 밝혀낼 수 있는 생물학적 과정이라고 봅니다. 의 식은 젖분비, 소화, 광합성, 유사분열처럼 생물학적 과정이고, 이런 생물학 원리를 찾듯 의식을 가능케 하는 원리를 찾아보는게 나을 거라고 합니다. 특정한 생물학적 과정을 어떤 생명체에서 찾아내었다면, 그 생명체는 의식이 있다.라는 것입니다.

부분적으로 합당한 의견이라고 생각하지만, 철학자로서의 엄밀함은 없다고 생각합니다. 왜냐하면 주관적 경험의 영역과 과학의 객관적 관찰의 영역을 쉽게 무너트리는 인식이기 때문입니다. 객관적으로 관찰가능한 어떤 생물학적 물리적 과정이 마음과 연관이 크거나 핵심일 수는 있어도, 그것이 마음이 있다.라는 확실한 주장이 될 수는 없습니다.

판도라의 상자

존 설은 프로그램도 마음을 가질 수 있다는 점을 수긍하면, 그것이 판도라의 상자를 여는 것이 되어, 자동온도계나 소화작용을 하는 위나 자동차 엔진도 마음을 가질 수 있다라는 주장으로 연결될까봐 걱정합니다. 하지만 누가 그런 주장을 하겠습니까???

존설은 단지 마음을 특정한 생물학적 과정에만 적용시켜서, 마음이 있는 여러존재들이 유령처럼 돌아다니는 것을 원하지 않을 뿐입니다.

기타 다른 사고실험

누 군가는 중국여성의 두뇌는 원래 인과력을 가졌으니까, 단지 요정의 도움을 받을지라도 인과력을 여전히 가지고 있다고 할 수 있죠. 특별한 논리적 차이는 없음에도 말입니다. (귀족은 출생이 귀족이니까? 천민은 어떻게 해도 천민이니까? 사실 존설은 생물학과정이기 때문에 인과력이 있다고 생각하는 것 같습니다.), 이 호질랜드의 여성 실험또한 가능한 수많은 사고실험 중, 하나일뿐입니다. 다른 종류의 실험은 얼마든지 할 수 있습니다.

예 를 들어, 중국여성은 뉴런이 조금씩 죽어가는 병을 가지게 되었습니다. 그래서 점진적 교체를 시작합니다. 뉴런 하나씩 스캔해서, “프로그램 모델링”을 한 후, 프로그램을 저장하여 만든 인공뉴런으로 교체해 갑니다. 인공뉴런이 극히 일부분일 경우는 문제가 없을 듯합니다. 하지만 점점 늘려가다보면 뇌가 가지고 있던 인과력은 어떻게 될까요? 인공뉴런으로 완전히 교체하여서 “철저히 프로그램모델링”의 존재가 되버린 여성은 어떻게 될까요?

--------------------------------------------------------------------------------------------------------------------------------

사실 위 내용들은, 제 주장이라기보다는, 사실 두가지 책에 있는 내용입니다.

이 내용을 중심으로 약간의 저의 각색이 포함되었습니다.

자세한 설명이나 혹시 제가 오해를 불러일으킨 부분이 있을 수 있기에, 더 알고싶은 분들은 아래 책을 읽어보시길 바랍니다.

[이런,이게 바로 나야!] - 더글러스 호프스태터, 다니엘 데닛(사이언스 북스)

[특이점이 온다] - 레이 커즈와일