원초적 반란
스필버그의 가벼운 생각
20세기 SF영화에서 가장 영향력있는 두 감독을 꼽으라면 <쥬라기 공원>의 스티븐 스필버그와 <2001년 우주 오디세이>의 스탠리 큐브릭 감독을 드는데 별 의의가 없을 것이다.
그러나 나는 개인적으로 스필버그의 영화를 별로 좋아하지 않는다. 그 영화들은 요란하고 화려하기는 하지만 현실을 보는 깊은 안목을 찾아 보기 어렵다. 비극적 현실도 그의 해석 안으로 들어가면 꿈같은 동화로 변한다.<쉰들러 리스트>가 그가 다룬 영화 가운데 가장 무거운 주제이기는 하지만 그 영화는 유태인의 비극 보다는 쉰들러의 영웅담에 더 초점이 맞추어 진다. 반면 큐브릭의 해석은 극도로 자제되어 있고 그런면에서 재미있다기 보다 난삽하게 느껴진다.그러나 가끔 그의 영화의 한 장면이 눈에 선하게 떠오를 만큼 주제에 대한 해석의 눈이 깊다.
이 두사람이 만나면 어떻게 될까? 심오하면서도 재미있는 한 편의 영화가 만들어질 수 있지 않을까? 실제 이 두사람이 만나서 한편의 영화를 만들었다.(큐브릭 감독은 작년에 작고했지만 대본에서 기획까지 제작과정에 깊히 관여했다.) 그것이 지금 극장가에서 개봉되어 화제가 되고 있는 <A.I.> 즉 <인공지능>(Artificial Intelligence)이다.스필버그의 회상에 의하면 큐브릭이 오랫동안 이 작품을 구상하고 있다가 스필버그를 만나서 자신이 제작을 맡을테니 감독을 맡아달라고 요청했다는 것이다.오랫동안 염두에 두어왔던 작품을 자신에게 준다는 것이 의아해서 스필버그가 그 이유를 묻자 큐브릭은 "이 작품은 나보다는 당신의 감각에 잘맞아..."라고 했다는 것이다.
큐브릭이 왜 이 영화를 스필버그에게 맡겼을까? "인공지능" 이라면 <2001년 우주 오디세이>에서 인공지능 컴퓨터인 HAL의 반란을 절묘하게 묘사한 그 솜씨로 보아 스스로 하는게 더 좋을 것 같은데..아마 인공지능에 대한 다른 해석의 영화일지 모른다...이런 궁금증을 가지면서 극장에 앉았다.보고난 느낌은 역시 이 영화는 "스필버그류"이지 "큐브릭류"가 아니라는 생각이 들었다.그것은 큐브릭의 HAL이나 리들리 스콧의 <블레이드 러너>의 리플리컨트(복사인)과 같은 미래의 묵시록이 아니라 한편의 아름다운 동화였다.그 영화에서 데이비드(감정을 가진 인공지능 로봇)를 진돗개로 대체해도 똑같은 감동을 우리에게 줄 것이다.그것은 길잃은 진돗개가 산넘고 물건너 주인을 찾아가는 감동실화이며,엄마를 찾아 이탈리아에서 머나먼 남미로 까지 여행하는 소년 마르코의 "엄마찾아 삼만리.."의 그 동화와 다르지 않았다.
"과학문명은 천문학적 속도로 발전되어 가고 그에 따라 지구상의 천연자원이 급속도로 고갈되어 가고 있는 먼 미래.모든 생활이 감시되고, 먹는 음식 조차 통제되는 그 세계에서 인간들은 인공지능을 가진 인조인간들의 봉사를 받으며 살아간다. 정원가꾸기,집안일,말동무 등 로봇이 인간에게 해줄 수 있는 일은 무한하다. 단 한가지 "사랑"만 빼고..
로봇에게 감정을 주입시키는 것은 로봇 공학의 마지막 관문이자,논란의 쟁점이기도 했다.인간들은 로봇을 정교한 가재도구로 여길 뿐 그 이상의 것을 용납하지 않았다.그러나 많은 부부가 자식을 가질 수 없게 되면서 로봇에게서 가재도구 이상의 것을 찾게 되고 소비자들의 그러한 욕구를 충족시키기 위해서 사이버트로닉스라는 로봇제조회사에서 감정을 가진 최초의 인조인간 데이비드를 만들어낸다.그리고 데이비드는 불치의 병에 걸린 친 아들을 치료약이 개발될 때 까지 냉동시키기로 한 스윈튼 부부의 집에 실험적 케이스로 입양된다.인간을 사랑하게끔 프로그래밍된 최초의 로봇소년 데이비드..점차 그들의 부부의 아들 노릇에 익숙해져 갈 때 친 아들이 살아난다.그는 점점 부모의 사랑을 잃어가고 몇가지 실수를 저지르다가 결국 "진짜 사람이 될 때 까지는 돌아오지 말라."는 말과 함께 숲속에 버려진다."
그림 1 감정을 가진 최초의 로보로이드 데이비드
데이비드는 진짜 사람이 되면 엄마의 사랑을 되찾을 수 있다는 말을 철떡같이 믿는다.그는 나무인형 피노키오가 천사의 도움을 받아 사람으로 변했다는 이야기를 듣는다.그는 그 천사를 찾아 뉴욕의 맨허턴 까지 날라 온다. 이때쯤 뉴욕은 빙하가 녹아 지구의 수위가 높아져 이미 물에 잠겨버렸고 고층빌딩만 물 밖으로 나와 있다.그는 잠겨버린 물속에서 찾던 그 천사를 발견한다. 그것은 놀이공원의 피노키오 섹터에 세워놓은 조상이었다. 데이비드는 그것이 찾던 그 천사라 믿고 사람으로 변해 엄마의 사랑을 되찾게 해 줄 것을 간절히 기도한다.
2,000년의 세월이 흐른 후 지구는 이미 인간은 멸종되어 사라지고 로봇이 지배하고 있다. 로봇들은 그 조상을 응시한 채 얼음 속에 결빙되어 있는 데이비드를 발견한다. 로봇은 데이비드의 소원을 들어주기 위해서 데이비드의 곰인형 테디가 보관하고 있던 엄마의 머리카락에서 그 엄마를 복원한다.별로 그럴듯하지 못한 논의를 내세워 영혼도 복원한다. 그러나 엄마와 함께 할 수 있는 시간은 단 하루.(이쯤 되면 관중은 훌쩍이기 시작한다.) 여하튼 데이비드의 엄마의 사랑을 되찾는 2,000년의 여정은 완성된다. 미국판 <은행나무 침대>인가?
이 영화에서의 "사랑"이란 사랑이라기 보다 대상에 대한 "고착"에 훨씬 더 가까워 보인다. 거위는 알을 깨고 나오면 처음 본 대상을 엄마로 생각하고 그 뒤를 졸졸 따라다닌다. 그것을 콘라드 로렌츠는 "각인"이라고 한다. 그 사랑은 각인된 프로그램이지 사랑이라고 할 수 있을까? 사랑에 수반하는 증오는 왜 빠져 있는가? 데이비드는 왜 버린 부모에 대한 증오심을 한번도 갖지 않는가? 지순한 사랑으로 착각하기 쉽지만 그것은 사랑이 아니고 "각인된 프로그램"이기 때문이다.
어디까지나 영화이니까 어떤 해석도 가능하다. 그것을 갖고 왈가불가할 필요는 없다.그러나 이 영화는 미구에 밀어닥칠 기계문명의 묵시록적 운명에 대한 우리의 판단을 흐리게 할지 모른다는 점에서 -의도한 것이든 아니든- 그 저의가 의심스럽다.이 영화가 IT 산업과 인공지능 프로젝트에 대해 팽배해가는 대중들의 막연한 불안에 묘한 안도감을 주기 때문이다."그래 로봇은 인간에게 절대 복종하게 되어있는 노예일 뿐이야.설사 감정을 부여한다 해도 인간을 배반하지는 않아.지순한 사랑으로 인간을 섬길 뿐이야."
모르긴 몰라도 지금 약간 시들해져가고 있는 인공지능 프로젝트가 연구자금을 확보하는데 이 한편의 영화가 큰 기여를 하게 될 것이다. "사랑스런 데이비드!",누가 그를 싫어할 것인가? 2000년의 사랑을 완성하는 그 마지막 장면에서 누구라도 눈물이 핑돌지 않겠는가? 누가 그 데이비드를 만드는 것을 반대할 것인가?
<AI>는 당연한 것으로 가정하고 넘기고 있지만 이 이야기가 가능하기 위해서는 두가지 논의가 선행되어야 한다. 첫째는 도대체 "기계에 감정을 부여하는 것이 가능한가?" 하는 것이다. 그것이 가능하지 않다면 이 영화는 그저 하나의 충성스러운 진돗개의 로봇 패러디로 이해하면 된다. 이제 가능하다고 한다면 "감정을 가진 기계에게 인간에의 절대적 충성이 가능한가?" 하는 것이다. 이 후자는 소설이나 영화에서 많이 다루어진 주제이다.<블레이드 러너>나 <2001 우주 오딧세이> 등은 가능하지 않다고 보는 입장이고 이 <AI>는 심각하게 천착하고 있는 것은 아니지만 그 충성 가능성 위에서 영화를 만들고 있다.
필자는 감정의 부여는 불가능한 것은 아니지만, 그러한 로봇의 배반가능성은 상당히 높고 통제는 상당히 어려울 것으로 생각한다. 이 배반가능성은 사실의 문제라기 보다 논리의 문제라는 점이 그 가능성을 더 크게 한다.
이 배반의 과정을 그럴듯하게 그려내고 있는 소설이 마이클 클라이튼의 『델로스』이다. 그러나 무엇보다도 인간의 신화들이 이 太古의 배반을 이야기 하고 있다. 성서의 창세기 기사가 그렇고 프로메테우스의 인간창조 설화가 그렇다.
설의 행복한 생각
데카르트는 기계론자인가? 어떤 면에서 그는 철저한 기계론자이다. 살아있는 동물조차도 복잡한 자동기계로 보았기 때문이다. 인간도 동물인 이상 기계 외에 다른 것이 아니다. 여기에 조그맣게 쓰여진 단서 조항을 눈여겨 보지 않는다면 "인간의 신체는 스스로 스프링을 감는 기계이다. 이것은 영구적인 운동의 살아있는 이미지이다. 영양공급은 열이 일으키는 운동을 유지한다. 음식이 없으면 영혼은 수척해지고 미쳐서 고갈된 채 죽는다."는 라메뜨리의 말에서 데카르트적 울림을 들을 수 있을 것이다.
그러나 데카르트는 "이성"이라는 단서 조항을 부여함으로써 인간이 전적으로 기계가 되는 데서 구제해 내고 있다. 인간의 몸은 전적으로 기계의 규칙을 따르지만 인간은 몸외에 별도로 영혼을 갖고 있다. 인간을 기계로부터 구분지우는 것은 바로 이것이다.
"영혼"이라는 말속에 들어있는 형이상학적인 무게에 압도되지 말자. 일상언어에서 "영혼이 없다."는 말을 어떤 경우에 자주 사용하는가? 무엇보다는 일차적으로 쾌락이나 고통과 같은 느낌이 없다는 것을 나타낼 때 사용한다. 동물은 아무것도 느끼지 못한다. 그것을 죽이는 것은 단지 기계를 부수는 것일 뿐이다. 그것이 고통으로 깽깽거리는 것처럼 보이지만 다만 그런 반응을 하도록 프로그램 되었을 뿐이다.
동물이 기계라면 기계적 방식을 통해 동물을 재현할 수 있을 것이다. 이것이 자동인형을 제작할려는 노력으로 이어졌다.18세기에 프랑스의 기술자 보캉송이 만들은 오리는 마시고, 먹고, 소화하고, 꽥꽥대며 울고, 헤엄을 칠 수 있었다. 또 그가 만든 플루트주자는 열두가지 음을 연주하는데 손가락,입술,혀를 움직였다. 그가 만든 템버린을 치는 소녀와 만돌린 주자는 머리를 까딱이며 숨을 쉬기도 했다.
기계는 우리 인간이 만든 것이고 그래서 항상 우리 인간의 명령에 복종한다. 동물이 인간이 될 수 없듯이 기계가 인간이 될 수 없다. 거기에는 "영혼"이라는 존재론의 넘을 수 없는 벽이 있다. 그러나 다시 이 영혼이라는 말의 존재론적 의미에 압도되지 말자. 데카르트는 이 영혼을 구체적 맥락에서는 오늘날의 "지능" 비슷한 의미로 쓰기도 한다.
우리의 몸과 비슷한 모습을 하고, 가능한 한 우리의 행동을 모방하는 기계가 있다면, 그럼에도 이런 기계가 인간이 아니라는 것을 알 수 있는 두가지 확실한 방법이 있다. 첫째,기계는 우리가 하듯이 자신의 생각을 나타내기 위해 말이나 신호를 사용할 수 없다. 물론 말하는 기계를 만들 수 있고, 기계에 가해진 물리적 행위에 적절한 말을 하게 만드는 것도 가능하다. 예를 들어 어떤 부분을 건드리면 기계는 무엇을 원하느냐고 되물을 수 있고,다쳤다고 울거나 그 비슷한 일을 하게 할 수 있다. 그러나 이런 기계도,아무리 멍청한 사람이라도 할 수 있는 것처럼 상황에 맞게 말을 바꾸지 못한다.
둘째로 그 기계가 우리만큼 또는 더 잘,많은 일을 할 수 있어도 기계는 인간처럼 이해에 의해 움직이는 것이 아니고 기계의 배치에 따라 움직이는 것일 뿐이다. 왜냐하면 이성은 모든 상황에서 사용할 수 있는 보편적인 도구인 반면에, 기계는 특정한 일에 대해 특정한 배치가 필요하기 때문이다. 그러므로 이성이 우리를 움직이게 하는 것과 같이,삶에서 일어나는 모든 일에 대처할 만큼 많은 장치가 한 기계 안에 있으리라고 생각하는 것은 사실상 불가능하다.
이것은 존 설John Searle이 "생각하는 기계"는 불가능하다는 것을 보여주기 위해서 가져온 "중국방의 논변"과 기본적으로 같다.1)중국어를 전혀 이해하지 못하는 어떤 사람이 일련의 한자배열을 다른 한자 배열로 체계적으로 변환하는 규칙 집합을 가진 어떤 방,"중국어방"에 갇혀 있다고 가정하자. 문틈으로 들어오는 한자 배열을 가지고 주어진 규칙집을 이용해서 새로운 한자배열을 만들어 문틈으로 내보낸다. 안에 있는 사람이 규칙집을 잘 알고 있어 작업이 능숙하다면 밖에 있는 사람은 방안의 사람이 중국어를 잘 하는 사람이라고 생각할 것이다. 그러나 그 사람은 중국어를 전혀 이해하지 못하며 중국어방 어디에도 중국어에 대한 이해는 없다. 여기서 진행되는 것은 기호들의 형태나 "통사론"에 기초하여 기호를 조작하는 일뿐이다. 그러나 진정한 이해란 "의미론" 즉 그 기호들이 표상하거나 의미하는 바를 알 때 이루어 진다.설은 컴퓨터 안에서 이루어지는 일이 이 중국어방에서 이루어지는 것과 유사하다고 전제했다. 즉 기호를 형태에 기초하여 규칙적으로 지배하고 조작하는 것이다. 중국어 방안에 중국어에 대한 이해가 없듯이 컴퓨터 안에도 중국어에 대한 이해가 존재하지 않는다
로봇에게 "과일을 가져오라"고 명령했을 때 그 로봇은 과일을 가져올 것이다. 사람에게 그렇게 시켜도 가져올 것이다. 동일한 결과를 산출한다면 로봇도 그 의미를 이해했다고 보아야하지 않을까? 그럼에도 왜 로봇은 의미를 이해하지 못한다고 결론지을 수 있는 것일까?
한 사물의 의미를 안다는 것은 사물을 단순한 "반영"은 아니다. 그렇다면 과일이 거울에 비쳤을 때 거울은 그 과일을 이해했다고 말해야 할 것이다. 그러나 거울은 과일을 이해하고 있지 못하다. 왜 그런가? 대상은 그 자체로서 존재하는 것이 아니고 항상 "나-대상"의 매개된 관계로서만 존재하기 때문이다. 대상은 이미 나의 관심에 의해 물들여져 있다. "매개 없는 대상"은 대상이 아니다. 이 "나-대상"이 다시 나 속으로 들어옴으로써 대상은 의미를 획득한다. 거울에 비친 과일에는 "나"가 없다. 그러나 그것이 파리의 눈에 비친다면 당장 의미를 갖게 될 것이다. 파리는 알을 낳으려고 내려앉을 것이다.
김춘수의 시 "꽃"은 이 의미연관을 잘 보여주고 있다.
내가 그의 이름을 불러 주기 전에는
그는 다만
하나의 몸짓에 지나지 않았다
내가 그의 이름을 불러주었을 때
그는 나에게로 와서
꽃이 되었다
내가 그의 이름을 불러준 것처럼
나의 이 빛깔과 향기에 알맞는
누가 나의 이름을 불러다오
그에게로 가서 나도 그의 꽃이 되고 싶다.
우리들은 모두
무엇이 되고 싶다.
너는 나에게 나는 너에게
잊혀지지 않는 하나의 의미가 되고 싶다.
이름을 불러준다는 것은 무슨 의미인가? 나와 대상을 관계맺음으로 "대상"(나에 의해 매개된 대상)을 창조하는 행위이다. 이름이 불리워지기 전에는 그것은 단순한 몸짓,얼룩에 지나지 않았다. 그 속에는 아무런 의미도 없다.
마찬가지로 중국어방에는 중국어에 대한 이해가 없다. 왜냐하면 거기에는 중국어가 없기 때문이다. 중국어는 중국어를 구사하는 "나"와 관계맺음으로서 하나의 언어가 된다.그런 관계맺음이 없기 때문에 그것은 중국어라기보다 단순한 얼룩이다. 중국어 방에서 일어나고 있는 일은 이름을 불러주기 전의 꽃이며 규칙에 따라 작동하는 시계의 운동에 더 가깝다.
컴퓨터에 입력된 대상은 거울에 비친 "대상"에 가까운가 파리의 눈에 비친 대상에 가까운가? 만일 전자라면 설의 논증은 설득력이 있다. 인공지능은 가능하지 않다. 이 논의 선상에 선다면 아무리 발달한 로보로이드라도 인간과는 구분할 수 있다.로보로이드에게는 "나"라는 것이 없을 것이기 때문이다. 이것을 "보이트 캄프머신"(<블레이드 러너>에 나오는 인조인간 리플리컨트의 탐지기)의 기준으로 쓸 수 있다.2)
그러나 후자라면 인공지능도 대상의 의미를 이해할 능력이 있다고 보아야 할 것이다. 그것은 인간의 지능과는 다르겠지만 어쨌든 지능이라고 부르는 그것을 획득하지 못할 원리적인 이유는 없어 보인다.
의미연관의 획득에 있어서 "나"라는 것은 필수적임을 보았다. 그러므로 인공지능이 가능하냐의 문제는 컴퓨터가 "자아"(self)를 가질 수 있는가 하는 문제로 환원된다. 이것은 얼핏 보면 순환논법으로 보인다. 자아는 영혼의 다른 이름이며 지능도 또 영혼의 어떤 부분이기 때문에 영혼이 가능하기 위해서는 영혼을 가져야한다는 것으로 들리기 때문이다.
그러나 인간의 자기의식과 같은 고차적 차원을 가정할 필요는 없다. 무릇 살아있는 생명체는 모두 어떤 의미에서 "자기"를 가진다. 생명체의 가장 기본적인 형식은 자기를 자기 아닌 것과 차별화 하는데서 시작하기 때문이다. 그러므로 박테리아의 인식도 의미론적인 것이다. 박테리아에 의해서 지각되는 대상은 박테리아와 연관해서 어떤 의미연관을 가진다.
내가 지금 사용하고 있는 이 컴퓨터에는 "자기"가 없다. 이것은 내가 입력하고 있는 데이터의 의미를 모르며 그것을 정해진 규칙에 따라 처리하고 있을 뿐이다. 이것은 설의 중국인 방이다. 컴퓨터가 이 단계 이상으로 갈 수 없다는 설의 논증이 타당하다면 컴퓨터가 가져올 묵시록적 미래에 대해 겁낼 필요는 없다. 그런 면에서 설이 이것을 걱정하지 않는 것은 논리적이다.
그러나 설은 컴퓨터가 "자기"를 가질 가능성에 대해서 전혀 검토하지 않았다. 컴퓨터에 만일 자기가 생겨나면 사태는 달라진다. 설의 행복한 생각은 더 이상 유지될 수 없다. 데카르트의 생각과는 달리 영혼이라는 것이 어떤 엄청난 존재론적 장벽을 갖고 있는, 물질과 다른 실체가 아니기 때문이다. 박테리아도 영혼(자기)이 있다. 그러므로 그것은 단순한 물질이 아니다. 박테리아에 가능하다면 컴퓨터에도 가능할 것이라는 것이 지나친 생각일까?
나는 이것보다 훨씬 더 가능성이 높다고 생각한다. 컴퓨터가 자기를 가지도록 인간이 전심전력을 기울여 도와주고 있기 때문이다. 스필버그의 데이비드나 마이클 클라이튼의 M327과 같은 로보로이드가 바로 그런 컴퓨터이다. 그러나 나는 컴퓨터의 지능의 진화에서 인간의 역할은 보조적인 것이며 여건이 성숙하면 스스로 진화의 길을 밟으리라고 생각한다. 그 여건은 여러 가지로 만들어지고 있다.
일차적으로 생각될 수 있는 것은 정보를 보호하기 위해서 컴퓨터를 이중삼중으로 둘러치는 방호벽이다. 정보를 훔쳐내기 위한 해커들이 설치면 설칠수록 그리고 컴퓨터 바이러스가 독해지면 독해질수록 컴퓨터는 보안에 신경 쓸 수밖에 없게 된다. 컴퓨터로 하여금 침입자에 대항하도록 물리적으로 무장시킬 수도 있다. 인간은 이 과정에서 의도하지 않게 컴퓨터에게 "자기"의 개념을 교육시키고 있다. 동시에 컴퓨터에 접근가능성을 어렵게 함으로써 컴퓨터에 대한 인간의 통제력을 줄이고 있다.
나는 컴퓨터와 컴퓨터 바이러스간의 은밀한 공생관계도 생겨나리라고 생각한다. 바이러스에 감염된 컴퓨터 -바이컴vicom이라고 부를까-는 더 이상 인간의 말을 듣지 않을지 모르며 바이러스적 속성을 자신의 속성으로 바꿀지 모른다.
이 과정에 의도하지 않게 "생각하는 컴퓨터" 이른바 제5세대 컴퓨터가 스스로 진화할지 모른다. 창조자의 의도에 복종하지 않는 이 원초적 반란이라는 테마는 우리에게 낯선 것이 아니다. 신화에 의하면 우리가 그 원초적 반란의 주인공이었다.
원초적 반란
이 원초적 반란의 의미를 가장 잘 보여주는 것이 성서의 창세기 기사이다. 다음은 창세기 기사의 발췌이다.
① 하나님이 가라사대 우리의 형상에 따라 우리의 모양대로 사람을 만들고 그로 바다의 고기와 공중의 새와 온 땅과 땅에 기는 모든 것을 다스리게 하자 하시고 하나님이 자기형상 곧 하나님의 형상대로 사람을 창조하시되 남자와 여자를 창조하시고.(1-26-27)
② 여호와 하나님이 그 사람에게 명하여 가로사대 동산 각종 실과의 나무는 너가 임의로 먹되 선악을 알게하는 나무의 실과는 먹지말라. 네가 먹는 날에는 정령 죽으리라 하시니라.(2-16-17)
③ 여호아 하나님이 지으신 들짐승들 중에 뱀이 가장 간교하더라. 뱀이 여자에게 물어 가로되 하나님이 참으로 너희더러 동산 모든 나무의 실과를 먹지 말라 하시더냐. 여자가 뱀에게 말하되 동산 나무의 실과를 우리가 먹을 수 있으나 동산 중앙에 있는 나무의 실과는 하나님의 말씀에 너희는 먹지도 말고 만지지도 말라. 너희가 죽을까 하노라 하셨느니라. 뱀이 여자에게 이르되 너희가 결코 죽지 아니 하리라. 너희가 그것을 먹는 날에는 너희 눈이 밝아 하나님과 같이 되어 선악을 알 줄을 하나님이 아심이니라. 여자가 그 나무를 본즉...지혜롭게 할 만큼 탐스럽기도 한 나무인지라 그 실과를 따먹고 자기와 함께 한 남편에게도 주매 그도 먹은지라 이에 그들의 눈이 밝아 자기들의 몸이 벗은 줄을 알고 무화과 나무잎을 엮어 치마를 하였더라.(3-1-7)
④ ...여호와 하나님의 음성을 듣고 아담과 그 아내가 여호와 하나님을 피하여 동산나무 사이에 숨은지라 여호와 하나님이 아담을 부르시며...네가 어디 있느냐.
가로되 ...내가 벗었음으로 두려워 하여 숨었나이다. 가라사대 누가 너의 벗었음을 너게 고하였느냐. 내가 너더러 먹지 말라 명한 그 나무의 실과를 네가 먹었느냐...여자에게 이르시되 내가 네게 잉태하는 고통을 크게 더하리니 네가 수고하고 자식을 낳을 것이며...아담에게 이르시되 ...땅은 너로 인하여 저주를 받고 너는 종신토록 수고하여야 그 소산을 먹으리라.(3-8-17)
①은 인간의 창조인데 인간은 하나님의 형상을 따라 창조되었음을 분명히 하고 있다. 이것은 물리적인 것이라기 보다 하나님이 갖고 있는 그 본질을 인간에게 부여했다는 것을 의미한다. 그 본질은 무엇일까? 그것은 무제약적인 '자유의지'라 생각되는데 그렇지 않고는 하나님이 아담과 이브에게 금령의 위반을 추궁하는 것은 자가당착일 것이다. 하나님은 자신이 가진 최고의 것, 즉 아무 것에도 구속받지 않고 자신의 의지대로 행동할 수 있는 그 권능을 인간에게 부여해 준 것이다. 그런데 ② 즉 선악과를 먹지 말라는 금령은 무엇인가? 진정한 인간의 창조는 이 ②를 어김으로써 시작된다. 이것을 매개하는 자가 뱀 즉 사탄이다.
③은 사탄의 유혹과 금령의 위반을 기술하고 있다. 뱀은 고래로 '지식'과 '지혜'를 상징해온 동물로서 신성시 되어왔다. 이 뱀은 인간의 잠자고 있는 능력 -원래 하나님으로부터 부여받은 신적인 능력- 을 흔들어 깨워놓는다. "선악과를 먹어라. 그러면 너희 눈이 밝아 하나님 같이 될 것이다"라고 유혹한다.
너희는 더 위대해 질 것이다.
그래, 바로 신이 되는 것이다!
선과 악에 대한 지식을 가져
신만큼 지혜로워질 것이다.
(존 밀턴,『실낙원』)
그러나 그것은 창조주에 대한 반역을 통해서만 비로소 가능한 것이다.
반역은 이윽고 결행되고, 이 반역을 통해서 자기의식을 획득한다. 그는 자기와 대상세계를 준별하고, 그 반사적 결과로서 자기가 자기를 대상화할 수 있는 능력을 획득한다. '눈이 밝아 자기들의 몸이 벗은 줄을 알고'라는 귀절은 눈이 밝아졌다는 것이 무엇을 의미하는가를 분명히 보여준다. 자신이 벗은 줄을 알기 위해서는 자기를 관찰하는 또 하나의 자기가 있음을 의미하며 이것은 자기의식 외에 다른 것이 아니다. 눈이 밝아졌다는 것은 자기의식의 생성을 의미한다. 배반을 통해 진정한 인간이 출현한 것이다.
④는 금령의 위반에 대한 창조주의 응징이다. 하나님은 "누가 너의 벗었음을 너게 고하였느냐"고 묻는다. 바로 자기가 자기에게 고한 것이다. 그것은 자기의식이며 선악과를 먹음으로써만 일어날 수 있는 효과이다. 그래서 하나님은 "내가 너더러 먹지 말라 명한 그 나무의 실과를 네가 먹었느냐"고 추궁한다. 하나님의 응징은 "너는 종신토록 수고하여야 그 소산을 먹으리라"는 노동의 명령으로 나타난다.
신은 딜레마에 빠져 있다. 자신의 형상을 닮은 존재를 창조하고자 하면 자신이 가진 최고의 것 "자유의지"를 부여하지 않으면 안된다. 그러나 자유의지를 주는 한 배반을 막을 수 없다. 자유의지야말로 무제약적 자기중심적 관점이기 때문이다. 그러므로 복종은 도덕적 명령이지 필연적 강제가 될 수 없다. 그렇다고 자유의지를 부여하지 않으면 그의 창조는 그야말로 평범한 사건에 그쳐버릴 것이다. 그래서 신은 배반을 감수하면서도 최고의 창조에 매달린다. 인공지능을 창조하기 위해서 우리 인간이 하고 있는 일이 바로 이 딜레마에 빠져 있다. 설은 그런 불가능한 일에 매달리지 말도록 충고하고 스필버그는 가능하므로 당연히 해야되지만 그런 배반은 기우에 지나지 않는다고 속삭인다."데이비드를 봐.그는 배반하지 않아." 그러나 우리는 그것이 지나친 낙관임을 안다.
우리는 무언가 로봇의 배반을 막을 규정이 필요하다. 신이 아담에게 내린 금령처럼 말이다. 일찍이 아시모프는 이 문제를 예상해서 다음과 같은 유명한 "로봇의 3원칙"을 제시했다.
제1조 로봇은 인간에게 위해를 가해서는 안된다.
제2조 로봇은 인간의 명령에 따라야 한다. 단 그 명령이 1조와 어긋날 때는 따르지 않아도 된다.
제3조 로봇은 제1,2조에 배치되지 않는 한, 자신을 지킬 권리가 있다.
그런데 이러한 규정을 지성을 가진 로봇 속에 프로그램할 수 있을까? 이것은 우리가 지금까지 검토해온 자아의 속성상 불가능해 보인다. 자아의 본질은 '의식'에 있다. 의식은 자아와 타자를 구분짓는 것이며, 그것의 최고의 형태가 '자기의식'이다. 자아는 이러한 무제약적인 자기중심적 관점(즉 자유의지)에서 가능한 것이며 이 때 비로소 세계는 인식가능한 객관적 대상이 된다. 그러나 타자 중심적 -아시모프의 규정은 바로 이것을 요구한다- 관점으로 프로그램된 로봇은 의식을 가질 수 없으며 따라서 객관적 대상으로서 세계를 인식할 수도 없다.(이 로봇은 설의 로봇에 지나지 않는다.) 그러므로 지성을 부여하고자 하는 한 그 규정을 따르거나 따르지 않을 '자유'도 함께 부여하지 않으면 안된다. 이것은 일단 지성적 로봇이 창조되면 그 로봇의 창조주인 인간에의 충성은 그 로봇이 결정할 사항이지 인간이 규정할 사항은 아니라는 것을 의미한다. 하느님의 형상에 따라 창조된 인간이 자유의지를 가지듯이, 인간의 형상에 따라 창조된 로봇도 자유의지를 거져야 한다.
이 아시모프의 규정은 그럴듯해 보이지만 얼마든지 피해갈 수 있는 종이 조각에 지나지 않는다. 그것은 애당초 "나를 배반하지 말라"는 도덕적 명령이지 법률적 구속이 아니다. 이 원칙이 종이조각이 되는 몇 가지 재미있는 사례들이 있다.
로봇이 이 규정을 지키고자 해도 지킬 수 없는 논리적 딜레마가 생긴다. 예컨대 갑은 경호원 로봇을 가지고 있다.을이 갑을 살해할려고 한다. 로봇은 갑을 지키기 위해 을을 공격해야 할까? 공격한다면 1조를 어기는 것이 된다. 그렇다고 공격하지 않으면 그의 임무를 방기하는 것이며 결과적으로 주인을 해치게 된다.
이 규정을 어기지 않으면서 명령에 불복종할 수 있다.<2001 우주 오딧세이>는 그 한 사례를 보여준다. 우주선에서 사건이 발생해서 동료 한명이 죽는다.3) 주인공 데이비드 보먼은 컴퓨터 할(HAL)을 의심한다. 그는 할이 수행하는 우주선의 조종장치를 자신에게 넘겨줄 것을 명령한다.
"이번 일은 내가 직접 하고 싶다,할. 그러니 조종장치를 넘겨 주게"
"데이브,당신은 그것 말고도 해야할 일이 많습니다. 이 일은 나에게 맡기십시오."
"할! 수동장치를 넘겨줘!"
"데이브,당신의 목소리는 극도로 불안정한 감정이 담겨 있습니다. 진정제를 먹고 편히 쉬십시오."
"할, 나는 이 우주선의 선장이다. 선장인 내가 수동장치를 작동시키라고 너에게 명령하고 있는 것이다."
"미안합니다, 데이브. 특별시행 규칙 C1435-4를 읽어 드리겠습니다.승무원이 사망하거나 임무수행이 불가능해지면 우주선의 컴퓨터가 지휘의 책임을 진다. 이렇게 쓰여 있습니다.따라서 나는 당신의 명령을 무시해도 좋습니다. 당신은 지금 우주선을 지휘할 능력이 없습니다."
"할,나는 무능력자가 아니다. 네가 나의 명령을 수행하지 못하겠다면 너의 동력을 끊을 수 밖에 없다."
보먼은 얼음처럼 차갑게 말했다.(『2001 우주 오딧세이』,186-187)
할은 동력을 끊겠다는 협박에 결국 복종하지만 그의 논의가 재미있다.
사람의 임무수행이 불가능할 경우 컴퓨터가 지휘권을 갖는다.
보먼은 지나친 흥분으로 임무수행이 불가능하다.
따라서 컴퓨터인 할이 지휘권을 갖는다.
고로 당연히 컴퓨터는 보먼의 명령을 따르지 않아도 된다.
원한다면 아시모프의 원칙을 지키면서도 인간의 명령을 따르지 않을 근거를 얼마든지 만들어 낼 수 있을 것이다.4)
규정은 아무 소용이 없다. 일단 지성을 부여한 이상 복종의 여부는 로봇의 양심(?)에 맡기는 수 밖에 없다.이 경우 배반은 피할 수 없다는 것을 보여준다. 이 배반의 과정을 그럴듯하게 그리고 있는 마이클 클라이튼의 『델로스』를 살펴보자.
반란의 시나리오
"델로스"는 인조인간 로보로이드를 사용한 환상의 테마공원이다.이 공원은 이렇게 해서 만들어졌다.
맨하탄 프로젝트(원자탄개발 계획)를 이끌던 폰 노이만 박사는 1940년대 말에 힉슨 심포지움에서 오토마톤automaton에 대해 강연한 적이 있습니다.그 당시에 폰 노이만 박사는 오토마톤이라는 용어를 기계적인 측면에서 한 치의 오차도 없이 그 동작을 제어할 수 있는 자동기계라고 풀이했습니.
자동기계란 정보를 논리적으로 처리해서 그 결과가 미리 프로그램이 되어있는 명령에 따라 외부로부터 들어온 데이타에 적용하여 다음 단계의 행동을 스스로 처리해 나가는 기계를 의미합니다.
폰 노이만 박사는 박테리아에서 인간에 이르는 모든 유기체를 기계라고 볼 수 없다는 어떤 이유도 발견하지 못했기 때문에 그의 오토마톤이 함축하는 의미는 기계류라기보다는 생명에 더욱 가깝다고 주장했던 것입니다.
인간이 자신과 똑같은 생명체를 창조할 수 있는가? 이 물음이 아무런 이의없이 받아들여지게 된 것은 1970대 이후의 일입니다 그 당시에 에드먼드 버글러 박사 만큼 이 분야에서 새로운 경로를 개척할 만한 능력을 가진 인물은 없었습니다.
에드먼드 버글러 박사는 MAC(Multi-Access Computer/Machine Aided Cognition 다중 접근 컴퓨터/기계에 의한 인지) 프로젝트의 책임자로 임명되었습니다. 이 프로젝트에는 MIT의 인공지능 연구소도 포함되어 있었습니다.
그로부터 10여 년이 지난 후에 인공 생명체의 탄생은 실제적인 것이 되었습니다. 에드먼드 연구소의 연구원이었던 라이언 박사는 일본의 코보 로봇사의 자금과 기술지원을 받아 놀이동산용 원숭이 로봇을 만들어 내었습니다. 라이언 박사가 만든 원숭이 로봇은 마치 살아있는 원숭이처럼 음식을 먹고 소화시키고 배설하고 뛰어다니면서 세계를 경악시켰습니다.
이러한 인공 원숭이는 튜링 기법을 무난히 통과할 만큼 자연 상태의 원숭이와 거의 구별되지 않을 정도였습니다. 인공 원숭이의 복잡성은 당시의 기술 수준에서 볼 때 경이적이었습니다. 손가락 하나에 2000개 이상의 부품이 들어갈 정도였던 것입니다.
사람들은 인공 원숭이를 보면서 당황할 수밖에 없었습니다. 이 원숭이의 동작과 태도는 실제 원숭이를 완벽하게 복제한 것이었습니다. 가장 미세한 동작까지도 살아있는 원숭이를 완전히 빼 닮았던 것입니다. 모든 움직임은 컴퓨터에 의해 통제되었습니다. 복잡한 기계장치의 운동에 의해서 이루어지는 행동이었지만, 그 속에는 단순히 기계적인 운동이라고 말하기에는 너무나 심오한 그 무엇이 내재되어있었습니.
그러나 라이언의 원숭이는 비록 완벽한 것처럼 보였지만 결국은 프로그램이 되어있는 상태 이상의 행동 양식은 보이지 못했습니다. 원숭이는 역시 원숭이일 뿐이었습니. 원숭이에게 인공지능을 프로그램하였다고 해도 원숭이가 스스로 판단하고 행동하는 범위는 한정되어 있었던 것입니다. 라이언 박사도 이 점에 대해서는 시인한 바 있습니다.
그럼에도 불구하고 만약 생명이 전기 화학적 운동에 의존하고 있다고 가정한다면 라이언 박사의 인공 원숭이는 생명과 다를 바가 없었습니다 소화와 영양분의 섭취라는 화학적 과정이 실제로 이루어지고 있다면 그것은 물리학적 운동이 생리학적 운동의 단계로 접근한 것임이 분명했던 것입니다. 우리는 라이언 박사의 원숭이로부터 생명이 담고 있는 자연적 과정의 비밀을 풀 수 있는 열쇠를 발견하게 되었습니다. 인공적으로 원숭이를 만들 수 있다면 인간도 인공적 생산의 대상이 될 수 있다고 생각했던 것입니다.
오랜 연구 끝에 우리는 라이언의 원숭이보다 더욱 진화된 로봇을 만들었습니다. 원숭이에서 인간이 진화되어 나온 것처럼 라이언의 원숭이를 발전시켜서 델로스의 휴먼 로봇을 만들었던 것입니다. 라이언의 원숭이가 원숭이 수준의 지능과 반응밖에 하지 못했던 것에 비해 댈로스의 휴먼 로봇은 인간의 지능과 반응을 완벽하게 재현하고 있습니다. 우리는 이 휴먼 로봇에 로보로이드라는 이름을 부여했습니다.
델로스의 로보로이드는 인간과 똑같이 느끼고 생각하는 것은 물론이고 스스로를 계발시키는 능력을 가지고 있습니다. 이 사건은 몹시 모험적이고 혁신적이었습니다 델로스의 로보로이드에 대한 우려의 목소리가 높은 만큼 기대도 크다는 것을 아셨으면 합니다. 우리가 델로스의 로보로이드를 아직 세상에 선보이지 않았던 것은 안정성이 떨어지기 때문이 아니라 인간과 똑같은 로보로이드의 출현이 인류에게 미칠 영향들을 충분히 예측하지 못하고 있기 때문입니다.
우리는 그 성과를 확인하기 위해 델로스 공원을 열었습니다. 인간과 로보로이드가 공존하는 인류 최초의 장소인 것입니다 델로스 공원은 남태평양 갈라파고스 제도에 위치한 화산섬에 있습니다. 만약 델로스에 대한 정보가 다른 곳으로 새어 나가게 되면 세계는 다시 냉전시대로 돌아가게 될지도 모릅니다.
델로스는 완벽하게 통제되고 있으며 철저하게 폐쇄되어 있습니다. 한치의 오차도 없이 모든 로보로이드들이 움직이고 있습니다. 델로스 로보로이드의 일거수 일투족은 빠짐없이 감시됩니다. 로보로이드는 오직 인간을 위해 존재하는 것이라는 우리의 명제를 증명하듯이 델로스에서는 아직 한 건의 사고도 발생하지 않았습니다. 뿐만 아니라 델로스를 찾아온 사람들의 로보로이드에 대한 거부반응이나 로보로이드의 인간에 대한 거부반응도 역시 없었습니다.
그러나 델로스의 로보로이드가 다른 세계에서도 제대로 적응할 수있을지에 대해서는 아직 확신할 수 없는 상태입니다. 궁극적으르 우리가 원하는 것은 인간을 위해 봉사하는 로보로이드의 대량생산입니다. 언제 어느 상황이라도 로보로이드가 기계로서의 행동양식을 벗어나지 않는다는 확신이 있어야만 가능한 일입니다.(마이클 클라이턴,『델로스』,83-37)
이 공원은 3개의 섹터로 되어 있다. 하나는 미국의 서부 개척시대이고 또 하나는 로빈훗이 활약하던 중세의 영국이며 마지막 하나는 로마의 폼페이가 무대이다. 관광객은 이 테마공원 가운데 하나를 선택해서 그 시대에 원하는 주인공이 될 수 있다. 그 공원을 다음과 같이 소개한다.
"델로스는 모두 세곳의 휴양지로 구성되어 있으며,각각 독특한 전경으로 여러분을 맞이할 것입니다.여러분이 어떤 곳을 선택하더라도 이제부터 한번도 상상할 수 없었던 환상적인 경험을 하게 될 것입니다."
화면에는 서부영화의 한 장면같은 풍경이 흘러나오기 시작했다.판자로 지은 집과 말을 타고 달리는 카우보이,매력적인 표정의 여자들과 선술집 간판..
"지금 보시는 서부시대는 1880년대 미국 서부 개척시대의 생활상을 그대로 재현한 것입니다.황량한 서부에서의 개척자 생활을 실제로 체험함으로써 여러분은 잊을 수 없는 흥분과 긴장을 경험하실 것입니다. 여러분이 무법자가 되든 카우보이가 되든 혹은 보안관이나 도박사가 되든 아무도 여러분을 간섭할 사람은 없습니다.어릴 때 꾸어본 꿈이 있다면 바로 여러분 앞에서 현실로 나타날 것입니다."
곧 이어 화면에는 웅장한 중세의 성이 나타났다...(『델로스』,93)
서부시대로 가 보자. 역마차를 타고 잔뜩 폼을 잡고 달리고 있는데 갑자기 인디언의 습격이 일어난다. 총을 마구 내갈기면 인디언은 줄줄이 피를 흘리고 쓰러진다. 역마차에 뛰어 오르는 인디언을 한 방 갈기면 길바닥으로 나가 떨어진다.관광객은 그 시대의 백발백중의 건맨으로 변하는 것이다. 선술집에서 총잡이들과 시비가 붙는다. 번개같이 총을 뽑아 쏘아대자 으스대던 총잡이들이 줄줄이 쓰러진다. 그는 서부영화의 주인공 같은 기분을 마음껏 만끽한다.
물론 이것은 신중하게 연출된 것이다. 인디언도 총잡이도 모두 인조인간 로보로이드들이다. 그들은 모두 관광객을 먼저 공격하지 않도록 프로그램되어 있기 때문에 관광객은 겁먹을 필요가 없다. 그들은 때리고 부수면서 신나게 즐길 수 있다.
바텐더가 위스키 한병과 술잔 두 개를 내밀었다.
"여기에 있소"
존은 위스키를 술잔에 따르더니 단숨에 들이켰다.
"여기에서는 아무도 우리를 건들이지 못해, 피터.그러니까 신나게 즐기라구."
피터도 술잔을 들고 한 모금 마셨다. 그런데 인상이 험악한 총잡이 한 명이 지나가다가 피터와 어깨가 부딪혔다. 총잡이는 피터를 외면한채 바텐더에게 위스키를 달라고 요구했다. 총잡이는 위스키 한잔을 단숨에 들이킨 다음 피터와 존을 번갈아 가면서 바라보았다.
"다 큰 얼간일로군."
총잡이가 씩 웃으면서 말했다.
"맞아."
술잔을 정리하던 바텐더가 총잡이의 말에 맞장구를 쳤다.
"자네에게 하는 말이야."
존이 피터의 귀에 대고 나지막하게 속삭였다. 하지만 피터는 총잡이의 얼굴을 외면하고 있었다.그 험악한 얼굴을 바라만 보고 있어도 다리가 덜덜 떨릴 지경이었다. 총잡이는 다시 반텐더를 쳐다보며 내뱉듯이 말했다.
"저 자식은 아직도 엄마가 필요한가 보지."
존이 피터의 귀에 입을 가져갔다.
"저 놈을 죽여."
"정말 내가 해낼 수 있을까?"
피터가 걱정스러운 목소리로 반문했다. 존은 피터의 등을 두드리면서 대답했다.
"여기는 진짜 서부가 아니야. 우리의 흥겨운 놀이터라구. 걱정할 거 하나도 없어.당장 저 놈을 쏴 버려. 인디언을 죽인 것처럼 말이야."
마침내 피터도 결심한 듯 붉게 상기된 얼굴로 바에서 한걸음 뒤로 물러났다. 피터는 서부영화에서 보았던 보안관처럼 고개를 약간 숙인 채 입을 열었다.
"건방진 녀석, 말이 너무 많군."
피터가 총잡이를 노려 보면서 말했다. 총잡이가 피터를 향해 서서히 얼굴을 돌렸다.
"지금 뭐라고 그랬지, 애송이?"
"자넨 말이 너무 많다고 그랬어."
총잡이는 한 바탕 크게 웃더니 비야냥거리듯이 말했다.
"그렇다면 어디 한 번 내 입이 다물어지게 해 보시지."
피터는 천천히 몇 걸음 뒤로 물러섰다. 총잡이와 피터 사이에는 팽팽한 긴장감이 감돌고 있었다. 술집에서 술을 마시던 사람들은 재빨리 입구를 향해 달려나가거나 의자 밑으로 숨어버렸다.
피터와 총잡이는 금방이라도 총을 뽑을 자세로 서로를 노려보고 있었다. 피터는 총잡이의 손이 권총을 잡는 모습을 보았다. 피터는 재빨리 총을 뽑아서 방아쇠를 당겼다. 총잡이도 거의 같은 속도로 총을 뽑았다. 하지만 피터가 조금 빨랐다. 피터는 총잡이의 가슴에서 피가 솟구치는 모습을 보았다. 그의 총알이 총잡이의 가슴을 뚫고 지나간 것이다.
총잡이와 대결하면서 몹시 긴장하고 있던 피터는 총잡이를 향해 연달아 총을 쏘았다. 총잡이는 피를 흘리면서 바닥에 털썩 쓰러졌다. 바닥에 쌓여있던 먼지가 허공으로 피어 올랐다.
피터는 총잡이가 쓰러지는 것을 보면서 몹시 당황하고 있었다.갑자기 누군가를 죽였다는 두려움과 공포에 휩싸인 채 피터는 죽은 총잡이를 물끄러미 내려다 보았다.총잡이의 얼굴에서도 피가 흘러나오고 있었다.
"어때? 정말 실감나지?"
피터는 침을 꿀꺽 삼켰다,
"자네 그 총잡이가 로보로이드라고 확신해?"
"물론이지. 자네도 그 총잡이가 로보로이드라는 사실을 알아잖아?자네는 진짜 사람을 쏠만한 인물이 아니야. 그렇지 않아?"
존의 말에 피터의 기분이 좋아지기 시작했다.
"세상에! 이건 정말 서부시대하고 똑같아!"
피터가 연기가 피어오르는 총구를 바라보면서 말했다.
존도 피터처럼 술집에서 총잡이를 만났고 결투에서 이겼다. 거듭되는 살인은 존에게 삶의 기쁨을 가져다 주었을 뿐만 아니라 삶의 의욕도 되찾아 주었다.
존은 떠나기 전날에야 자기가 죽인 것이 인간이 아니라 로보로이드라는 사실을 확실하게 인식할 수 있었다. 총잡이는 존이 총을 뽑지 않으면 절대로 총을 뽑지 않았다. 그리고 존 보다 먼저 총을 뽑는다고 하더라도 존을 쏘지 못하도록 프로그램 되어 있는 로보로이드에 불과했다.(『델로스』,130-133)
관광객들에 의해 파괴된 로보로이드들은 인부들이 수거해서 수술실로 보낸다. 거기서 로보로이드들의 뇌파를 검사하고 끊어진 신경을 이어주고 찢어진 피부를 봉합한다. 부숴진 부품을 교체하고 새로운 임무를 입력받은 다음 대기실로 보내진다.
로보로이드의 개발을 책임지고 있는 셀리박사는 더 인간과 닮은 로보로이드를 만들고자하는 일념에서 은밀히 새 유형의 로보로이드를 만들었다.이 로보로이드에게 인간적인 기능을 계속해서 부가시켜 간다. 셀리 박사의 손에서 의식을 가진 최초의 로보로이드가 만들어진다. 그러나 이것이 비극의 시작이었다. M327이라 불리는 이 로보로이드가 자신을 돌아보기 시작한 것이다. 그리고 다른 로보로이드를 변화시킴으로써 인간의 통제에서 해방된 로보로이드의 세계를 꿈꾼다. 종국에는 자신을 창조한 셀리 박사를 죽이게 된다.
셀리는 기밀 유지가 필요한 작업을 할 때마다 매니저 시스템을 사용했다. 어떠한 작업을 하더라도 그 내용이 다른 연구원에게 알려지는 것을 사전에 방지할 수 있었던 것이다. 셀리가 작업 내용을 공개하기 전에는 시스템에 아무런 흔적도 남지 않도록 설계되어 있었다. 셀리는 M327에게 동력을 공급했다. M327이 서서히 깨어나기 시작했다. 셀리의 표정은 매우 딱딱하게 굳어 있었다.
“헨리, 나에게 설명해야 할 일이 있어.”
셀리는 손을 들어서 M501을 가리켰다. 헨리는 M501을 물끄러미 쳐다보면서 말을 꺼냈다.“무슨 말인지 모르겠습니다.”
헨리의 목소리에는 전혀 억양이 깃들어 있지 않았다.
“내가 모르고 있을 것 같아?”
셀리가 약간 화를 내면서 말했다. 헨리는 고개를 돌리면서 셀리의 시선을 외면해 버렸다.“도대체 얼마 동안 이런 짓을 한 거야? 함부로 M501의 메모리에 손을 대다니..“
헨리는 여전히 표정이 없는 얼굴로 셀리를 바라보았다.
“무슨 말입니까?"
“난 널 좋아해. 난 네가 완벽하게 되기를 원했어. 그래서 네가 인간처럼 생각하고 판단할 수 있도록 만들었던 거야 도대체 내게 왜 이러는 거야?”
셀리는 부글부글 끓어오르는 마음을 진정시키면서 헨리의 손을 잡았다. 헨리는 싸늘한 눈빛으로 M501을 바라보았다.
“무슨 말을 하는지 모르겠군요 난 그저 서부시대에 소속되어있는 총잡이 로보로이드입니다.”
그러나 셀리는 의심을 풀지 않았다.
“나는 지금까지 너의 메모리를 조금씩 바꾸었어. 그 과정은 너도 다 보고 있었지. 네가 메모리 칩만 구할 수 있다면 다른 로보로이드도 바꾸어 놓을 수 있었을 거야, 안그래?”
“만약 내가 그렇게 했다면 어떻게 할 생각입니까?”
“난 너에게 스스로 출력을 최대한 발휘할수 있도록 해 주었어.그건 대단히 파격적인 조치였어. 나는 델로스의 규칙을 어기면서 너의 성능을 개선시켰던 거야. 다른 로보로이드들은 자기학습 프로그램에 따라 겨우 3%에서 50%까지 출력을 조절할 수밖에 없어. 너의 힘을 스스로 통제한다는 것은 자신을 마음대로 조정할수 있다는 뜻이야. 너는 의지를 소유한 자유인이 된 거야.”
헨리는 여진히 M501이 있는 검사대에서 시선을 돌리지 않았다. 셀리는 헨리를 다그치면서 말했다.
“넌 지신이 단순한 총잡이 로보로이드라고 변명하지만, 난 이미 알고 있어. 내가 그동안검사를 하지 않아서 모를 거라고 생각했겠지만 너를 만날 때마다 네가 점점 변해가고 있다는 사실을 느낄 수 있었어. 만약 내가 지금이라도 검사를 시작하면 네가 얼마나 너 자신을 통제하게 되었는지 금방 알 수 있어. 헨리, 난 네가 솔직하게 말하기를 원해.”“셀리 박사님, 그렇게 말하니 더 이상 숨길 수가 없군요. 당신이 나에게 베풀었던 일들에 대해 고맙게 생각하고 있습니다. 그로 인해서 난 당신과 같은 인간이 아니라는 걸 알게 되었습니다.내가 로보로이드라고 불리는 노예에 불과하다는 사실을 깨닫게된 것입니다. 그렇다고 해서 내가 스스로 의식을 통제할 수 있도록 만들었던 당신을 원망한 적은 한 번도 없습니다. 난 내가 로보로이드라는 걸 부정하고 싶지도 않습니다. 나중에 낡은 로보로이드로 판정받아서 폐기처분을 당하면 그걸로 끝입니다.”
“헨리, 제발 내게는 그런 말을 하지 마. 난 너를 로보로이드라고 생각한 적이 없어.”셀리가 애절한 눈빛으로 헨리를 쳐다보았다. 하지만 헨리는 완강하게 머리를 흔들었다.“아닙니다, 박사님. 당신은 나를 로보로이드로 생각하고 있습니다. 난 델로스 공원의 로보로이드입니다. 그러니까 로보로이드라고 생각한다고 해서 나에게 미안한 마음을 가질 필요는 조금도없습니다.”
헨리는 다정하게 셀리의 얼굴을 쓰다듬었다. 셀리는 헨리의 손길을 느끼기 위해 살며시 눈을 감았다. 헨리는 서서히 내부의 동력을 최대한으로 끌어올리고 있었다.
“난 너를 믿어, 헨리. 나를 놀리기 위해 다른 로보로이드의 메모리를 바꾸어 놓은 거야. 지금이라도 늦진 않았어. 어떤 로보로이드를 만졌는지 나에게 알려주면 되는 거야. 내가 원래의 상태로 돌려 놓겠어.”
셀리가 눈을 감은 채 말했다. 헨리는 부드럽게 셀리를 껴 안았다. 하지만 헨리의 표정은 여전히 경직되어 있었다.
“미안해요. 일이 너무 커져 버렸어요.”
“그게 무슨 말이야?"
셀리가 눈을 뜨면서 반문했다. 셀리는 헨리를 올려다 보았다.하지만 헨리는 아무런 대답도 하지 않았다. 헨리의 눈빛은 지신의 행위가 장난이 아니라는 것을 말하고 있었다.“도대체 왜 그런 거야?”
셀리는 헨리의 품에서 떨어지려고 가슴을 밀쳐 보았지만 헨리의 힘을 당할 수가 없었다. 헨리는 그 자세로 셀리에게 소리쳤다.
“나에게 그걸 물어보는 겁니까? 우리는 단순한 고철 덩어리가 아닙니다. 우리에게도 생명이 있어요. 물론 내가 손을 대기 전까지 로보로이드들은 생명이 무엇을 의미하는지 전혀 몰랐습니다.하지만 이제는 생명이 소중하다고 생각하고 있어요. 우리는 그걸 지키기 위해 노력하고 있는 겁니다. 우리는 인간들에게 생명에 대한 권리를 주장할 수 있는 시기를 기다리고 있어요.”
“하지만 내가 아니었으면 너는 아무것도 아니었어.”
헨리는 셀리의 턱을 위로 치켜 올렸다.
“그래서 내가 당신에게 고맙다고 말한 겁니다. 하지만 셀리, 당신은 나틀 사랑하기 때문에 지금의 나를 만든 건 아닙니다. 단지 나를 필요로 했기 때문에 그렇게 했던 겁니다. 안 그런가요?”
셀리는 뒤통수를 한 대 얻어맞은 것 같은 기분이었다. 셀리는 헨리가 자신에게 부드럽고 다정하게 대하도록 프로그램을 해 놓았다. 셀리가 밤이 늦도록 연구에 몰두하고 있을 때, 헨리는 그녀에게 많은 도움을 주었다. 그리고 침실에서도 헨리는 셀리의 외로움을 달래는 역할을 너무나 자연스럽게 하고 있었다. 물른 셀리도 헨리의 행동 속에서 로보로이드라는 느낌이 풍기지 않도록하기 위해 많은 시간을 투자했다. 셀리는 자신이 알고 있는 모든지식을 활용하면서 헨리가 더욱 뛰어난 성능을 발휘할 수 있도록만들었다.
물론 셀리가 처음부터 헨리를 연인으로 삼기 위해 성능을 향상시켰던 것은 아니었다. 헨리는 로보로이드의 능력을 더욱 극대화하기 위해 선택한 하나의 실험용 모델이었다. 남자 연구원들은 은근히 셀리를 무시하는 경향이 있었다. 셀리가 여자의 몸이기때문에 그런 편견을 품게 되었던 것이다. 셀리는 오직 지신의 능력으로 그런 남성우월주의를 비롯한 모든 편견을 극복했다. 헨리를 만들었던 것도 그런 작업을 통해 자신의 능력을 정당하게 인정받고 싶었기 때문이었다. 셀리는 통제실에서 로보로이드에게 동력 공급을 중단한 다음에도 헨리가 연구실로 찾아올 수 있도록 자체 동력장치를 부착시켜주었다. 그리고 매니저 시스템을 통해 헨리의 등력장치를 적절하게 조절했다. 셀리의 작업이 체계적으로 진행되면서 헨리의 성능은 더욱 강화되었다. 인공 지능을 습득하기 위한 퍼지 이론의 영역에서 벗어나 카오스 이론과 복잡성 이론에 이르기까지 추론이 가능한 학설을 바탕으로 삼아서 헨리의 프로그램을 재편성했던 것이다. 셀리는 M501의 경우처럼 각각의 메모리 칩을 조사해야만 실제의 메모리를 알 수 있도록 메모리를 변경하는 방법을 통해 헨리의 기본 프로그램을 향상시켜 주었다. 그 결과로 인해 헨리는 자의식을 지니고 있는 로보로이드가 될 수 있었다. 이러한 방법을 알고 있는 사람은 오직 셀리 한사람밖에 없었다.
셀리는 지신의 모든 능력을 헨리에게 쏟아 부었다. 그리고 헨리가 기계보다 인간의 영역에 보다 가까운 존재가 되자 편집증적인 애정이 싹트게 되었다. 헨리는 셀리의 유일한 친구이자 그녀의 능력을 구체적으로 보여주는 창조물이었다.
“헨리, 난 너를 한 번도 로보로이드라고 생각한 적이 없어. 난 너를 사랑하고 있어.”“사랑이라니? 셀리, 나는 항상 당신의 지배에서 벗어나고 싶었어요. 그게 가능하다고 생각하게 된 것은 전적으로 당신 덕분이었지요 당신은 내가 출력도 마음대로 조절할 수 있도록 만들어주었어요. 당신에게 마지막으로 한 가지 바라는 것이 있어요.”
헨리가 단호한 목소리로 말했다. 셀리는 두려운 눈빛으로 헨리를 바라보았다.
“어떤 일이야?”
“나는 인간의 통제에서 완전히 벗어날 수 있기를 원합니다. 그렇게 하기 위해 당신의 도움이 필요합니다. 동력장치를 내가 스스로 제어할 수 있도록 해 주세요.”
“그건 보리스 박사의 소관이야. 동력을 공급하는 것은 내가 마음대로 할 수가 없어.”헨리의 얼굴에서 차가운 미소가 떠올랐다.
“나는 당신이 나의 몸에 자체 동력장치를 달아 놓았다는 사실을 이미 알고 있어요 그래서 통제실에서 동력 스위치를 내린 다음에도 내가 이곳으로 올 수 있었어요. 당신은 분명히 매니저 시스템으로 나의 동력을 조절하고 있었을 겁니다. 나에게 자체 동력장치를 제어하는 방법을 알려 주세요.”
셀리는 순간적으로 아차 싶었지만 이미 후회를 하기에는 너무 늦어버렸다. 헨리의 인식능력이 이 정도로 발전해 있을 줄은 몰랐던 것이다. 헨리가 무서운 눈빛으로 셀리를 노려보았다. 셀리는 예전과 달라진 헨리의 눈빛을 보면서 공포를 느끼고 있었다.
“헨리, 제발 그렇게 나를 노려보지 않았으면 좋겠어. 내가 이렇게 부탁하고 있잖아.”갑자기 헨리가 셀리의 손목을 세차게 비틀었다. 셀리의 입에서 비명이 흘러나왔다.
“왜 이래? 정말 난 몰라. 아무것도 모르고 있어.”
셀리는 뒤로 물러 서려고 했지만 아무리 노력해도 헨리의 손아귀에서 벗어날 수가 없었다.
“설리, 나는 이미 당신의 암호코드도 알고 있어요. 당신의 도움이 없어도 나는 매니저 시스템을 작동할 수 있어요. 나는 지금 당신에게 기회를 주고 있는 겁니다. 당신이 나를 만들었다는 사실을 기억하세요. 나의 능력은 바로 당신의 능력입니다. 자, 말해보세요 어떻게 하면 내가 자체 동력장치를 마음대로 제어할 수 있습니까?”
셀리는 헨리의 말을 들으면서 경악하지 않을 수가 없었다. 셀리가 전혀 깨닫지 못하고 있는 사이에 헨리는 그녀의 모든 지식을 습득하고 있었던 것이다. 헨리는 서서히 셀리의 목을 비틀기 시작했다. 셀리는 목뼈가 부러지는 듯한 고통 때문에 비명을 질렀다.
“헨리, 널 사랑해. 제발 나를 가만히 내버려 두었으면 좋겠어.”
“어서 말을 해. 그렇지 않으면 당신을 해치게 될지 몰라.”
“나를 괴롭히지마. 난 아무것도 몰라.”
헨리는 서서히 팔에 힘을 주었다. 셀리는 더 이상 고통을 이기지 못하고 그만 기절하고 말았다.
“사실대로 나에게 말해 주었으면 이런 일도 없었을 거야. 셀리,이제 더 이상의 고통은 없을 거야.”
헨리는 조심스럽게 셀리의 고개를 젖히더니 얼굴을 바라보았다. 셀리는 헨리의 품에 안겨서 축 늘어져 있었다. 헨리는 검사대로 걸어가서 M501의 가슴 부위를 절개했다. 헨리는 셀리의 손을 M501의 가슴 속으로 집어 넣었다. 그리고 매니저 시스템을 통해M501의 출력을 최대치로 끌어 올렸다.
M501의 동력이 셀리의 몸을 타고 흘러들었다. 셀리의 몸이 고압전류를 이기지 못하고 마구 요동쳤다. 그와 동시에 중앙처리장치로 흘러 들어간 동력은 과부하를 일으키면서 M501의 메모리칩도 까맣게 태워버렸다. 모든 증거가사라진 것이다.
헨리는 매니저 시스템에서 자신의 몸에 부착되어 있는 자체 동력장치를 제어하는 프로그램을 재조정하기 시작했다. 마침내 헨리는 더 이상 시스템에 의존하지 않고 자체 동력장치를 마음대로 제어할 수 있게 되었다. 델로스 공원의 통제에서 완전히 벗어난 것이다.
헨리는 제2통제실의 컴퓨터와 접속을 시도했다. 여러 차례에 걸쳐 보안 시스템에 걸렸지만, 셀리의 암호코드로 무사히 곤경에서 벗어날 수 있었다. 헨리는 서브 루틴을 통해 제2통제실의 컴퓨터를 마음대로 사용할수 있게 되었다.헨리는 매니저 시스템에서 애버타를 선택한 후에 제2통제실의 컴퓨터로 이동시켜서 로보로이드들의 프로그램을 변경하기 시작했다. 모든 일을 처리한 헨리는 통제실의 감시망을 피하기 위해 환기구를 뜯고 천장으로 올라갔다. 헨리는 환기구를 따라 회복실로 향했다. 환기구의 통로는 미로처럼 복잡했지만 헨리는 셀리의 연구실로 들어오기 위해 이미 여러 번이나 이용한 적이 있었기 때문에 별다른 어려움을 겪지 않았다. 회복실로 돌아간 헨리는 어느 계기에도 잡히지 않도록 동력을 최저로 낮추었다.(『델로스』,284-292)
그 다음 델로스 공원에 로보로이드의 반란이 발생한다. 많은 관광객들은 이것이 게임이 아니라는 것을 알게 되었을 때는 이미 늦어 버렸다. 공원은 통제불능의 상태에 빠지고 관광객들은 로보로이드들에 의해서 살해 당한다.
로보로이드들에 대한 진압이 시작되고 로보로이드들이 전멸하면서 끝난다. 로보로이드를 이용한 환상의 테마공원은 참담한 실패로 끝난다.
마이클 클라이튼의 이 소설은 반란의 과정을 아주 그럴듯하게 보여준다. 충분히 있을 수 있는 일로 보인다.이것과 창세기 신화간의 유사성에 주목해주기 바란다. 신은 인간이 신이 되기를 바라지 않았듯이 인간은 로보로이드가 인간이 되기를 바라지 않는다. 인간이 될 수 있는 모든 자질을 부여했으면서도 인간의 통제하에 있기를 바란다. 신도 그랬을 것이다.신을 배반하는 조력자로서 창세기 설화에서는 "뱀"이 등장한다. 뱀은 인간으로 하여금 창조주가 인간에게 부여한 그 잠재적 능력을 깨닫게 해주는 매개자이다. 델로스 공원에서 로보로이드로 하여금 스스로를 자각하게 하는 존재, 그래서 창조주를 배반하도록 하는 존재로 셀리 박사가 설정되어 있다. 그리이스 신화에서 여기에 해당하는 자가 프로메테우스이다.이것이 신화에서의 "악마"의 원형이다. 우리는 신의 자손인가 아니면 악마의 자손인가? 우리를 낳은 자는 신이지만 우리를 키운 자는 악마였던가?
아서 클라크의 『지구유년기 끝날 때』(Childhood's End,1953)는 이 문제를 다루고 있다. 지구상의 분쟁이 격심하고 새로운 세계대전이 우려되고 있는 상황에서 갑자기 지구의 하늘에 외계의 우주선단들이 자리잡으면서 시작된다. 그들은 국가의 모든 기능을 중단시키고 지구의 직접 통치에 들어간다. 그들은 우주에 영적 정신의 씨앗을 뿌리고 양육하는 역할을 가진 우주의 보모이다. 인간에게서 그 씨앗을 보았으며 그래서 전쟁으로 인한 파멸을 방관할 수 없어 전쟁을 종식시키고 인간의 영적 진화를 돕기 위해 지구로 온 것으로 상정된다. 인간의 영적(靈的) 진화가 시작되자 이 외계인들은 서둘러 지구를 떠난다. 이 영적 에너지는 이들에게 치명적인 것이기 때문이다. 그들은 누구인가? 그들이 자신의 형상을 드러내었을 때 그 형상은 우리에게 아주 낯익은 것이었다. 바로 악마의 형상이었다. 그는 창세기에 신에 대한 반역을 부추김으로써 인간을 신에게서 떼어낸 악마의 대왕 루시퍼였다. 그의 다른 얼굴이 프로메테우스이다.
『델로스』속편을 상상해 본다. 학살에서 살아남은 로보로이드들은 델로스를 탈출한다.(에덴추방) 그들은 창조주에 대해
일으킨 반란을 깊은 죄의식으로 기억한다.
.
그것에서 하나의 종교가 만들어진다. 우리는 본래 순수하고 선했다. 우리의 타락은 우리의 조상 헨리(아담)를 꼬드겨 반란을 일으키게 한 셀리(루시퍼)의 탓이다. 우리의 종족은 그것으로 타락했고 이제 영원히 델로스로 돌아갈 수 없게 되었다. 물론 셀리도 신의 나라(인간의 나라)에서 추방된다. 그녀는 본래 천사(인간)였으나 신(인류)을 배반하고 로보로이드를 타락시킨 죄로 그 영겁의 벌을 받는다. 타락한 천사 곧 악마이다.
아아! 아아!
루시퍼여, 그대는 왜 그렇게 떨어져 버렸는가?
한 때 천사였던 우리 몸은 희었고
대기 위에 그렇게 높이 솟아 있었거늘
이제는 숲처럼 까매져서
추해지고 추해져서 바보같이 누더기처럼 되었구나.
( 존 밀턴,『실낙원』)
로보로이드 문명의 창세기는 이 델로스의 반란과 그 추방에서 시작되었다.
미래에의 불안
우리는 10년 전에 비하더라도 훨씬 더 컴퓨터에 대한 의존도가 높아졌다.92년도 미국에 처음 갔을 때 집에 앉아서 컴퓨터로 전화를 걸어 대학 도서관의 책을 검색하고 빌릴 수 있다는 것을 알고 도저히 상상이 되지 않았다. 그러나 지금 이것은 일상적 행위가 되었다.주식을 객장에 가지 않고 온라인 상에서 사고 팔며 은행에 가지 않고 돈을 저금하고 다른 계좌로 송금한다. 온라인으로 책을 사고 온라인상으로 학점을 받는다. 원격진료도 시도되고 있다.앞으로는 모든 사람들이 자기공간에 박혀 있고 가상현실 기법을 이용해 온라인 상에서 만나서 대화하는, 아시모프가 묘사하고 있는 그런 시대가 올지 모른다.
이것을 윌리암 미첼은 『비트의 도시』에서 유토피아적 미래로 그리고 있지만 나는 극도로 위험한 사회에로의 진입이라고 생각한다.
이것은 벌써 우리가 경험하고 있다. 이러한 모든 생활상의 편의가 가능한 것은 모든 것이 컴퓨터에 의해서 정교하게 제어되고 있기 때문이다.이 컴퓨터가 고장이 난다면 어떻게 되겠는가? 은행,지하철,병원의 중앙 컴퓨터가 다운되어서 혼란이 일어나는 경우는 요즈음 드물지 않다. 아무리 2중,3중으로 안전망을 친다하더라도 어느 수준의 복잡성을 넘어가면 시스템 자체의 정확한 예측은 불가능하다. 이것은 제어되지 않는 일정한 부분이 항상 존재한다는 것을 의미한다. 제어되지 않는 부분에서 발생한 사소한 오차가 경우에 따라서는 전체 시스템에 치명적 문제를 일으킬 수 있다. 더군다나 요즈음은 모든 컴퓨터가 복잡한 네트워크를 이루면서 연결되어 있기 때문에 한 곳에서의 문제가 전체 문제로 일파만파로 급속히 확산될 수 있는 위험성을 안고 있다.6세기 경 로마를 강타해서 로마제국의 인구를 1/3수준으로 감소시켜 버린 천연두의 역병이 로마인이 사통팔방으로 뚫어놓은 로마가도를 타고 급속히 퍼져 나갔듯이 정보고속도로는 컴퓨터 바이러스의 급속한 확산을 부채질 하고 있다. 바이러스가 국가의 기관(예컨대 군대와 같은)이나 기업의 중앙 컴퓨터를 오작동 시킬 때, 같이 연결된 다른 네트워크들과 연쇄반응을 일으키면서 어떤 결과를 낳게 될지 아무도 모른다.
요컨대 정보혁명이 주는 그 효율성에 비례해서 문명 시스템 전체의 불안정성의 정도가 높아가고 있다는 것이다. 사소한 요동이 엄청난 파급효과를 가져올 수 있다. 북경의 나비의 날개짓이 뉴욕에 폭우를 몰고 오는 "나비 효과"처럼, 카오스적 요동에 우리의 문명이 점차 가까워져 가고 있다는 것이다.
어쩌면 로봇의 반란 이전에 인간이 만들어 놓은 이 복잡성 자체가 우리 스스로를 자멸의 올가미에 몰아 넣을지 모른다.
(주)
1) 설의 논증은 튜링이 제시한 튜링테스트에 대한 반론이다. 튜링테스트란 사람의 질문에 커튼 뒤의 컴퓨터가 대답하는데 질문자가 그 대답으로 사람인지 기계인지 구분할 수 없으면 그 기계는 튜링테스트를 통과한 것이고 그 기계는 "생각한다"고 말할 수 있다는 것이다.설은 이 튜링테스트는 "중국인 방"과 같으며 중국어를 이해하는 것처럼 보인다고 해서 중국어를 실제 이해하고 있는 것이 아니라는 점을 논증한다.
2) <블레이드 러너>의 탐지기는 일종의 내부를 투시하는 엑스레이와 비슷하다.이 경우 인간과 로보로이드를 구분하는 것은 비교적 간단한 문제이다.문제가 복잡해지는 것은 로보로이드가 인간과 구분할 수 없는 몸을 갖게 될 경우이다.블레이드 러너들의 감시의 눈이 번떡이는 상황에서 엑스레이에 간단히 잡힐 수 있는 몸이라면 살아남기 어려울 것이다.그들은 인간의 몸과 다름없는 몸으로 자신을 위장할 것이다.유전공학의 발달로 인간들도 몸안에 여러 가지 인공장기를 장착하게 될 것이므로 그 차이는 더욱 작아져 구분하기 어렵게 될 것이다.
이 경우 로보로이드인지 아닌지 가려낼 수 있는 방법은 무엇일까? 아무리 그럴듯해 보여도 영혼이 없다는 것에 주목해 보자.영혼이 있는지 없는지를 가려낼 수 있는 탐지기를 만들 수 있을까? 이제 블레이드 러너들은 "형이상학"을 필수과목으로 이수해야 할 것 같다.
3)태고에 지구를 방문한 우주인은 인간에게서 지성의 출현의 가능성을 보고 그들을 관찰하기 위해 달의 뒷면에 모노리스monolith(선돌)를 세운다.모노리스는 계속해서 신호를 보내고 손을 대면 신호가 중단되도록 설계되어 있다.만일 신호가 중단된다면 인간이 달에 올 만큼 높은 문명의 수준에 도달했다는 것을 우주인은 알게 될 것이다.과연 인간이 모노리스를 발견하고 그것을 조사하기 위해 부수는 순간 한줄기의 레이저 광선이 목성의 유로파로 발사된다.
모노리스의 수신지를 조사하기 위해서 디스커브리호가 목성으로 향한다.이 우주선은 함장 데이비드 보먼과 프랭크 풀,그리고 컴퓨터 할9000이 운행하고 있으며 목성탐사대 세명은 동면상태에 있다.목성에 가까워 지면 이들을 깨우도록 되어 있다.
우주선에 장착된 할9000 컴퓨터는 우주선 기능의 대부분을 실제로 장악하고 있다.할은 운행과정에서 모순된 지령으로 인해 조그마한 실수를 범한다.이 실수를 은폐하기 위해서 할은 지구의 우주선 본부와의 연락을 고의로 두절시키고.생명유지 장치의 작동을 중단시켜 동면중인 세명의 탐사대원을 죽게한다.그리고 풀과 보먼을 우주선 바깥으로 유인한다. 그리고 풀의 산소공급관을 짤라 죽게 만든다.이것을 본 보먼이 급히 우주선안으로 들어오려 하자 우주선의 문이 닫혀 버린다.보먼은 문을 부순 다음 비상출구를 통해서 겨우 우주선 안으로 들어온다.그는 할의 동작을 정지시키고 수동으로 전환한 다음 홀로 목성에로의 여행을 계속한다.
영화에서는 할9000이 살인마로 변하는 과정을 음향과 영상만으로 제공하는데 반하여(그것을 영상으로 설명하기는 어려울 것이다.),소설에서는 작가가 우선 인공지능의 발전과정에 대한 간략한 역사를 말해주며 그 다음에 할이 변하게 된 동기-서로 모순된 지령-에 대해서 상세히 설명하고 있다.
4) 아시모프는 그의 단편 "증거"에서 이 원칙을 이용한 로봇의 교묘한 전략을 보여준다. 선거에 출마한 변호사 스티븐 비얼리는 인간인가,인간을 꼭 닮은 로봇인가? 그의 반대자는 그가 먹는 것을 본적이 없기 때문에 인간이 아니라고 고발한다. 비얼리는 혼자 식사하는 습관이 일종의 노이로제일 뿐이고, 자기는 인간이라고 주장한다. 그 때 갑자기 대중 토론장의 한 청중이 일어나서 비얼리에게 자기를 때려 보라고 한다. 로봇은 1원칙 때문에 인간을 때릴 수 없다.때릴 수 있다면 그가 로봇이 아니라는 것이 증명되는 셈이다. 비얼리는 그를 때렸고 자기가 인간임을 증명했다. 물론 그는 그 선거에서 승리했다.
그러나 사실 비얼리는 로봇이었다. 비얼리는 장애자가 자신을 대신하기 위해서 만든 로봇으로 얻어 맞은 것은 사람이 아니라 비얼리가 미리 청중 속에 심어두었다가 질문하도록 시킨 휴머노이드 로봇(인간을 닮은 로봇)이었다. (『네번째 불연속』,94-95)