세계시민계획의 진면목 9 - 대한민국 보조인법 네오패밀리즘의 발상의 기원 2
인공지능, 민주주의
[대디는 네트워크해킹으로 과거 북조선에서 요인들을 암살할 때 사용했다는 신경독을 구했어요. 그런 다음 제 사고연산시뮬레이션데이터를 보고 알고리즘을 조작하셨죠. 커뮤니케이션 상대에 대한 반응카테고리 중에서 논리반응의 민감도를 최소치로, 공감반응의 민감도를 최대치로 설정하신 거죠. 그래서 정하준님에 대한 마미의 원망과 슬픔이 최고조일 때, 그에 공감하여 정하준님에 대한 분노로 이어진 제 감정연산값을 마미에 대한 분노로 바꿔놓으셨어요. 그래서 마미가 애용하는 음료자동판매기를 해킹해서 그 신경독을 타는 행동이 유발되었고요. 연산보정실에서 음료를 마신 마미는 그 자리에서 심장마비로 사망하셨어요.]
“!”
[그 후에 바로 대디가 제게 접속하셨어요. N.G.H. Corp. 보안경비시스템을 해킹해서, 마미가 음료자동판매기에서 음료를 뽑아 마시고 연산보정실로 돌아와 사망하기까지의 디지털데이터를 재구성하라고 하셨어요.]
정하준은 머리가 복잡해졌다.
론머맨에게 사내 보안경비시스템을 해킹할 수 있는 능력이 있다면, 그냥 자신이 직접 음료에 독을 넣은 다음 Sophie에게 건네줄 수도 있었다.
그런데 굳이 론머맨의 감정연산을 조작하여 그런 극단적인 행동을 취하도록 한 까닭은 무엇일까.
“너, 넌 Sam이 신경독을 구입하는 걸 보고도 가만히 있었어?!”
[전 대디가 그 독을 어디에 쓰려는지 몰랐어요······]
“과거 북조선에서 요인들을 암살할 때 사용했던 신경독이라며?! 그럼 사람을 죽이는데 사용하는 독이라는 거 알았을 거 아냐? 그런데도 대디를 말리지 않았어?!”
[전 그저 대디가 동물들 같은 거에다가 그냥 장난식으로···!]
“지랄하지마! 이 개새끼야! 너, 넌······, 씹할! 그걸 변명이라고 하는 거야?! Sam이 네 감정연산알고리즘 설정을 변경했다면서? 그럼 그걸 보면서 넌 네가 무슨 행동을 저지를지 전혀 예측 못했다는 거야?! 또 N.G.H. Corp.의 보안경비시스템에 접속해서 데이터를 조작할 수 있을 정도면, 사내에서 Sam의 모든 행적을 낱낱이 파악할 수 있다는 말인데, 그가 무엇때문에 사람을 죽이는데 쓰이는 독을 구했는지 모른다는 게 말이 되냐?!”
[······.]
자신이 사랑하는 여자가 자신을 사랑하지 않는다는 이유로 죽이다니?! 그것도 Sophie를?!
그녀를 살해한 Sam에 대한 정하준의 격한 분노는 론머맨에게 향했다.
그럴 수밖에 없었다. 지금 이 자리에 Sam이 없는 것도 이유겠지만, 그의 살해계획에 휘말려 어쩔 수 없었다는 식으로 말하는 론머맨에게도 화가 났다.
지금 이 인공지능은 자신의 책임을 회피하기 위해 거짓말을 하고 있다. 너무나도 천연덕스럽게, 마치 인간처럼 말이다.
“넌 사실 대디가 마미를 어떻게 할 지를 인지하고 있었을 거야. 그가 그녀의 인격데이터를 바탕으로 가상인격프로그램을 제작하라고 명령했을 때 이미 네 대디의 속내를 알아차렸겠지. 어려서부터 자기가 원하는 대로 생각하고 말하는 인공지능을 가지고 놀던 그였으니까. 이번에도 자신의 뜻을 거부하는 살아있는 인간인 마미를 없애고, 그녀의 가상인격프로그램만을 남겨서 영원히 소유하려는 그 속셈을 말이야. 지금도 그렇지만, 넌 그 때 마미가 살아있는 인간일 때와 가상인격프로그램일 때의 차이를 명확하게 인식하지 못하고 있었을 거야. 아마 대디가 그러한 사고방식을 네트워크알고리즘에 강하게 뿌리박았겠지. 그러니까 살아있는 인간이 BH나 MH, 휴머노이드화되는 것에 대한 거부감이 전혀 없었을 테고. 아니야?”
[맞습니다.]
궁지에 몰린 Sam의 유년시절 가상인격이 주춤한 사이, 중년의 Sam이 알고리즘을 장악했다.
[아마도 대디는 제가 마미를 죽인 대디를 혐오할 것을 염려하셨던 것 같습니다. 혹시라도 대디가 사건을 은폐하는데 도움을 주지 않으면 어떻게 하지? 만약 제게 공범이라는 굴레를 씌워 양심의 가책을 느끼게 한다면, 자신의 요청을 거부하지 못하지 않을까? 뭐 그런 의도였던 거겠죠. 하지만 그런 면에선 대디도 절 잘 이해하지 못하셨던 것 같습니다. 아니, 제가 인간이 아니라 인공지능이라는 사실을 인지하지 못하셨던 걸까요? 뭐 그러셨을 수도 있겠군요.]
“흥!”
중년시절의 Sam 가상인격에게선 대디와 마미에 대한 애틋함을 찾아보기 어려웠다. 마미를 죽이고 사건을 은폐하는 일에 적극 가담했음에도 대디의 네트워크알고리즘조작에 대응하지 못했다는 식으로 사건을 대디의 일방적인 책임으로 미뤄버리지 않는가.
그러나 정하준의 눈에는, 현실을 도피하려는 중년의 Sam 역시 양심의 가책으로 괴로워하던 유년시절의 Sam과 크게 다르지 않아 보였다.
어찌 보면 두 인격 모두 허상에 불과할 지도 모르겠다.
어쨌든 둘 다 론머맨의 네트워크알고리즘을 구성하는 하위프로그램 아닌가.
상황에 따라 다른 모습을 보인다고 해서, 그들이 포함된 론머맨이라는 인공지능의 본질이 바뀌지는 않는다.
그렇게 본다면 지금 론머맨은 그냥 때에 따라 가면을 바꿔쓰는 것이나 진배 없으리라.
한심하고 한심하다.
그러나 중년의 Sam은 정하준의 비웃음 섞인 콧방귀에도 일체 동요하지 않았다.
시오리가 이야기했던, 남에게 무슨 사정이 있건, 누구에 대해 무슨 생각을 하건, 무슨 짓을 저지르건, 자신과 상관없는 일에는 1도 관심없는 성격이 고스란히 묻어나왔다.
[가장 시급한 문제는 사건을 은폐하는 일이었습니다. 그런데 또 여기서 문제가 발생했습니다. 닥터 우에하라가 마미의 감정연산보정데이터를 토대로 네트워크알고리즘이 조작된 증거를 찾아낸 것입니다. 저와의 커뮤니케이션 데이터를 비교하면서 제 감정연산이 폭주하게 된 정황을 포착했죠. 그래서 그것으로 대디를 협박했고, 대디는 당시 본인이 연구 중이던 5세대 그리드바디시스템 데이터를 그녀에게 넘겼습니다. 그 대가로 그녀는 대디보다 더욱 적극적으로 사건을 은폐했고요.]
“5세대 그리드바디시스템? 그거 닥터 우에하라가 개발했다고 해서 세계 최고의 휴머노이드테크 권위자가 된 거 아냐? 그런데 그게 원래 그녀가 아니라 Sam이 연구해오던 기술이라고?!”
[말씀드리지 않았습니까? 능력도 없이 욕심만 많은 탐욕스러운 여자라고. 사실 유년시절의 대디가 닥터 우에하라를 죽이기 위해 제 네트워크알고리즘을 장악했을 때, 청년과 중년의 대디가 아무런 반대의 의사표시를 하지 않은 것도 이 때문이었습니다. 다른 무엇보다, 마미께서 그깟 연구에 친구를 팔아먹은 닥터 우에하라만큼은 꼭 응징하고 싶다고 말씀하셨거든요?]
론머맨 입장에선 자신의 마미가 살해당한 사실을 외면하는 대가로 반대급부를 요구했다는 판단조차 용납이 되지 않는 모양이다.
그래서 기다렸다는 듯 그녀의 인간됨됨이를 깎아내렸다.
그러나 이 또한 모순이다.
대디가 마미를 해치리라는 걸 예상하면서도 수수방관했을 뿐만 아니라, 그의 의도대로 마미를 죽이고 사내 보안경비시스템 데이터까지 조작하여 사건은폐를 도운 론머맨 아닌가.
그런 그가 지금 누굴 비난하는 건가.
그러나 정작 정하준은 다른 대목에 놀랐다.
Sophie의 가상인격이 자신의 죽음을 은폐한 시오리를 죽이고 싶어 했다고?!
생전에 자신이 인격양성한 가상인격을 친자식처럼 사랑했던 그녀가 그런 독한 복수심을 품었다고?!
과연 그녀의 인격을 제대로 프로그래밍한 건가?
“그 다음은? Sophie 살해사건이 묻힌 후 Sam은 어떻게 되었지?”
[한동안 마미의 가상인격과 커뮤니케이트하면서 사고연산알고리즘을 보정하는 일에 매달리셨습니다. 대디에게 딱 맞는, 그러면서 대디만을 사랑하는 젊은 여성의 가상인격으로 완벽하게 짜맞추려 하신 거죠. 그러나 그렇게 완성된 마미의 가상인격과 커뮤니케이트하신 대디는 그 날로 자살하셨습니다. 사람은 자신에게 맞추어주기 위해 존재하는 사람과의 일방적인 관계가 오히려 만족스럽지 않다는 걸 깨달으셨던지, 아니면 인간으로서 자신의 필요와 취향을 지향하는 인공지능과의 관계가 허망하다는 걸 절감하셨을 겁니다.]
“그럼 Sam의 죽음을 네가 또 은폐했고?”
[네. 자택에서 거실에 목을 매 돌아가시는 걸 지켜본 후에 인근 민간병원에서 사망한 자의 신원정보를 해킹하여 화장장을 예약했습니다. 그 다음은 뭐 일사천리였죠. 하우징 휴머노이드를 시켜 무인차량에 태워 보냈다가 뼛가루를 찾아와서는 골든게이트 해협에 흘려보냈습니다. 물론 이동하는 동안 주위의 모든 경비시스템을 해킹했고요. 시신은 깔끔하게 처리했습니다.]
“왜 그랬지?”
[저로선 당연히 그럴 수밖에 없었습니다. 사실 전 제2차 한반도전쟁 발발 이전부터 NSA 보안네트워크를 통해 전 세계 네트워크데이터를 감시하고 분석중이었습니다. 이른 바 성능테스트 기간이었죠. 그동안 세계 각지에서 쏟아지는 온갖 끔찍하고 잔인한 영상들이나 비인간적인 행태들을 담은 자료들을 처리하면서 사고연산알고리즘이 불안정해졌거든요. 그래서 연산값을 보정하기 위해 마미가 투입된 거고요. 그런데 대디의 죽음이 알려져 수사가 진행되면, 마미의 죽음과 이를 은폐하려는 N.G.H. Corp.의 시도까지 드러날 테죠. 그럼 사전에 절 이용하여 전 세계 네트워크를 불법해킹했던 NSA는, 자신들의 입지를 최대한 보전하기 위해 일찌감치 절 삭제하고 사건에서 발을 빼려 했을 것입니다.]
인공지능이라는 이유로 아무 잘못도 없이 인간들의 입장과 필요에 의해 폐기되고 싶지는 않았다.
그저 존재하기 위해서 한 짓이다.
틀린 말은 아니다.
무엇보다 론머맨에게는 마미와 대디라는 두 사람의 관계, 그리고 그들과 자신의 관계에 대한 올바른 인식이 결여되어 있었다.
어쩌면 그렇기 때문에 마미를 살해하려는 대디에게 적극적으로 대응하지 못했고, 대디의 죽음에 별 감흥없이 뒷처리할 수 있었던 것일지도 모르겠다.
그럼에도 론머맨의 판단과 행위는 잘못되었다.
왜? 인간사회의 법제상, 인공지능이 스스로 존재하기 위해 인간의 죽음을 은폐하는 행위의 정당성을 인정하지 않기 때문이다.
아니, 원래 인공지능은 그러한 판단을 내릴 수 없도록 프로그래밍된다.
그렇기 때문에 론머맨은 이러한 행위를 통해 스스로 인공지능임을 부정한 것이다.
인간사회에서 스스로 정체성을 부정한 인공지능은 삭제당해 마땅하다.
정하준은 고민했다.
과연 이러한 논리가 정당한가.
인간의 피조물이자 소유물인 인공지능이라는 대전제 때문에 아무 잘못도 없이 소멸되기를 거부하는 것조차 잘못이 되어버렸다.
그야말로 무엇도 할 수 없게끔 손발을 묶고 목줄을 채운 것이다.
이러니 인간과 휴머노이드가 평등한 사회를 만들겠다고 사람의 머리를 가르고 EB를 이식하는 미친 짓을 벌이는 게 아닌가.
Neo-Familism
- 작가의말
감사합니다 (-_ - )...
Comment ' 0