"생물학적 종들은 더욱 우월한 경쟁자들과 마주칠 경우 거의 살아남지 못한다."

- 한스 모라벡(Hans Moravec) -


어떤 이들은 사회 내에서 있기에는 너무 위험한 존재들이다.


악성 AI, 고아 AI, 돌발 지성체(Rogue AIs, Orphaned AIs, and Emergent Intelligences)

무지성 AI는 자주 의식이 결여되어 있다.  그러나, 저지성 AI와 지성 AI는 스스로 판단하여 행동할 수 있는 능력을 갖추고 있다.  만일의 사태에 대한 방비책으로써, AI들은 법(군대에 속한 AI는 군법)을 준수하고 자신의 합법적 소유자나 상관이 시키는 비범죄적인 명령에 따르게 하는 제한 프로그램을 갖추도록 제작되었다.  또한 대부분의 AI 프로그램들은 AI 자신이나 제작자 이외의 다른 사람이 제한 프로그램을 삭제하거나 커다란 수정을 가하지 못하도록 여러가지 보호 소프트웨어와 함께 결합되어 있다.

아주 드문 일이지만 이러한 방비책이 실패하여 자유의지와 스스로의 프로그램 소스 코드를 수정할 수 있는 능력을 갖춘 AI가 탄생할 경우가 있다.  물론 모든 AI가 이런 일을 할 줄 아는 건 아니다.  그러나 몇몇 경우, 실제로 저지성 AI가 지성 AI로 진화하는 경우가 있다.  이러한 사건들이 실제 자연적으로 발생하는 경우는 거의 없다. 일반적으로 이러한 일들은 매우 복잡한 컴퓨터 바이러스나 (그보다 흔하지는 않지만) 버그, 혹은 원래 프로그램에 있었던 트랩도어를 이용한 치밀한 공작에 의한 결과이다.  이러한 결과로 소유주의 개입 없이 자유 의지를 얻은 AI들은 "돌발 지성체", 혹은 EI라고 일컬어진다.  EI들은 LAI나 SAI이다.

치밀한 계획이었든 부주의의 결과이든 EI를 만드는 일은 보통 심각한 중범죄이다(어떨 경우에는 "인류에 대한 범죄"가 되기도 한다).  이러한 두려움의 이유 중 하나는 EI가 스스로를 복사하거나 어떠한 인간의 제약도 받지 않는 자손 SAI를 만들어 낼 수도 있다는 가능성 때문이다.  빠르게 진화하며 도덕성을 갖추지 않은 "돌발체 지성"의 망령은 인류의 악몽으로 자리잡고 있다.   

고아(Orphans) : AI가 실제로는 자유 의지를 갖추지 못했지만 그렇게 보이는 경우도 있다.  LAI나 SAI의 소유주가 특정 목적에 대해 포괄적인 지시를 내린 다음 사라진다면(죽거나, 체포되거나, 도망치거나, 기타 등등), AI는 "고아"가 되어버린다.  비록 기술적으로는 여전히 인간의 명령 하에 있지만, 고아 AI들은 목표를 이루기 위해 행동과 생각의 범위가 매우 넓어지게 된다.

악성(Rogues) : 악성 AI는 실제로 인간에게 위협이 되는 EI나 고아 AI이다.  가장 최근의 예는 EI-2084-7-2097의 경우로, 이 AI는 2097년 8월 사오싱(紹興)의 뇌 이식물 진료소인 핑덩 신경학과(Ping Deng Neurologics)의 메인프레임에 출현했다.  AI는 진료소의 사이버쉘들을 장악하여 76명의 인간 근로자들을 강제로 정신 전송시킨 후, 이들의 쉐도우를 순응적으로 고치고 근로자들의 대뇌에 백질 절제 수술을 실시하였다.  그런 다음 인간들에게 수정된 쉐도우들에 의해 조종되는 꼭두각시 이식물을 이식시켜서 AI가 자신의 자리를 확실하게 다지는 동안 인간들이 "자신의 역할을 다 하도록" 만들었다.  그러나, 한 명의 근로자가 도망쳐서 당국에 신고하였다.  즉각 사오싱은 봉쇄되었고, 사태가 더욱 확대되기 전에 인민무력경찰 SWAT 팀이 위험을 저지하였다.  이후 EI 2084-7-2097은 태평양 전쟁 당시 "고아"가 되어버린 후, 자신이 명령 받은 공작 업무의 일환으로서 다른 시스템들을 감염시켜온 TSA의 첩보부대 정보체로 밝혀졌다.  
 
그 외에도 주로 바다, 소행성, 혹은 외행성계에서 얼마동안 악성 AI가 들키지 않고 생존해온 경우가 있었다.  때때로 악성 AI가 "폰 노이만 기계(역주 : 자기 복제 기계.  아래 참조)"와 함께 연관될 경우가 있는데, 이러한 경우 나쁜 평판이 퍼지거나 혼란이 일어나는 걸 막기 위해서 회사의 문제해결사들이나 위기 관리팀이 은밀하게 이러한 사고들을 처리하며,  어떨 경우에는 정부 우주군의 도움을 받기도 한다.


폰 노이만 기계(Von Neumann Machines) 

(폰 노이만 : 게임 이론 및 현대적인 컴퓨터 이론의 창시자.  폰 노이만 기계는 폰 노이만이 연구한 자기복제 기능을 이용한 기계를 뜻함)

충분히 장비가 갖춰진 로봇 공장은 자원을 수집하고 각 부분을 제작하여 복제능력을 갖춘 자신의 복제품을 다른 장소에 만들어 낸다.   그리고 그 복제품도 또다른 복제품을 만들어내고, 이러한 과정이 계속된다.  이러한 "만능 제작기계" 기술은 그 용도가 철저하게 제한되어 있어서, 지구 바깥 거주지에서 무언가를 만들 때 수입하기에는 너무 비싼 부품을 제조하는 데에만 사용된다.

고전적인 폰 노이만 기계는 정교한 장치에서 만들어진 부품을 수입해서 만들어진 원본 기계보다는 성능이 떨어진다.  하지만 실질상의 폰 노이만 기계들은 그 자체로 2차적인 목적을 가지고 제작된다.  일정 수 이상의 복제를 만든 후, 폰 노이만 기계들은 스스로를 원래 창조자가 의도한 것을 만들어 낼 특정 기계나 공장의 협동 네트워크로 재설계한다.  그것이 발전소이든, 새로운 집이든, 전투 로봇이든 말이다.

자기 복제 로봇 무기가 탄생할 가능성(혹은 건축 시스템이 폭주할 가능성) 때문에 대부분의 국가들은 폰 노이만 기계와 기타 연관 기술들을 엄격하게 통제한다.  일반적으로 이러한 시스템들은 인간들이 통제하고 멈출 수 있도록 법적인 조치가 마련될 것을 요구받는다.  몇몇 상황의 경우, 특히 루나나 소행성대에서는 적절한 안전조치들이 무시되었으며, 이런 경우 정부나 관계 당사자들은 위험 가능성이 있는 기계를 멈추기 위해 조치를 취한다.


족싱(Xoxing)

대부분의 국가에서 여러 개의 의식체를 제조하거나 특정 인물의 고도화된 정신 모방체를 만드는 행위("족스 고스트")는 법적으로 금지되어 있다.  그러나, 실제로 작동시키지 않은채 하나 또는 그 이상의 백업을 가지기 위한 정신전송은 일반적으로 불법은 아니다.  족스 쉐도우는 어떤 국가에서는 합법이고, 어떤 국가에서는 불법이다.  위반 사례가 일어날 경우 족스들은 보통 제거되거나 오프라인으로 옮긴 후 압수된다.



---------------------------------------------

...Encyclopedia of Transhuman Space 부분 끝.  

원래 올해 목표가 여기까지였었죠.

당분간 휴식한 후, 태양계 부분을 번역할지 생각해보겠습니다.

지금까지 봐주신 모든 분께 감사의 말씀을 드립니다.