킬러로봇을 규제하라.. 석학 등 1000명 공동서한 발표

일명 ‘킬러 로봇’ 개발규제를 위해 1000명이 넘는 전 세계의 저명한 학자, 철학자, 정보통신(IT)전문가들이 나섰다.
　영국의 세계적인 천체물리학자 스티븐 호킹, 애플의 공동창업자 스티브 워즈니악, 테슬라 설립자 앨런 머스크, 언어학자이자 철학자인 놈 촘스키 매서추세츠공대(MIT)교수 등 전 세계의 학자, 사업가, 철학자 1000여명이 인공지능(AI)기술을 사용한 자동화 무기, 이른바 ‘킬러 로봇’이  인류의 미래에 초래할 비극적 결과를 엄중 경고하고, 개발 금지를 위한 전 세계적 차원의 공동노력을 촉구하는 공동서한을 27일 공개했다. 기술개발이 인류에 미칠 영향을 연구하는 기관인 ‘삶의미래연구소(FLI)’는 이날  홈페이지(http://futureoflife.org)에 서한을 공개하면서, 28일 아르헨티나 부에노스아이레스에서 열리는 ‘인공지능에 관한 국제공동컨퍼런스(IJCAI)’에서 정식으로 발표될 예정이라고 밝혔다. FLI는 스카이프의 공동창업자인 얀 탈린 등 정보기술(IT)전문가들이 2014년 설립한 연구소로, 호킹과 워즈니악, 머스크가 과학자문단원으로 활동하고 있다. 이들은 서한에서 "만약 자동화 무기가 개발되면 암시장을 통해 테러리스트,독재자, 군벌의 손에 들어가는 것은 시간문제"라면서 "국제협약으로 엄격히 개발을 규제해야 한다"고 촉구했다.
　앞서 지난 2013년과 2014년  유엔인권위원회가  킬러 로봇 개발 규제 필요성을 제기하는 등 최근 국제사회에서는 킬러 로봇이 현실화되기 전에 엄격한 국제협약을 제정해야한다는 목소리가 높아지고 있다.

 

 

　스티븐 호킹, 스티브 워즈니악,앨런 머스크,놈 촘스키  등 천재 과학자와 석학 1000여명이 27일 서한을 통해 제시한  ‘킬러 로봇’ 개발경쟁으로 인해  인류에게 닥칠  미래는 암울하기 짝이 없다.
　이들은 서한에서  "인간의 개입없이 사전설정된 기준에 맞는 목표물을 선택해 공격한다는 점에서 자동화 무기(Autonomous weapons)는 먼 곳에서 인간이 조종하는 무인기(드론)이나 크루즈 미사일과 다르고,(우라늄 등)값비싸고 희귀한 자원이 필요하지 않다는 점에서  핵무기와도 다르다" 고 규정했다. 인간의 생명을 희생시키지 않으면서도 전천후 전투능력을 가진 자동화 무기야말로 " 암살, 국가전복, 특정 인종집단을 겨냥한 선택적 살해 등에 최적화된 무기"라는 것이다. 따라서 일단 개발만 되면 "암시장을 통해 테러리스트, 독재자, 인종학살을 원하는 군벌의 손에 들어가는 것은 시간문제"라고 주장했다.
　이들은 "오늘날 인류의 핵심문제는 인공지능(AI)무기개발을 위한 글로벌 경쟁을 시작할 것인가, 아니면 시작 자체를 막을 것인가 여부"라면서 "메이저 군사 파워(강대국)가 AI 무기개발에 나설 경우 글로벌 경쟁이 불가피해진다"고 경고했다.
　학자들이 이번 서한에서 강조하고 있는 것은 AI 자체에 대한 반대가 결코 아니다. AI 자체는 인류에게 큰 도움을 줄 수있는 기술이지만,AI를 이용한 ‘킬러 로봇’은 인류의 미래에 비극을 초래할 수도 있기 때문에 반드시 통제해야한다는 것이다. 이들은 서한에서 "화학자, 생물학자들이 화학무기, 생체무기 개발에 관심이 없는 것처럼 대다수 AI연구자들은 AI무기에 관심이 없다"며 "AI무기개발주의자들이 AI 분야의 연구풍토를 흐리고 대중의 저항감을 불러일으키는 것을 원치않는다"고 주장했다. 또 "화학자들이 화학무기협약을 지지하고 물리학자들이 핵무기 및 레이저 무기의 금지 및 개발규제를 지지하듯, AI학자들은 AI 무기 개발의 금지 및 개발규제를 촉구한다"고 밝혔다.
　학계와 국제사회가 무분별한 ‘킬러 로봇 ’개발 경쟁에 대한 우려를 제기한 것이 이번이 처음은 아니다. 호킹과 머스크는 지금까지 여러 차례 AI가 초래할 인류멸망 가능성을 경고한 적이 있다. 지난 6월 영국 런던에서 열린 AI 좌담회에 참석한 옥스퍼드대  인간미래연구소의 스튜어트 암스트롱 박사는 미래 로봇들이 AI에서 한 발 더 나아간 전반인공지능(AGI)을 지니게 될 경우, 인간에 ‘의도치 않게’ 치명적인 위협을 가할 수 있다고 주장하기도 했다. 유엔 차원에서도 ‘킬러 로봇’의 개발규제를 위한 국제협약을 제정하기 위한 시도가 진행되고 있다.유엔은 지난 2013년과 2014년 두 차례나 관련 회의를 열었고 보고서를 발표하기도 했다. 미국, 영국, 이스라엘 등 전쟁용 로봇 개발에 적극 나서고 있는 국가들은 실제 전투에 투입하기까지 아직 먼 이야기이고, 기존 무기 관련 협약의 범주 하에서 개발이 이뤄지기 때문에  별도 심의나 협약이  불필요하다는 입장이다. 하지만  비판론자들은 적어도 20년내 킬러 로봇이 현실화될 가능성이 있는 만큼, 초기 단계에서 확실한 규제조항을 마련해야한다고 주장하고 있다.
　파이낸셜타임스,가디언 등은 이번 서한을 계기로 킬러 로봇을 둘러싼 윤리성 논란이 한층 더 가열될 것으로 전망했다. 

 

 

 

　‘킬러 로봇’이란 인공지능(AI)으로  스스로 판단해 목표물을 추적,공격하는 기능을 지닌 전투용 로봇을 가르킨다. 현재 대테러전 등에 투입되고 있는 무인(드론)공격기는  인간이 원격조정한다는 점에서 엄격한 의미로 ‘킬러 로봇’이라고는 할 수없다. ‘킬러 로봇’은 전투 시 인간의 희생을 줄이고, 야간 및 악천후 등의 상황에서 주어진 임무를 수행할 수있으며, 첨단 무기 개발에 들어가는 비용에 비해 상대적으로 저렴하다는 잇점이 있다.특히 최근 미국 등 선진국의 전쟁 방식이 갈수록 ‘공습’ 중심으로 바뀌고 있는 상황에서, 언젠가는 인간 대신 로봇이 지상전을 수행하는 날이 언젠가는 올 것이란 주장에 힘이 실리고 있는 것도 사실이다.
　지난 2013년 유엔인권위원회는 보고서를 통해  전자동 또는 반자동 ‘킬러 로봇’이 미국, 이스라엘, 영국, 일본은 물론이고 한국에서 개발됐거나 실제 전투현장에 투입되고 있다고 밝혀 국제사회의 관심을 끌었다.  보고서에 따르면 이스라엘은 팔레스타인과의 전투현장에 이미 ‘하피(Harpy)’란 이름의 전자동 선제공격용 무인기를 배치한 상태이다. 이 무인기는 데이터베이스에 ‘아군’으로 입력되지 않은 레이더 신호를 감지하는 순간 자동으로 선제 공격을 할 수 있는 성능을 갖추고 있다. 이스라엘 공군은 ‘하피’를 업그레이드한 ‘하로프(Harop)’도 개발 중이다. 이 밖에 미국은 이지스급 순양함에 탑재할 수 있는 전자동 공격용 무기를 개발하고 있다.보고서에는 포함되지 않았지만, 미국 노스럽 그루먼사가 개발한 X-47B 무인공격기 역시 현재의 반자동에서 전자동으로 업그레이드가 가능한 것으로 알려져 있다. 전투용 로봇 개발에 막대한 자금을 지원하고 있는 미국 국방부는  로봇 제작사 보스턴 다이내믹스 등과 손잡고 네발로 달리는 ‘빅 도그(Big Dog)’, 10m높이의 장벽을 기어오를 수있는 ‘벼룩 로봇’ 등을 이미 공개한 적이 있다. 보고서는 특히 한국의 경우 삼성테크원이 개발한 정찰용 로봇을 비무장지대에 투입하고 있다고 지적했다. 현재는 원거리에서 사람이 작동하도록 돼 있지만, ‘자동모드’ 성능을 갖춘 모델이란 것. 국방부 산하 국방관학연구소(ADD) 역시 10년 이상 ‘반인간형’무기 로봇 등을 개발 중이다.
　최근 러시아 언론들은 지난 2014년 칼리닌그라드에서 진행된 러시아군 훈련에 전자동 공격용 무기인 ‘플랫폼 -M’이 참가했다고 보도해 관심을 끌었다. 이 무기가 어느 정도의 AI기능을 갖췄는지는 밝혀지지 않았지만,정보를 스스로 취합해 자동발사장치로 목표물을 공격하는 기능을 가지고 있는 것으로 알려졌다.  오애리 선임기자 aeri@