로봇의 군사 이용이 확산되고있고, 센서 기술과 소프트웨어 기술의 발전과 함께 군사용 로봇은 SF 세계의 이야기가 아니라 현실이 되고있다.
그럼 왜 지금 군사용 로봇의 개발이 진행되고 있는 것일까?
◆ 군사용 로봇의 장점
군사용 로봇의 장점으로는, 아군 병사들의 피해를 막을 수 있고, 3D (Dangerous, Dirty, Dull)라는 위험, 더러움, 단조로움을 인간보다 효율적으로 수행 할 수 있다는 것을 들 수 있다.
또한 감정적 인 판단을 배제함으로써, 오폭 등의 불필요한 살생을 줄일 것으로 기대되고 있다.
2014년 5월에 실시 된 특정 재래식 무기 사용금지 제한 조약(Convention of Certain Conventional Weapons, CCW) 비공식 전문가 회의에서는, 군사용 로봇은 치명적인 자율 무기 시스템(Lethal Autonomous Weapons System)라고 부르고, 또한 불완전 자율 무기와 완전 자율 병기로 분류가 이루어졌다.
완전 자율 무기는 공격 목표의 선정 등은 인간이 행하는 것으로 되어있고, 이미 실용화되고 있는 무인 항공기, 정찰기 등은 이 분류에 들어간다.
한편, 완전 자율 병기는 군사용 로봇이 "스스로 판단해 공격" 할 수 있는 능력을 가지는데에 있어서 몇가지 기술과 윤리의 관점에서 문제점이 지적되고 있다.
첫째, 적과 아군 전투원과 비전투원, 부상, 항복 한 전투원 등 공격 대상의 결정을 정확하게 할 수 있는지 여부는 과제로 꼽히고 있다. 또한 공격 대상의 판별에 실패하고, 전시 국제법을 위반 한 경우의 책임 소재에 대해서도 우려하고 있다.
프로그래머, 공급자 등을 포함한 모든 군 관계자도 불법 사고에 대해 책임을 지지 않습니다라는 경우, 범죄의 억제 및 손해 배상을 할 수 없다는 것이 문제가 된다고 생각하고 있다.
그리고 이 기술과 윤리는 인간의 손을 떠나 무기쪽으로 옮겨가고 있다고 믿고있다.
완전 자율 무기의 실용화는 20년 전부터 30년 후라고 되어있었기 때문에, "스스로 판단하고 공격" 능력에 대해서는 현재 논의가 시작되었다고 할 수 있다.
그러나 실제로는 완전 자율 병기도 결정은 인간에 의한 것으로부터, 무기에 의한 것으로 옮겨가고 있는 것이라고 SF 작가 다니엘 수아레스에 의해 지적되고 있다.
◆ 로봇에 의한 의사 결정 이행의 문제점
- 방대한 정찰 영상
우선 첫 번째 이유로, 무인기가 촬영하는 비디오가 엄청날 것을 들 수있다.
2011년에 미국의 무인 항공기 부대가 촬영 한 정찰 영상은 30만 시간에 이르는 것으로 알려져 있으며, 30만 시간의 영상을 인력으로 확인하는 것은 어렵기 때문에, 영상 분석 소프트웨어가 이용되게 된다.
이것은 인간이 군사용 로봇에 지시를 하는 것이 아니라, 군사용 로봇이 인간에게 지시를 하고 있다고 볼 수 있다.
이 영상 분석 IoT(Internet of things : 사물 인터넷)라는 상업 분야도 관련이 있으며, 인공 지능 기술을 이용하여 정확한 이상 검출 기술이 만들어지고 있다.
- 무인 항공기와 통신의 방해
다음 두 번째 이유로 무인 항공기와 통신의 방해를 들 수 있다.
RQ-170 센티넬 드론이라고 부르는 미군의 무인기가, 이란 군에 의한 GPS 통신의 스푸핑 공격을 받고 혼란에 빠지는 사태가 발생할 수 있다. GPS의 취약점은, 군사에서는 잘 알려진 것이며, 통신 기술의 한계를 나타내는 결과가 되었다.
여기에서 무인기는 인간의 손을 떠나더라도 올바른 의사 결정을 할 필요를 느낀다. 공격뿐만 아니라 어떤 경로를 비행하고, 어떤 정보를 입수할 지 결정할 수 있게된다.
- 무인 항공기의 소속 확인이 곤란
또한 셋째 이유로, 무인기의 공급자, 발신자가 누군지 확인하는 것이 어렵게된다는 것을 들 수있다.
글로벌 경제 하에서 군사 로봇 등의 설계 정보를 쉽게 공유하고, 또한 전세계 어디서나 제조할 수 있게도니다. 그런 경우 무인 항공기를 발견하고 파괴하더라도 누가 공격해온 것인지 판별하는 것이 불가능해진다.
- 개인 정보의 공유
마지막으로 네 번째 이유는, 개인 정보의 공유를 들 수 있다.
소셜 미디어, 금융 거래 데이터, 교통 데이터 등이 "빅 데이터"라고 분석의 대상이 되고있다. 빅 데이터는 인간이 처리하기 어려운 만큼, 방대한 정보를 통계적으로 처리하여 경향을 잡거나 통찰력을 얻을 수 있는 정보 기술이다.
군사에서는 누가 사회적인 리더인지를 발견하고, 그 리더를 제거함으로써 여론을 조작하는 것 등을 생각할 수 있다.
실제로 2012년에는 페이스 북은 미국 국가 안전 보장국(NSA)으로부터 1만 8천~1만 9천명의 개인 정보 계정에 대해 정보 제공을 요청 당한 것으로 알려져있다.
테러 대책의 명목으로 개인 정보, 개인끼리의 연결 정보를 분석 할 수 있게되어 있으며, 이 경우에도 의사 결정을 수행하는 것은 소프트웨어이며, 인간이 아니다.
누가 사회적인 리더인지 테러를 할 위험이있는 사람을 발견하는 것은 소프트웨어의 측면이며, 인간은 그 지시를 받는 쪽이다.
많은 SF 소설이나 영화에서 인간이 로봇에게 지배당하고, 공격받는 시나리오가 그려져 있지만, 이러한 경고는 절대 무시할 수 없다.
