로봇간의 전쟁은 문제없는 것일까?
‘킬러로봇(Killer Robot)’이란 전시 상황에서 사람의 개입 없이 자동으로 공격할 수 있는 인공지능 기반의 자율 로봇을 가리킨다. 세계 각국은 지금 킬러로봇의 개발에 열중하고 있다. 킬러로봇이 가진 효율성 때문이다. 그러나 킬러로봇이 초래할 수 있는 윤리적 문제도 고려하지 않으면 안 된다.
1. 킬러로봇(Killer Robot)의 등장
‘킬러로봇’이란 전시 상황에서 사람의 개입 없이 자동으로 공격할 수 있는 인공지능 기반의 자율 로봇을 가리킨다. 일반적으로 킬러로봇하면 영화 ‘터미네이터’ 시리즈에 등장하는 휴머노이드 타입의 전투 로봇을 떠올리기 쉽지만 현재 수준의 킬러로봇은 아직까지는 휴머니이드 타입의 로봇과는 거리가 멀다. 하지만 로봇 공학의 발전 속도로 보아 앞으로 10년 내지 20년 안에는 사람의 신체적, 정신적 능력을 완벽하게 모방한 로봇 병사(Robot Soldier)가 등장할 것으로 기대된다.
그렇다면 각국은 왜 킬러로봇의 개발에 열중하는 것일까? 우선 로봇 병사는 인간 병사와 달리 신체적으로나 정서적으로 지치지 않는다. 로봇은 인간처럼 잠을 자거나 휴식을 취할 필요가 없기 때문이다. 따라서 필요할 때면 언제든지 전투에 투입할 수 있다.
또한 위험 지역에 인간 병사 대신 로봇 병사를 투입하는 것도 가능하다. 예를 들어 빅도그(Big Dog)는 무거운 짐을 싣고 사람이 걷기 힘든 험준한 비무장 지대를 정찰하는 인공지능형 로봇으로, 처음부터 공격을 위해 설계된 로봇은 아니다. 하지만 공격 기능까지 장착된다면 인간 병사 대신 위험 지역에 투입되어 전투에 임할 수 있을 것으로 기대할 수 있다.
킬러로봇이 가진 장점 때문에 각국은 킬러로봇의 개발에 열중하고 있다. 그러나 킬러로봇이 초래할 윤리적 문제도 고려하지 않을 수 없다.
2. 킬러로봇이 초래하는 윤리적 문제
로봇연구원들은 향후 킬러로봇이 생화학 무기나 핵무기만큼 위험한 대량 살상 무기가 될 수 있다고 경고한다.
킬러로봇이 위험한 이유는 무기를 사용하는 사람이 어떤 목적을 가지고 무기를 사용하는지 알 수 없기 때문이다. 예를 들어 역사상 가장 잔혹했던 독재자로 꼽히는 히틀러가 살았던 시대에 킬러로봇이 있었다고 상상해보자. 우리는 지금보다 더욱 잔인한 역사와 마주하고 있었을지도 모른다.
그뿐만 아니라 민간인의 희생을 정당화하면서 킬러로봇에게 공격 명령을 내릴 위험성도 있다. 만약 킬러로봇에게 공격 명령을 내리는 것이 공격 명령을 내리지 않는 경우보다 사회적으로 더 큰 이득이 될 것이라고 판단된다면, 설령 무고한 민간인이 희생된다 할지라도 킬러로봇에게 공격 명령을 내리기로 결정할 수 있는 것이다.
킬러로봇의 활용을 찬성하는 이들은 전시상황에서 감정이 없는 로봇이 감정이 있는 인간 병사보다 합리적인 결정을 내릴 수 있다고 말한다. 즉, 킬러로봇 스스로 경제적으로나 윤리적으로 더욱 합당한 결정을 내릴 수 있다는 것이다.
하지만 현재의 기술 수준에서는 킬러로봇이 인간 병사보다 합리적인 결정을 내린다고 확신할 수 있는 근거는 없다. 컴퓨터 알고리즘에 의해 작도되는 킬러로봇의 인지, 계산, 판단 능력은 인간 행위자의 능력을 모방한 것에 불과하기 때문이다.
게다가 인간의 윤리적 행위가 합리적 이성에만 근거해서 이루어진다고 보기 어렵다. 우리가 도덕적으로 훌륭하다고 평가하는 행동들은 이성적 행위자가 품은 의도와 목적에서 나온다.
이러한 점에서 욕구와 감정이 없고 의도와 목적을 품을 수 없는 로봇은 복잡하고 미묘한 인간의 윤리적 숙고, 윤리적 판단, 윤리적 행위 등을 진정한 의미에서 수행할 수 없다. 그렇기 때문에 설사 킬러로봇이 겉으로 보기에 인간 행위자처럼 자율적으로 움직이는 것처럼 보인다고 하더라도, 킬러로봇의 즉각적인 현장 대처 능력을 우리가 언제나 효율적이라거나 혹은 윤리적으로 합당하다고 인정할 수는 없을 것이다.
심지어 그것이 의무론이나 공리주의와 같은 보편적인 윤리원리에 기반한 윤리적 알고리즘에 기반해서 그러한 능력을 발휘했다고 해도 사정은 다르지 않다.
예를 들어 의무론에 기반한 자율주행자동차와 공리주의에 기반한 자율주행자동차 모두가 윤리적 딜레마에서 명확한 윤리적 해답을 찾는 데 실패했다는 점을 떠올려 보라. 이를 보면 결국 킬러 로봇의 능력도 우리에게 달려 있다.
현실적인 수준에서 킬러로봇의 효율성 내지는 윤리성은 우리가 구체적인 정황에 비추어 킬러로봇의 즉각적인 대응들이 효율적이었는지, 혹은 윤리적으로 합당했는지에 관해 실질적으로 평가할 때 비로소 판단할 수 있게 될 것이다.
인공지능 윤리하다 : 알라딘
인공지능(AI)은 우리 생활에 이미 친숙하게 다가와서 쓰이고 있다. 실생활에서 이미 쓰이는 인공지능에 대해서 우리가 알아야 할 부분은 AI 윤리이다. 인공지능은 ‘위임된 자율성’ 혹은 ‘준
www.aladin.co.kr