영화 터미네이터 시리즈를 보면 자신을 막으려는 인류를 적으로 간주하고 공격을 가하는 가상의 컴퓨터 스카이넷이 등장한다. 현실에선 아직 스카이넷 같은 자아를 가진 컴퓨터가 등장한 건 아니다. 하지만 인공지능은 핵무기보다 위험성이 더 높다는 지적이 나오고 있다.

저명한 물리학자인 스티븐 호킹과 전기 자동차로 유명한 테슬라모터스의 CEO 엘론 머스크 등을 포함한 1,000명이 넘는 인공지능(Artificial Intelligence)과 로봇 공학 연구자가 아르헨티나 부에노스아이레스에서 열린 인공지능 관련 국제회의(International Joint Conference on Artificial Intelligence) 기간 중 인공지능 전쟁 금지를 권고하는 서한에 서명했다. 이번 서한에 서명한 사람 중에는 애플 공동 설립자인 스티브 워즈니악과 인공지능 기업인 딥마인드의 CEO 데니스 하사비스, MIT 교수인 노암 촘스키 등이 있다.

FLI(Future of Life Institute) 연구소 명의로 발표한 서한은 인공지능을 탑재해 자율적으로 움직이는 로봇 무기인 킬러 로봇을 위험성을 경고하고 있다. 군사적 방향으로 인공지능 개발 경쟁을 끝내라는 것. 이 연구소에는 지난 1월 엘론 머스크가 1,000만 달러를 기부해 화제를 모으기도 했다.

서한은 인공지능이 화약과 핵무기에 이은 전쟁사에서 제3의 혁명이라고 말한다. 하지만 핵무기는 만드는 게 쉽지 않은 탓에 누구나 가질 수 있는 건 아니다. 이에 비해 인공지능을 탑재한 자율 로봇 무기는 원재료를 쉽게 확보할 수 있어 대량 생산이 가능하다. 암시장으로 흘러들어 테러리스트도 손쉽게 손에 넣을 수 있게 되어 전 세계 분쟁 지역 어디서나 쓰이는 자동소총인 AK-47 같은 존재가 될 수 있다는 것.

이미 이 서한 내용과 비슷한 스톱킬러로봇 캠페인도 지난 2013년 4월부터 진행 중이기도 하다. 물론 군 당국은 대부분 치명적 피해를 줄 수 있는 공격에 대한 결정권은 인간에게 있다고 말한다. 하지만 어느 날 로봇이 스스로의 힘으로 운동 능력을 가지게 될 것을 부정하지도 않는다는 지적이 있다. 이런 로봇 무기는 국제 인도법에 맞지 않는 건 물론 무력 분쟁에서 민간인 부상이나 사망 우려가 높아질 위험이 있다.





이 서한은 인공지능이 여러 면에서 인류에 혜택을 제공할 수 있지만 인공지능 군비 경쟁은 전혀 반대의 경우라면서 공격적인 자율 무기가 인간에 의한 통제를 벗어나게 되는 걸 금지해 인공지능 군비 경쟁을 막아야 한다고 밝히고 있다.

엘론 머스크는 지난해 8월 인공지능은 핵무기보다 더 위험한 만큼 주의할 필요가 있다고 경고한 바 있다. 스티븐 호킹 박사 역시 인공지능의 위험성을 말한다. 인공지능은 핵무기보다 잠재적으로 더 위험하다는 것. 그는 100년 안에 인공지능이 인간을 넘을 것이라고 경고하기도 했다. 스티브 워즈니악 역시 스마트 기기의 지능이 더 똑똑해지고 급기야 인간이 쫓겨나거나 로봇의 애완동물이 되어 버릴 것이라는 우려를 밝히기도 했다.

Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.

Elon Musk (@elonmusk) 2014년 8월 3일

이들 외에 유엔도 이런 로봇 무기에 대한 논의를 하고 있다. 하지만 지난 4월 제네바에서 열린 회의에선 스톱킬러로봇 캠페인 등이 압박을 했지만 영국이 자율로봇 무기 개발 중단에 반대 의사를 표명한 바 있다. 관련 내용은 이곳에서 확인할 수 있다.

이석원 기자  lswcap@techholic.co.kr

<저작권자 © 테크홀릭, 무단 전재 및 재배포 금지>