자동운전 차량이 실용화되면 인간의 실수로 인한 사고가 없어지면서 교통사고 사망자가 격감할 것으로 기대를 모으고 있다. 반면 자동운전 기술이 진보하면서 만일 사고가 불가피한 상황에 빠지면 자동운전 차량은 보행자 생명보다 승객 생명을 우선시할 것인가 등에 대한 윤리적 문제를 어떻게 해결하면 좋을지 논의가 나오고 있다. 자동운전 차량의 이런 윤리적 딜레마는 어떻게 해결해야 할까.

MITW미디어랩 아이야드 라흐반(Iyad Rahwan) 교수가 TED 강연에서 이에 대해 밝히고 있다. 이에 따르면 미국만 해도 2015년 자동차 사고로 3만 5,000명이 사망하고 있으며 전 세계적으로는 120만 명에 달하는 사람이 매년 자동차 사고로 사망한다. 사고 사망자를 90% 이상 줄이기 위한 대답은 인간의 실수를 줄이는 것이며 이게 바로 자동운전 차량 개발이 시급한 이유 중 하나다.

2030년에 자동운전 차량이 있다고 생각해보자. 뒷좌석에 앉아서 고전 영화를 보고 있는데 갑자기 기계적 문제가 발생해 자동운전 차량은 멈출 수 없게 된다. 앞에 보행자가 많다면 자동운전 차량은 보행자 쪽에 뛰어들어 많은 사람들이 피해를 볼 수도 있다. 수많은 보행자 생명을 우선시해 길가로 가는 걸 생각해볼 수도 있다. 상대적으로 사람이 적어 많은 인명은 구할 수도 있다.

다른 방법도 물론 있다. 자동운전 차량이 아무도 없는 벽에 충돌, 멈추는 것이다. 이 경우 손실은 자동운전 차량에 탄 사람 뿐이다. 어쨌든 누군가 피해를 보는 불가피한 상황에서 누구의 생명을 우선시할 것인가. 이건 수십 년 전부터 논의 중인 윤리적 문제다.





물론 이런 시나리오가 현실적이지 못하다고 말하면 간단하지만 이렇게 한다면 문제는 해결되지 않는다. 어떤 방향으로 진행하면 누가 얼마나 확률로 죽을지 순간적으로 계산해 판단한다는 방법론도 있다. 운전자 혹은 보행자 보호를 판단하는 데에는 복잡한 계산이 필요하다. 하나를 택하면 다른 쪽을 포기해야 하는 트레이드오프 문제도 포함되어 있기 때문이다.

기술 발전이 해결해줄 것이라는 생각도 있다. 사고가 일어나지 않도록 해주는 기술이 등장할 것이니 이를 기다려야 한다는 것이다. 사실 사고를 90% 줄이는 기술은 그리 어렵지 않다. 10년 안에 사고가 90% 감소하는 일은 있을 수 있다. 하지만 나머지 10%를 제로로 만드는 건 사고를 격감시키는 것과는 비교도 되지 않을 만큼 어려운 일이다.

예상으로는 90%를 100%로 만들려면 다시 50년이 걸린다고 한다. 만일 일정 비율로 이를 달성한다면 사고가 제로가 될 때까지 6,000만 명의 목숨이 사라진다.

소셜미디어를 보면 다양한 해결책을 말한다. 자동차는 군중 사이를 어떻게든 화려하게 빠져나가야 한다는 것도 있다. 비상 탈출 버튼을 만들어 사고가 일어나면 낙하산을 이용해 탈출한다는 내용도 있다.

물론 이런 양자택일의 상황에서 최종 결정은 규칙이나 법률이 결정하게 될 것이지만 이는 사회적 가치관을 반영한 것이어야 한다. 제러미 벤담은 최대 다수의 최대 행복이야 말로 올바른 길이라고 주장했다. 이 개념은 가장 희생자가 적은 방법이다. 갓길 사람을 덮치거나 벽에 충돌하는 선택이 될 것이다. 이에 비해 이마누엘 칸트는 보편적 도덕 규칙에 무조건 따라야 한다는 의무론을 주창했다.

사람들 대부분은 벤담의 입장에 서있다. 더 많은 인명을 살리는 게 올바른 해결책이라고 말한다. 하지만 타인의 생명을 보호하기 위해 자신이 희생할 지도 모른다면 자동운전 차량을 구입하겠냐고 질문하면 모두 아니라고 말한다. 자신은 자동운전 차량을 구입하지 않겠지만 다른 사람에겐 자동운전 차량을 사서 교통 안전이 개선됐으면 하는 생각을 하는 것이다.

이런 상황은 사회적 딜레마로 알려져 있고 1800년대 영국 학자인 윌리엄 포스터 로이드의 공유지의 비극(Tragedy of the commons)으로 논의된 것과 같은 유형이다. 모두 공유지를 나눠 양을 기르고 있는 상황이라고 생각해보자. 양의 수가 적다면 모두가 행복하다. 여기에서 어떤 사람이 몰래 1마리 더 양을 공유지에 넣었다. 이 사람은 조금 이득을 취하지만 다른 사람에겐 그다지 큰 영향을 주지 않기 때문에 큰 문제가 되지 않는다. 하지만 모두가 이성을 잃고 1마리씩 양을 공유지에 더 넣으면 목초가 부족해지고 양은 전멸한다. 이런 상황은 모두에게 악몽이다.





같은 일이 오늘날에도 일어나고 있다. 물고기 남획 문제와 온실가스 배출 문제 같은 게 이런 예다. 자동운전 차량도 마찬가지가 될 수 있다. 하지만 자동운전 차량은 조금 구조가 다르다는 걸 주의할 필요가 있다. 이를 결정하는 건 자동운전 차량을 구입하는 소비자가 아닌 자동운전 차량을 프로그래밍하는 제조사이기 때문이다. 사용자는 결단할 필요가 없다는 차이가 있다.

자동운전 차량은 스스로 생각하고 결론을 낸다. 공유지의 비극에 등장하는 양으로 보면 스스로 생각하고 결정하는 디지털 양인 셈이다. 디지털로 이뤄진 양의 결정은 주인이 알 수 없다. 이는 알고리즘 공유지의 비극이라고 할 수 있다.

지금까지 인류는 수많은 사회적 딜레마를 해결해왔다. 정부와 시민이 모여 의견을 수렴하고 무엇이 가장 좋은 방법인지 토론, 규칙을 정해 해결했다. 이를 통해 사회적으로 양호한 상태를 유지한 것이다.

하지만 사고가 일어나 수많은 인명을 돕기 위해 자신이 희생될 수도 있는 어쩔 수 없는 상황에서 자동운전 차량에 관한 규칙은 지켜질까. 먼저 일어날 수 있는 반응은 규칙에 반대하는 목소리다. 다음에 나오는 건 이런 규칙에 의해 만들어진 자동운전 차량이라면 구입하지 않겠다는 의견이다. 도로 안전을 목적으로 만든 규칙 탓에 오히려 자동운전 차량을 구입하지 않는 사람이 늘어나는 결과가 나오는 것이다. 이렇게 되면 안전성이 실현되지 않는 아이러니한 상황이 태어난다.

이 문제를 해결할 방법론은 아직 없다. 하지만 지금 시점은 자동운전 차량에 대한 사회적 딜레마와 상충하는 문제에 대한 논의 출발점이라고 할 수 있다. 웹사이트를 통해 전 세계 사람을 대상으로 자동운전 차량이 어떤 판단을 내릴 수 있는지에 대한 조사를 진행한 결과 전 세계 100만 명 이상 500만 개에 달하는 답변이 모였다. 이런 의견은 이 문제 해결을 위한 초기 청사진을 만드는 데 도움이 될 것이다.

1940년 SF작가 아이작 아시모프의 소설에서 로봇이 따라야 할 로봇 3원칙이 등장한다. 로봇은 인간에게 해를 끼치면 안 되며 로봇은 인간에게 주어진 명령에 복종해야 한다는 것, 로봇은 자신을 지켜야 한다는 것이다. 또 이 순서대로 우선권이 있다.

아이야드 라흐반는 이 3가지 원칙에 우선해 지켜야 할 0번째 법칙을 제안한다. 로봇을 인간이 갖는 배려하는 마음을 다치지 않게 한다는 대원칙이 그것이다. 자동운전 차량이 직면한 문제는 기술적 문제라기보다는 사회적 협조의 문제라는 걸 이해하는 게 중요하다고 말한다. 이 사실을 이해하는 게 어려운 문제를 올바른 방향으로 이끌 최소한의 시작이 될 것이라는 주장이다. 관련 내용은 이곳에서 확인할 수 있다.

https://www.youtube.com/watch?v=nhCh1pBsS80

이원영 IT칼럼니스트  b612@glasspad.co.kr

<저작권자 © 테크홀릭, 무단 전재 및 재배포 금지>