트롤리 딜레마(Trolley problem)란?

이전 글에서 약속했던 것처럼 실제 자율주행차로 인해 발생하는 윤리적 이슈에 대해 알아보자.

디지털 트랜스포메이션, 자율주행차(車)

 

오늘의 이야기에 들어가기에 앞서 혹시 #아웃사이드더와이어 라는 영화를 보았는가?

 

간단히 말해 2030년대 인공지능 비밀 인간 살상 병기에 관한 이야기이다. 세계 평화 유지라는 궁극적 목표로 프로그래밍이 되어 있으며, 특이 상황 발생 시 인공지능의 자체적 판단으로 기존 프로그래밍의 주요 목적 달성을 위해 개인적 판단을 할 수 있게 되어 있다. 그 결과 이 인간 살상 병기는 주요 제조/프로그래밍의 목적을 이루기 위해 사람들이 생각하는 범위를 벗어난 결정을 내리게 되는데....

세부 사항은 스포일러가 될 수 있기에 직접 찾아보시길 바란다. 인공지능과 윤리 문제에 관한 내용에 관한 관심이 있는 분이라면 강력히 추천한다. 

 

자 본론으로 들어가 보자. 기계와 사람 중 누가 더 안전할까? 당연히 기계가 사람보다 안전하다. 사람은 음주 운전, 운전 중 스마트폰, 졸음운전, 끼어들기, 과속 등을 하지만 기계는 하지 않기 때문이다.

 

실제로 2019년 교통사고 발생 건수는 229,600건이다. 이 중 사고원인이 기타로 분류된 건 수는 5,149건인 2.24%에 불과하다. 이 기타 부분을 전부 기계 오작동으로 간주해도 나머지 부분인 97.76%는 전부 사람의 과실로 발생한 사고라는 것이다. 확실히 높은 수치다.

<교통사고분석시스템 TAAS의 2019년 교통사고 통계분석 자료 - http://taas.koroad.or.kr/web/bdm/srs/selectStaticalReportsList.do?menuId=WEB_KMP_IDA_SRS_TAA>

 

이러한 관점으로만 보면 자율주행차는 정말 우리 세상을 안전한 세상으로 만들어 줄 것 처럼 보인다. 하지만 자율주행차만 다니는 세상에서도 사고가 나지 않는다는 보장은 할 수 없다. 그렇다면 자율주행차가 인명 사고를 냈을 때는 누구의 책임일까? 탑승자? 아니면 자율주행 차를 만든 제조업체? 지금으로써는 명확히 답을 하기가 쉽지 않다.

 

운전자가 아닌 탑승자의 입장으로 본다면 분명 자율주행 차를 만든 회사의 책임이라 볼 수 있다. 이런 관점에서 본다면 우리의 현 자동차 보험제도는 상당 부분이 바뀔 가능성이 존재한다.

 

지금까지 보면 책임 소재에 관한 문제가 생각보다 쉽다. 하지만 자율주행차의 가장 큰 윤리적 이슈는 중 하나인 '트롤리 딜레마'를 한 번 이야기해 보자.

 

트롤리 딜레마의 이해를 돕기 위해 예시를 들어보자. 

자율주행 운전 중 브레이크의 고장이 발생했다. 건널목에는 한 사람이 지나가고 있고, 옆 인도에는 5명이 있다. 옆으로 틀면 5명이 죽고 직진하면 건널목의 한 사람이 죽는다. 과연 누구를 죽여야 할까? 혹 누구를 살려야 할까?

얼핏 보면 사람들의 생명의 가치가 모두 같다 쳤을 시 다수를 살리는 쪽이 백번이고 옳아 보인다.

 

그렇다면 만약 아래의 경우에서는 어떤 선택을 할 것인가?

 

브레이크가 고장 났는데 5명의 사람이 무단횡단을 하고 있다. 직진을 해서 5명을 죽여야 할까? 옆으로 틀어서 5명을 살려야 할까?

 

바로 앞의 관점이라면 다수를 살리기 위해 옆으로 트는 것을 선택할 것이다. 하지만 무단횡단을 법을 어긴 것으로 간주할 때는 인공지능은 범법자인 5명을 죽여야 한다고 충분히 결정할 수도 있다.

 

이게 끝이 아니다. 만약 어쩔 수 없이 교통사고를 일으켜야 하는 사람의 수가 같다면 어떨지 상상해보자.

 

브레이크가 고장 났다. 건널목에는 아이가 있고 옆 인도에는 어른 또는 노인이 지나가고 있다. 인공지능을 탑재한 자율주행차는 과연 누구를 향해 달려가야 할까?

 

아마 앞으로의 살아갈 날이나 미래를 생명의 가치로 생각한다면 아이를 살려야 한다고 생각하기 쉽다. 그런데 만약 인도의 그 어른이 나의 엄마, 아빠라면? 그 노인이 나의 할머니, 할아버지라면? 생명에 관한 가치의 무게가 조금은 아이에서 어른이나 노인으로 옮겨갈지도 모른다.

 

아래는 MIT에서 230여만 명을 대상으로 조사한 내용이다.

<기사 참고 - https://biz.chosun.com/site/data/html_dir/2018/11/01/2018110100157.html>

 

위의 설문에 따르면 대다수 사람은 다수의 보행자를 살려야 한다고 했다. 하지만 여기에 추가적인 질문을 하나 더 했다. 바로 운전자(탑승자)보다 보행자의 안전을 우선시하는 차를 구매하겠습니까? 다시 말해 나의 생명을 보장하지 못하는 차를 구매하겠냐는 뜻이다. 아이러니하게도 이 질문에는 "아니오"라고 대답했다.

 

즉, 사람은 자신의 생명을 우선시하지 않는 차를 구매하지는 않지만 다른 사람들은 그 차를 샀으면 좋겠다고 생각한다는 것이다.

<기사 참고 - https://www.esquirekorea.co.kr/article/36630>

 

"메르세데스 벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감수하기보다는 어린이를 칠 것이라고 인정했다."

위 기사에 사람들은 엄청나게 비난했다. 하지만 사람들은 벤츠를 탈 것이다. 우리나라 현대, 기아차로 가져와서 생각해보자. 만약 현대가 벤츠와 같이 탑승자의 안전에 집중할 것을 언급하고 기아가 보행자의 안전을 우선시하는 차를 만들겠다고 하면 여러분은 현대차를 사겠는가? 기아차를 사겠는가?

 

겉으로는 기아차가 좋다고 말하면서 현대차를 사는 사람이 대다수일 것이다. 어쩌면 주위의 시선을 인식하여 무엇이 더 좋다는 말은 못하지만 자연스럽게 현대차를 구매하게 될지도 모른다.

 

이런 딜레마들이 명백히 존재하지만, 초반에 언급한 절대적인 사고량을 고려할 시, 분명 자율주행차가 더 안전하다 판단할 수 있다. 이처럼 인공지능을 탑재한 자율주행차의 미래의 방향성을 논할 때는 단순히 정략적인 데이터가 아닌 정성적인 사람들의 생명과 같은 윤리적 문제에 대한 사회적 합의가 필수적으로 보인다.