인공지능 오류로 사망자 낸 우버, '윤리지능' 갖춘 자율 차 가능할까? | 인터비즈 봐봐요

>

최근 워 바의 시험 주행 차와 테슬라 모델 X차의 자율 주행 관련 2반의 사망 문제는 자율 주행이 아직 기술적으로 완벽하지 않다는 현실을 나타내고 있다. 우버 차량의 문제 영상에 대해 "사람이라도 갑자기 뛰어든 보행자를 피할 수 없었을 것이다"라는 소견과 "사람이라면 무엇인가 조치할 수 있었을 것이다"라는 소견이 교차하기도 한다. 자율주행이 상용화되기 위해서는 자율주행차가 사람이 육안으로도 식별하기 어려운 장애물을 인식해야 한다. 그것에는 아직도 주위의 사물에 대한 인식이 부족했다. 자기 인식이 있었다

자율주행이 상용화되기 위해 기술의 완성도가 높아져야 한다는 것은 양쪽 귀의 예기치 못한 이 얘기다. 그러나 기술개발 외에도 사회적, 환경적, 법률적, 윤리적으로 해결되어야 할 문제가 존재한다. 예컨대 수천 대의 자율주행차가 운전자 없이 도로를 주행하며 매연을 내뿜어 교통체증을 유발하면 사회적으로 수용하기 어려울 것이다. 따라서 자율주행 활성화는 친환경차나 카셰어링 등 공유경제모델의 활성화를 동반해야 한다.

>

이 밖에도 자율주행에는 첨단기술과는 얼핏 어울리지 않는 철학적이고 윤리적인 문제도 존재한다. 예상치 못한 돌발상황으로 화재가 나면 수십 분의 1초 이하의 짧은 순간에 자율주행차량은 운전자와 탑승객을 보호하기 허브로 만들기 위한 최선의 선택을 해야 한다. 그리고 그 선택이 운전자의 생명뿐 아니라 주변의 다른 차량 운전자인 보행자의 생명에도 영향을 미칠 수 있다면 당시엔 어떤 선택을 해야 할까.가령 어떤 글 솜씨가 터졌을 때, 스티어링 휠을 조작하지 않을 경우 운전자가 생존할 확률은 한 0카피.센트 미만에 지나지 않지만, 스티어링 휠을 돌릴 경우 생존 확률이 높아진다고 하자. 그러나 이렇게 핸들을 조작할 경우 소풍가는 도보 유치원생을 탈 수 있는 확률도 높아진다고 가족끼리 가자. 요즘은 이런 상황에 대한 판단은 운전자에게 맡기고 그에 대한 윤리적 대책이라는 실질적으로 거론되지 않는다.그러나 자율주행 시스템이 제대로 운영되기 위해서는 이런 돌발 상황에 직면할 경우 시스템이 과연 어떤 선택을 하게 할지를 프로그램 로직에 미리 체크해 둬야 한다. 즉 개발자들이 기계에 사전에 어떤 가치판단을 내리게 할지를 미리 결정해 둬야 한다는 뜻이다.

>

철학자들은 960년대부터 트롤리 딜레마(Trolley Dilemma)와 함께 위기 귀추에 있어서의 윤리적 딜레마에 대한 고찰을 해왔다. 최근 자율주행의 대두와 함께 이 화제가 새롭게 주목받고 있다. 트롤리 딜레마라는 가상의 선로를 주행하게 떨렸다 전차가 그대로 추진할 경우 선로에 묶인 5명의 사람을 치는 것이 확실한 귀추에 대해서 당신 이 주행 선로를 바꾸는 경우 달라진 선로에 별명이 묶이고 있었다면 5명의 목숨을 구하기 위해서 고의적으로 별명을 죽은 것에 대한 질문 이다니다.

>

트롤리 딜레마에 대한 각종 연구 및 설문 조사에서 응답자들은 70~90퍼센트의 비율로 5명을 구하는 쪽을 택하라고 답했습니다. 참 제 다른 선로에 묶인 한명이 본인의 가족의 경우에는 그 비율이 현저히 떨어졌다. 다른 설문 조사에서는 운전자에게 해를 끼치는 판정을 할 수 있는 자율차라면 사지 않겠다는 응답이 과반수를 넘기도 했습니다. 이에 대한 연장선상에서 요즘은 차량이 운전자와 보행자의 안전을 어느 비율로 우선하는지에 대한 연구가 활발하다.예를 들어 MIT 미디어랩(MIT Media Lab)에서는 현재 '모럴머신(Moral Machine)'이라는 별도 웹사이트())에서 자율주행환경 시과인리오에 맞춰 트롤리 딜레마 상황을 제시하고 다양한 상황에 대한 웹사이트 방문자들의 답변을 받고 있다. MIT미디어 랩은 이를 통해서 보행자보다 승객 보호 정도 기계의 개입 정도 내가, 성별, 교통 법규 준수 여부 등에 의해서도 보호 받아야 할 대상에 대한 1반 사람의 의견을 집대성하고 있다. 국항오에서도 입력이 가능하며 13개 휘장 와잉리오에 답을 다 하고 나 면 군의 성향이 전체 응답자 평균보다 어느 정도인지 확인할 수 있다.

>

사실 자율주행 개발자들의 궁극적인 목표는 이런 딜레마 귀취에 놓이지 않을 것입니다. 몇년 전 세계 최대 자동차 시장이었던 미국에서는 매년 약 3만 5000명의 교통뭉지에 사망자가 발생했는데 이는 정원을 700명 가까이 한강 산린 A380기가 매주 하나씩 추락하는 것입니다.한정은 2015년 기준 5539명(2016년 4292명)교통사 이 때문에 사망하고 인구 10만 명당 교통뭉지에 사망자 수가 9. 혼자 경제 협력 개발 기구(OECD)회원국 평균(5.3명)의 거의 두 배에 육박하는 숫자를 보이고 있다. 교통문재는 대부분의 정부에서 안전문재 사망(질병이 아닌 다른 원인 사망) 원인 중 자살 다음으로 큰 비중을 차지할 것이다.

국내에서는 졸속 운전으로 속도를 줄이지 못한 대형 버스가 승용차를 덮치는 사고 영상이 많은 사람들에게 공포를 주기도 했습니다. 교통 사고 90퍼.센트 이상은 운전 부주의, 목소리를 줍기 전, 속도위반, 신호위반 등 인적 실수(humanerror)에 기인한다. 자율주행이 제대로 구현될 경우 인류는 교통사, 그리고 인명손실을 획기적으로 줄일 수 있을 것으로 기대된다. (그 전에 하음운전 대형 차량의 전방 주시 강제 제동 등은 현재의 기술로도 충분히 실현 가능하기 때문에 이 분야의 의무화가 시급하다.)

*나의 약력, 연세 대학교 기계 공학과 졸업(학·석사), MIT슬론 경영 대학원 경영학 석사(MBA)-딜로이트 서울 사무소, 자동차 산업 담당 디렉터 역임-현대 자동차 산업 전략 컨설팅 회사 베리루 스・코리아(Berylls Strategy Advisors Korea)대표 잉타ー비ー즈팍송지 정리 inter-biz@naver.com

>