ESQUIRE

주행 중 브레이크가 고장 난 자율주행차를 상상해보자. 그대로 달릴 경우 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이럴 경우 자율주행차에는 어떤 프로그램이 내장되어 있어야 할까? 당연히 핸들을 꺾는 판단을 하는 프로그램이 다수의 공감을 얻을 것이다. 그런데 핸들을 꺾어서 다치게 되는 사람이 보행자가 아닌 자동차 탑승자라면? 자율주행차는 보행자와 탑승자 사이에서 누구를 보호해야 할까?

이 질문은 2016년 6월 과학 학술지 <사이언스>에 실린 논문에서 등장했다. ‘자율주행차의 사회적 딜레마’라는 제목의 이 논문은 사람들에게 위와 같은 질문으로 설문 조사를 진행했다. 이 설문 조사에서 대다수의 사람(78%)이 다수의 보행자를 보호하는 것이 더 윤리적이라고 답했다. 그런데 흥미로운 것은 그다음 질문이었다.

“그렇다면 자동차 탑승자보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?”

눈치챘는지 모르겠지만 대다수의 사람은 그런 차를 구입하지 않겠다고 답했다. 이성적 판단으로는 대다수의 보행자가 우선이지만 그 자동차 탑승자가 자신이거나 혹은 가족인 경우에는 어김없이 딜레마에 빠지고 만다.

그렇다면 자동차 제조사의 판단은 어떨까? 얼마 전 메르세데스-벤츠의 한 고위 임원은 보행자보다 자동차 탑승자의 안전을 우선시할 것이라는 발언을 했다가 언론의 뭇매를 맞았다. 제조사 입장에서는 당연한 결론이겠지만 그런 발언은 사회적 논란을 일으키기 십상이다. 당시 영국 신문 <데일리 메일>에서도 이런 기사를 내보냈다.

“메르세데스-벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감수하기보다는 어린이를 칠 것이라고 인정했다.”

심각한 것은 비판은 있으나 대책이 없다는 점이다. 독일연방교통부는 사고를 피할 수 없는 상황에서 자율주행차가 어떤 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다.

다만 심증은 분명해 보인다. 자율주행차의 알고리즘을 연구하는 MIT의 라환 교수가 한 말이 그 심증을 대변한다.

“사람들은 자신을 희생시키는 자동차를 사지는 않겠지만 다른 사람들이 그런 차를 샀으면 좋겠다고 생각한다.”

아마도 자율주행차는 공리주의를 표방할 것이다. ‘최대 다수의 최대 행복’이라는 공리주의는 모든 판단에 대해 계산 가능성을 전제로 한다. 그 계산이란 손해보다 이익이 많은지를 측정하는 것이다. 이러한 이유로 공리주의는 도덕 철학이라기보다는 ‘도덕 과학’임을 자임한다.

윤리적인 판단 근거를 이익과 손해의 관점으로만 해석하면 너무나 쉽다. 자율주행차뿐만 아니라 4차 산업혁명의 다양한 첨단 기술에 심어야 할 도덕적 알고리즘을 적용하기에도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 이러한 공리주의적 판단에 수치화된 근거를 제시할 수 있기 때문이다.

보행자와 탑승자 중 누구를 살리는 게 이익일까를 판단할 것이며, 장애인과 비장애인 중 누구를 살리는 게 이익일까를 판단할 것이다. 어쩌면 아랍인인지 미국인인지 인종을 구분하는 데이터값이 있을지도 모르겠고, 유명 인사와 일반 시민 중 어느 쪽을 살리는 게 이익인지 수치화된 데이터를 제시할 수도 있겠다.

2017년 8월 23일 독일은 세계 최초로 자율주행차에 대한 윤리 지침을 발표했다. 독일연방교통부, 그리고 14명의 과학자와 법률 전문가로 구성된 디지털 인프라 담당 윤리위원회는 자율 주행 기술이 지켜야 할 20가지 지침을 만들었다.

이 지침에서 주목해야 할 점은 인권에 대해 표준화된 지침은 불가능하다는 내용이었다. 그것은 연령, 성별, 인종, 장애에 대해 우선순위를 판단해서는 안 된다는 것을 의미한다. 다시 말해 아이를 살리기 위해 노인을 죽이는 것은 옳은 판단이 될 수 없다. 이러한 독일의 가이드라인은 인간의 존엄성에 대해 공리주의적 판단을 차단했다는 점에서 의의가 있다.

한 가지 아쉬운 점은 유명한 트롤리 딜레마에 대해서는 판단을 유보했다는 점이다. <정의란 무엇인가>의 저자 마이클 샌델이 자주 인용하여 널리 알려진 딜레마가 일명 ‘트롤리 딜레마’다. 그동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희인 줄 알았다. 그런데 4차 산업혁명이 모든 것을 현실로 바꿔버렸다. 이제 우리는 그런 윤리적 딜레마를 프로그래밍해야 한다. 바로 자율주행차의 등장 때문이다. 결국 이 위원회가 고심 끝에 내놓은 결론은 다음과 같다.

“차량 시스템은 인간의 결정을 따라야 한다.”

인간의 결정을 대신해야 할 자율주행차에 인간의 결정을 따르라고 말하는 다소 어이없는 결론이기는 하지만, 어쨌든 인간의 존엄성과 가치판단이라는 철학적 난제를 아직은 기계에 양보할 수 없다는 의지의 표명처럼 보인다.

손쉽게 계산할 수 있다는 점은 공리주의의 가장 큰 장점이다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊숙이 관여할지도 모르겠다. 하지만 우리는 이익과 손해를 계산하는 것만으로 존재의 가치와 존엄성을 따질 수 없다는 진실을 알고 있다. 알고는 있지만 자율주행차의 알고리즘에 입력할 수 있을 만큼 증명하지는 못했다. 결국 자율주행차의 딜레마는 기술적 딜레마가 아니라 철학적 딜레마다.

철학이라고 하면 마치 19세기나 20세기 정도에 머물러 있는 듯한 느낌을 받게 된다. 그만큼 철학이 멀리 있는 것은 아닐까? 자율 주행, 인공지능, 빅데이터가 펼쳐지는 세상인데 아직도 우리는 아리스토텔레스나 벤담, 칸트, 롤스 같은 고전 읽기 수준의 철학을 말한다. 그러한 철학자들은 드론이 뭔지도 모른다.

이제는 그들이 남기고 간 철학적 유산을 4차 산업혁명에 맞게 고도화시켜야 한다. 가상현실과 증강현실이 인간 사회에 미치는 영향을 탐구해야 하고, 사물 인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 보호할 수 있게 만들어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 만들어야 한다.

우리가 철학적 난제를 회피할수록, 또는 윤리적 딜레마를 계산하기 쉬운 공리주의에 양보할수록 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이다.

—

휴식의 신세계, 자율주행차 (SERICEO, http://www.sericeo.org/index.html)