자율주행차와 인공지능 연구자들이 꼭 읽어야 할 책

다음 물음에 답해 보시오.

"제동장치가 고장 난 기관차가 돌진해 온다. 앞쪽에는 다섯 명의 사람들이 철로에 묶여 있는데 당신이 아무 조치도 취하지 않으면 그들은 기차에 치여 죽을 것이다. 그런데 당신은 선로 조종기를 조작할 수 있다. 조종기를 돌리면 기차의 경로를 바꿔서 다른 선로로 보낼 수 있다. 그런데 그 선로 앞에는 한 사람이 묶여 있다. 기차의 선로를 바꾸게 되면 이 한 사람이 죽는다. 당신은 어떻게 하겠는가?"

이것은 약 2년 전 마이클 샌델의 책 <정의란 무엇인가?>가 큰 인기를 끌면서 한국의 대중들에게도 어느 정도 익숙해진 물음일 것이다. 마이클 샌델은  이 트롤리(trolley: 시가전차) 문제를 첫 물음으로 자신의 강의 '정의 Justice'를 시작하기도 했다. 사실 마이클 샌델의 강의로 유명해진 문제이지만 이것을 처음으로 소개한 사람은 필리파 풋이라는 영국의 철학자이다. 이 책의 저자는 처음 트롤리 문제를 고안해 낸 철학자와 그 동료들을 소개하고 답하기 힘든 도덕적 딜레마를 다뤄왔던 인류의 역사를 압축해 설명해 준다.

사실 처음 트롤리 문제를 접하게 되면 도대체 어쩌란 말인지 답답함이 몰려온다. 이러지도 저러지도 못하는 상황에 놓이기 때문이다. 하지만 이런 상황이 작위적인 설정에만 그치는 것이 아니라 인류 역사 속에서도 그리고 현재 매일의 일상에서도 일어나고 있는 현실임을 인식할 필요가 있다. 이 책의 저자는 우리의 도덕적 직관을 시험해 보고 우리가 가진 도덕 원리를 발달시키기 위해서 이러한 물음에 대답해봐야 한다고 말한다. 저자의 말처럼 우리가 이와 같은 물음에 답하는 경험을 통해 얻는 직관과 원리들을 현실 세계의 문제에 실질적으로 적용할 수 있게 된다면 인류 사회에 유익이 될 것이다.

도덕적 딜레마 상황과 인간의 불완전한 반응

책에서는 도덕적 딜레마 상황에 대한 우리의 반응을 크게 세 가지 범주로 나누었다. 도덕적 의무와 당위를 강조하는 의무론과 결과에 초점을 맞추는 공리주의 그리고 아리스토텔레스나 아퀴나스처럼 품성 혹은 덕에 초점을 맞추는 반응. 세 가지 모두 주장에 나름의 정당한 논거를 가지고 있으나 트롤리 문제를 처음 도입했던 필리파 풋은 결정을 내릴 때의 의도를 중요하게 생각했다. 아퀴나스의 경우 살인일지라도 의도가 자기방어에 있었다면 그것은 도덕적으로 허용할 수 있다고 하고 이것을 ‘이중 효과의 원리’라고 했다. 일면 수긍이되기는 하지만 이는 책임을 전가하거나 변명하려는 목적으로 악용될 우려가 있다.

역사적으로 도덕적 딜레마에 대해 다양한 방식으로 답을 구하려 해왔지만 가장 문제가 되는 것은 인간의 도덕적 반응 혹은 선택이 문제를 조금만 바꾸어도 상당히 달라질 수 있다는 점이다. 철학자들은 트롤리 문제에서 선로에 묶여 있는 다섯 명을 구하기 위해 철로 위에 있는 육교 위 뚱보를 밀어서 떨어뜨리겠는가?라고 변형시켰다. 이 경우엔 다섯 사람의 목숨을 구하기 위해서일지라도 한 사람의 목숨을 빼앗는 것은 잘못된 것일 수 있다고 생각하게 된다. 복잡한 문제들에 대해 우리는 공리주의처럼 일련의 규칙을 만들고 그것을 지켜보려 했지만 그 규칙들은 현실에서 빈번하게 충돌하는 것을 경험했다.

영국의 철학자 버나드 윌리웜스는 공리주의가 우리의 도덕적 삶의 다양한 본질을 담아내지 못한다고 지적했다. 공리주의는 가끔씩 마주치는 자기 희생과 같은 인격의 고결함을 설명하지 못하고, 결과를 만들어 낸 행위자를 고려하지 않는다. 일상에선 우리가 한 일 뿐만이 아니라 하지 않은 일에도 책임을 질 때가 있다. 이에 존 롤스는 최소 수혜자에게 이득이 될 때에만 불평등이 허용되어야 한다는 반성적 평형 개념을 도입해 공리주의에 수정을 가했다. 하지만 이러한 개념으로도 때때로 불안정하고 불합리한 우리의 직관을 충분히 설명하지는 못했다.

약간의 조작만으로도 사람들에게서 다른 반응을 이끌어 낼 수 있다는 점은 다양하게 변형된 트롤리 문제들을 통해서도 확인되었다. 또한 행동경제학 실험에서도 충동에 좌우되고 비 논리적이고 혼란스럽고 때론 어리석기까지 한 인간의 직관이 확인되어 왔다. 인간은 상황에 영향을 받아 비이성적으로 판단하기도 하는 것이다. 뇌에 관한 연구들을 통해서도 우리의 행위가 그리 합리적이지 않을 수도 있다는 점들이 확인되고 있다. 이와 관련하여 트롤리 문제와 같은 윤리적 판단에 우리 몸속의 특정한 호르몬 수치가 영향을 미친다는 연구들도 인간의 불완전성을 확인해 주었다. 

우리가 도덕적인 사고를 알고리즘으로 바꿀 수 있다면  인간의 실수 혹은 잘못된 선택들을 줄일 수 있을까? 그렇기는 쉽지 않아 보인다. 감정의 분출로 인한 인간의 실수는 줄일 수 있을지 모르겠지만 근본적으로 우리가 어떤 도덕 규칙에 합의하고 그것을 따라야 하는 규율로 정하는지가 더 중요한 문제이다. 트롤리 문제에 답하려 하는 목적을 다시 확인할 필요가 있다. 이러한 사유 실험을 통해 우리의 불완전한 반응을 이해하고 도덕성의 본성에 관해 무엇인가 알려줄 수 있는 원리를 도출해 내야 할 필요가 있다.

사유 실험을 현실의 문제에 적용해 본다면?

최근 제한적 자동운전 시스템을 탑재한 미국 테슬라 모터스의 차량이 자율주행 모드가 켜진 채 운행하던 중 트럭과 충돌해 운전자가 사망하는 사고가 발생했다. 이 사고는 자동운전 시스템 운행 시 최초의 사망사고로 기록될 것 같다. 사고 소식을 전하는 여러 매체들에서 눈에 띄는 건 '운전자도 자동차도 빛이 비춰서 트럭을 인지하지 못했다'라는 표현이다. 제한적인 기능임에도 자동운전 혹은 자율주행 기능이 적용되어 있었기 때문에 이와 같은 말이 가능한 것이다.

기술발전 추세를 보면 과거 미국드라마 전격제트작전에서 만났던 키트와 같은 완전 자율주행자동차의 출현이 얼마 남지 않은 듯 하다. 완전 자율주행자동차가 일반 도로를 달리는 데 있어 걸림돌이 되고 있는 것 중의 하나가 사고 시 책임의 문제이다. 책임 여부를 물을 때 결국 자동차 운전 시스템을 어떻게 프로그램했는가의 문제가 핵심적인 이슈가 될 것이다. 특히 위험한 인명 사고 상황, 이를테면 횡단보도를 건너는 다섯사람을 피하기 위해 중앙선을 넘어 운행하는 선택 등의 판단을 해야할 상황에서 어떻게 운전되도록 할 것인가?

이젠 자율주행자동차나 인공지능 로봇 등에 적용되는 소프트웨어를 설계하는 엔지니어들에게 윤리적 사고 혹은 사유 실험이 절실히 필요한 시대가 도래했다. 철학 영역에선 이와 같은 주제를 트롤리학이라는 이름으로 일찍이 다뤄왔었다. 철학이나 윤리학 등의 강의에선 단골 주제이기도 했던 문제가 이젠 그 고유한 영역을 벗어나 과학기술 분야 공학자들이 처절하게 다루어야 할 이슈가 된 듯 하다. 저자는 책의 마지막에서 아래와 같이 묻는다. 이 물음에 어떻게 대답할 것인지 함께 생각해 보면 좋겠다.

"지난 반세기 동안 트롤리학은 우리가 타인을 어떻게 대우해야 하고, 우리의 삶을 어떻게 살아야 하는지 등에 관한 결정적인 질문들에 의문을 제기할 수 있는 계기를 제공했다. 최근에는 전쟁에서 일어나는 행위들의 적법성을 생각하는 데에 트롤리와 비슷한 문제제기가 많이 등장한다. 뚱보의 문제는 의무론적 윤리학과 공리주의 윤리학의 극명한 충돌을 드러낸다. (대부분의 사람들은 공리주의적 본능을 가지고 있지 않다) 여전히 정답을 찾지는 못했다. 하지만 육교 위의 뚱보가 처한 상황이 열쇠인 것만은 틀림 없다. 나는 그 뚱보를 죽이지 않을 것이다. 당신은 어떻게 하겠는가?