도덕적 로봇을 생각해야 할 때

왜 로봇의 도덕인가

작가

웬델 월러치, 콜린 알렌

출판

메디치미디어

발매

2014.06.20

평점

리뷰보기

 

  로봇 혹은 인공지능은 수 많은 공상과학 소설이나 영화의 단골 주제 중의 하나였다. 그런데 인류가 이용할 수 있는 기술들이 급격하게 발전되어 감에 따라서 스타워즈, 아이로봇, 인터스텔라와 같은 영화들에서 볼 수 있었던 로봇들이 이제 곧 우리 곁에 나타나게 될 지도 모른다. 게다가 우리는 영화에서나 상상할 수 있었던 것들이 몇 년 지나지 않아 실제 제품으로 출시되는 것들을 경험하고 있다. 자동차, 비행기, 컴퓨터, 스마트폰 등 정말 많은 제품들이 스크린을 빠져나와 현실이 되었다. 이제 다음 차례는 로봇이 될 것 같다.

 

  자동차 및 정보기술 산업 분야에서는 자율주행 자동차가 미래 기술을 이야기할 때 빠지지 않고 등장하고 있으며, 수 십 년 전부터 혼다, 도요타 등의 기업들은 휴머노이드 로봇을 개발해 오고 있다. 기술의 발전 속도를 생각하면 당장 오늘이라도 인간과 비슷한 모습을 가진 로봇들이 출현할 수 있을 것 같다. 로봇의 외형을 고려하지 않는다면 소프트웨어 측면에서는 이미 로봇은 우리 곁에 매우 가까이 있다. 아이폰의 Siri와 같은 프로그램은 비록 작은 스마트폰 안에 물리적 모양도 없이 존재하고 있지만 사람들과 어느 정도 상호작용이 가능한 수준까지 발전했다.

 

  이러한 상황속에서 이 책은 인공지능 시스템을 만드는 것에 대해 생각해 볼 만한 주제를 시의적절하게 던져주고 있다. 인공지능, 자율주행 등 자동화된 시스템이 발전해 감에 따라 그것을 만드는 공학도들의 사고차원이 크게 확장되어야 할 필요성이 있다고 생각한다. 이미 인류는 주식거래와 같이 공학적으로 설계된 시스템들이 의사결정을 할 수 있는 시대를 살아가고 있고, 그것이 인간의 삶에 엄청난 영향을 미칠 수 있는 사회 속에 있기 때문이다. 기계시스템에 의한 의사결정이 윤리적 판단에 근거해 이루어져야 할 필요성이 대두되고 있다.

 

  비록 현재의 인공 지능 시스템이 완벽한 수준은 아니지만 현재의 단계에서도 공학자들만으로는 다룰 수 없는 사안들이 대두되고 있다고 이 책의 저자들은 말하고 있다. 간단하게 자율주행 자동차만을 생각해봐도 저자들의 주장에 고개를 끄덕이게 된다. 자율적이라는 것은 어떠한 기준에 따라 판단을 해야 한다는 것인데, 다양한 교통 상황 하에서 스스로 판단하고 조치를 취하는 자동차가 출현하게 된다면 우리는 그 안에 어떤 기준을 심어넣어야 할까? 도덕 혹은 윤리를 생각하지 않을 수 없다. 

 

  저자들은 인공적인 도덕적 행위자(AMA:artificial moral agent) 라는 개념을 제안하고, 그것을 제작하는 일에는 원래 인간 중심의 관점에서 시작된 윤리 이론에 대한 진지한 고찰이 필요하다고 주장한다. 이를 위해 인간 도덕성의 기원을 살펴야 하고, 그 과정에서 윤리적 질문에 대한 매우 복잡한 인간의 반응에 대해서 생각할 필요가 있음을 역설하고 있다. 이를 위해 이 책에서는 세상은 AMA를 필요로 하는지, 사람들은 컴퓨터가 도덕적 결정을 내리기 원하는지, 만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하거나 불가피하다고 여긴다면 공학자와 철학자는 AMA를 어떻게 설계해야 하는지에 대한 질문을 다루고 있다.

 

  아직 완전한 혹은 인간과 유사한 수준의 로봇 시스템이 만들어 진 것은 아니지만, 현재의 수준에서도 로봇이 일으키는 재해는 상당하다는 것을 저자들은 언급하고 있다. 책을 읽으면서 마주하게 되는 질문들은 저자들이 서두에 말했던 것처럼 단순한 문제가 아니었다. 로봇 시스템의 잘못된 설계 때문에 인류에게 닥치는 많은 재난들이 현실이라는 점이 상당히 무겁게 다가온다. 로봇 시스템이 금유, 통신, 공공 안전에 이르기까지 사회의 거의 모든 분야에서 점차 자리잡아 감에 따라 그들의 고장 혹은 오작동으로 인한 사건들은 우리의 상상을 초월할 가능성이 크다.

 

  저자들은 도덕적 의사결정을 기계화하려고 시도한다면 인간에게 어떤 결과가 생기게 될까?라는 질문을 던진다. 기계를 지능적 행위자로 만들려는 시도는 납을 황금으로 바꾸려 했던 연금술사의 시도와 마찬가지로 잘못된 것이 아닐까?라는 걱정과 함께. 당연히 떠오르는 질문이라 생각한다. 다양한 공상과학 영화들에서 그렸던 것처럼 인공지능 시스템으로 인해 미래가 밝아질 것이라는 상상보다는 그렇지 않은 경우가 훨씬 더 많았던 것도 이와 같은 우려와 같은 맥락에 있는 것 같다. 어둡고 파괴적인 미래가 도래하지 않도록 지능 시스템을 완성해 가는 과정에서 도덕적인 고려를 함께 하는 것이 반드시 필요할 것 같다.

 

  인공적인 도덕적 행위자에 있어서 중요한 것은 자율성과 가치에 대한 민감성이라고 저자들은 말한다. 인간 자체도 이와 같은 측면에서는 불완전한 존재인데 인간에 의해 만들어진 시스템이 완전한 도덕성을 갖출 수 있을 것 같지는 않다. 인간은 로봇을 다양한 분야에 이용하고 싶어하는데 지능을 가진 로봇이 출현하게 된다면 과연 그것을 순순히 받아들일 수 있을까? 로봇이 인간처럼 이해하고 의식할 수 있을까? 만약에 그렇다면 로봇은 여러 영화들에서 그렸던 것처럼 인간에게 엄청난 위협이 될 것이리라. 저자들은 컴퓨터 시스템이 감정을 갖지 않고서도 감정을 표현할 수 있듯이 인간 수준의 이해까지는 아니더라도 기호의 의미를 이해하는 듯 작동할 수 있을 것 같다고 추측한다.

 

  요컨대, 도덕적 로봇을 만든다는 것은 제약사항의 올바른 집합 그리고 상충하는 갈등을 해결할 올바른 공식을 찾는 일이다. 그러므로 인공적인 도덕적 행위자 개발의 문제는 지능 시스템의 제어 구조 내에 추상적 가치를 구현할 방법을 찾는 일이라 이해하면 될 것 같다. 기계 학습이라는 용어가 있기는 하지만 기계가 인간처럼 배운다는 것이 가능하게 될까? 그렇다면 교육 받는 것에 따라서 인공지능 시스템도 서로 다른 개성을 가진 존재가 될 수 있을까? 참으로 다양한 질문들이 자연스럽게 떠오른다. 과연 인간들은 자신들과 유사한 이해와 인식 능력을 갖춘 로봇 시스템을 만들어 낼 것인가? 그리고 우리가 맞이할 미래는 공상과학 영화들의 비관적 모습들일까? 아니면 로봇 시스템과 인간이 상호작용하며 공존하는 모습일까?