로봇 윤리(Robot ethics)는 로봇의 개발, 제조, 사용 과정에서 발생하는 윤리적 문제를 다루는 학문 분야이다. 로봇이 장기적 또는 단기적으로 인간에게 위협이 되는지, 특정 용도(의료, 군사 등)에서의 로봇 사용이 적절한지, 그리고 로봇이 윤리적으로 행동하도록 어떻게 설계할 것인지 등의 문제를 검토한다. 이는 기술 윤리의 하위 분야이자 정보 기술 윤리의 한 갈래로, 법적·사회경제적 문제와 밀접하게 연결되어 있다.
개념적 배경
로봇 윤리의 개념적 기원은 과학소설 작가 아이작 아시모프(Isaac Asimov)가 1942년 단편소설 「Runaround」에서 제시한 로봇공학 3원칙에서 찾을 수 있다. 이 원칙은 ① 로봇은 인간에게 해를 끼치거나 해를 입도록 방관해서는 안 된다, ② 로봇은 인간이 내리는 명령에 따라야 한다(단, 제1원칙과 충돌하는 경우 제외), ③ 로봇은 자신의 존재를 보호해야 한다(단, 제1·2원칙과 충돌하는 경우 제외)의 세 가지로 구성된다. 이후 아시모프는 자신의 소설에서 이 원칙들이 실제로는 다양한 모순과 한계를 지닌다는 점을 반복적으로 다루었으며, 0번 원칙(Zeroth Law)을 추가하기도 하였다. 아시모프의 3원칙은 문학적 장치로 출발했지만 이후 로봇 윤리 논의에서 널리 인용되는 기준이 되었다.
학문적 전개
로봇 윤리에 대한 본격적인 학문적 논의는 2000년경부터 시작된 것으로 평가된다. 로봇공학, 컴퓨터 과학, 인공지능, 철학, 윤리학, 법학, 사회학, 심리학, 신경과학, 산업 디자인 등 다양한 분야의 전문가들이 참여하는 학제적 연구 분야로 자리 잡았다.
'로보윤리학'(Roboethics)이라는 용어는 이탈리아의 로봇공학자 잔마르코 베루지오(Gianmarco Veruggio)에 의해 처음 사용된 것으로 알려져 있다. 2004년에는 제1회 국제 로보윤리 심포지엄이 개최되었으며, 같은 해 후쿠오카 세계 로봇 선언이 발표되었다.
주요 논쟁 영역
로봇 윤리에서 다루어지는 주요 쟁점은 다음과 같다.
첫째, 자율 살상 무기(Lethal Autonomous Weapon Systems, LAWS)의 문제이다. 소위 '킬러 로봇'이라 불리는 자율 무기 체계가 인간의 개입 없이 표적을 선정하고 공격할 수 있는지에 대한 논의가 국제적으로 진행되고 있다. 인간의 존엄성과 국제인도법의 관점에서 반대 주장이 제기되며, 완전 자율 무기에 대한 예방적 금지를 요구하는 목소리도 있다.
둘째, 인간과 로봇의 관계 및 로봇 대우의 문제이다. 로봇을 단순한 도구로 볼 것인지 새로운 유형의 존재로 볼 것인지에 대한 논쟁이 있으며, 로봇에 대한 인간의 태도가 윤리적 문제를 일으킬 수 있는지가 검토된다. 2017년 사우디아라비아가 휴머노이드 로봇 '소피아'에게 시민권을 부여한 사건은 로봇의 법적 지위와 권리에 대한 논란을 촉발하였다.
셋째, 로봇의 도덕적 지위와 기계 윤리(machine ethics)의 문제이다. 로봇이 도덕적 행위자(moral agent)가 될 수 있는지, 로봇이 윤리적으로 행동하도록 프로그래밍하는 것이 가능한지에 대한 기술적·철학적 논의가 이루어지고 있다.
넷째, 산업·경제적 영향에 관한 문제이다. 로봇의 도입으로 인한 일자리 감소, 사회적 불평등 심화 등의 문제에 대한 윤리적 검토가 필요하다는 주장이 제기된다.
국가 차원의 시도
대한민국은 2007년 세계 최초로 국가 차원에서 로봇 윤리 헌장의 제정을 시도하였다. 당시 산업자원부가 초안을 발표하였으나 공식화되지는 않았다. 초안은 인간과 로봇의 공존공영을 목표로 하여, 인간의 윤리, 로봇의 윤리, 제조자의 윤리, 사용자의 윤리, 정부의 실행 의무 등을 규정하는 내용을 포함하였다. 한편 2017년 유럽의회는 로봇 관련 민사법 규칙에 관한 결의안을 유럽위원회에 채택하기도 하였다.
한계와 과제
로봇 윤리는 아직까지 보편적으로 합의된 실질적 규범 체계를 갖추지 못한 상태이다. 아시모프의 3원칙 역시 소설적 상상력의 산물로서 실제 기술 환경에서는 다양한 모순과 적용상의 어려움이 지적된다. 로봇 기술의 발전 속도에 비해 윤리적·법적 논의가 따라가지 못하고 있다는 평가가 존재하며, 국제적 차원의 공동 규범 마련이 여전히 진행 중인 과제로 남아 있다.
