[로봇윤리/AI윤리] 인공지능에게 인격을 부여할 수 있는가? 6학년 입론지

 2017년 대회에 나가기 위해 6학년 아이들과 방과후 한달 간 대화를 나눴다. 당시의 나의 열정에 갑자기 감탄한다.ㅎㅎ
당시 반 아이들은 이미 자율주행차라는 주제로 한차례 긴 토론을 했던 후고, 삼성 주소창 대회를 나가는 애들과 선도학교를 하면서 이래저래 코딩을 실컷 접한 친구들이었다. 다른 학급과 반을 합반해서 토론 수업도 했었는데 진짜 보기 드물게 멋진 아이들이었다. 첫 학교 아이들은 배우는 거에 감동도 잘하고 그만큼 흡수도 잘했다. 
 주소창 대회 나가는 3명을 위해서 학급 나머지 애들이 카메라들고 연기하면서 UCC도 찍어주고, 이 토론 대회 나가는 1명을 위해 방과후에 자진해서 일곱, 여덟명의 아이들이 계속 남아 이야기를 함께 해줬다. (내가 반박해보겠다며..!) 아마 토론 수업에서 한차례 재미를 본 뒤어서 다행이었지 싶다.

대회 나가는 날, 이친구가 굉장히 행복해했다. (멀디 먼 킨텍스까지 대중교통 타고 같이 갔다. 재능이 많은데 자신감을 더 키워도 될만한, 마음이 가는 친구였다. 결론적으로 상도 탔지만 무엇보다 준비과정이 참 따뜻했다. )

그때 쓴 글이다. 2분 안에 말해야하기 때문에, 읽어보며 시간재고, 압축하려고 애썼다. 

 
 

입론지 - 6학년

로봇윤리 토론대회 입론 작성지

서울 **초등학교 이름 ***

논제 : ○ 2017년도 제6회 6학년 및 영어부 대회 논제

휴머노이드 로봇 등의 인공 지능 기술의 개발은 프로그래밍된 임무의 수행만을 위해 만든 로봇 개발을 넘어 스스로 배우고 판단하며 적용시킬 수 있는 인공 지능 로봇 발달에 이르고 있다. 딥러닝에 의한 인공 지능은 인간의 통제를 벗어난 독립된 개체라고 볼 수 있을 정도이다. 이렇게 까지 발전하게될 인공 지능을 인격체와 비교해서 어떠한 책임을 부과할 것이며, 또한 어떤 권리를 부여해야 할까? 다시 말해, 이와 같이 제 나름으로 “판단하고,” 적용시키는 개체와 사람의 인격체를 구분지울 수 있는 기준에는 어떤 것이 있을까요?

 

 스스로 배우고 판단하는 인공지능 로봇은 갓 태어난 아기보다 우리가 기대하는 사회 구성원의 모습과 더 닮아서 사람과 같은 인격체라고 착각하기 쉽습니다. 그러나 ‘인격’이라는 단어가 일상에서 갖는 두 가지 의미를 다시 떠올려봐야 합니다.

 첫째, ‘모든 사람은 인격을 가지므로 존중받아야 한다.’와 같이 ‘인간이라는 종에 속한다는 이유로 갖는 고유한 가치’입니다. 이 경우 인간이 아닌 로봇에게는 인격이 없다고 할 수 있습니다.

 두 번째로 ‘우리는 모두 인격을 갖추어야 한다.’처럼 ‘인간이 추구하고 갖춰나가야 도덕적인 성품’을 뜻하는 경우입니다. 그런데 우리는 로봇에게 '옳지 않은 행동'과 '옳은 행동', 2가지를 함께 가르치지 않습니다. 옳고 생산 목적에 맞는 행동만을 가르칩니다. 스스로 가치판단을 하는 것이 아닙니다. 따라서 로봇이 옳지 않은 행동을 했다면, 제작자나 소유자의 인격을 비판하고 그에게 책임을 물어야합니다. 그리고 소유물로서의 로봇을 위한 다음과 같은 권리와 책임을 준비해야 합니다.

첫째로 파괴로부터 보호 받을 권리입니다. 소유자는 환경과 공익을 고려하는 선에서 마음대로 처분할 수 있지만, 다른 누군가가 마음대로 파괴하는 것은 옳지 않습니다.

둘째, 학습할 권리입니다. 더 나은 기능을 나누어 줄 수 있어야하기 때문입니다. 또 새로 생겨난 법을 지킬 수 있도록, 제작자의 이익에 반하더라도 반드시 업데이트를 받을 수 있어야합니다.

 이와 함께 로봇에게는 ‘나누어야 할 책임’이 필요합니다. 평등한 사회의 유지와 환경 보존을 위한 대가를 마련해야 하기 때문입니다. 이를 위해 로봇세나 로봇의 혜택을 누릴 수 없는 곳에 로봇의 봉사기간을 정해줄 수 있습니다.

 어린 아기보다 더 많은 능력을 갖춘 로봇이지만, 욕심, 사랑, 슬픔 등으로 때로는 존중받기 어려운 선택을 하는 사람과 달리 반성이 없이 존중받는 선택만 학습하는 로봇은 인격체라고 보기에 부족합니다. 따라서 우리는 로봇을 인격체가 아닌 소유물로 보고 이에 맞는 권리와 책임을 준비하여 더 나은 사회를 이루어 나가야할 것입니다.