[로봇윤리] 로봇 윤리에 관한 토론하기 수업

로봇 윤리에 관한 토론하기

 

 2020년에 쓴 강의 원고를 옮긴다. 로봇, 인공지능을 주제로 토론했던 수업들과 대회에 나가기 위해 아이들과 몇주간 토론하며 느꼈던 생각을 모았다. 초등학생을 위한 토론 수업에서는 생각보다 난관이 많았다. 요즘 연말이라 외장하드를 정리하는데 옛날 자료들이 우르르 나온다. 

 알고리즘을 만들고 로봇을 움직여 문제를 해결하는 동안 놓치고 있는 부분이 없을까 생각해보았습니다. 수업을 하다보면 주어진 문제를 해결한다거나 정해진 주제에서 시작하는 수업이 많습니다.

 그러다보니 ‘이것이 주제로 바람직한 것인가?’, ‘이 문제에 대하여 나는 어떻게 생각하는가?’와 같은 질문은 할 틈이 없습니다.

 그러나 마냥 이 어려운 질문을 덮어두는 것은 위험합니다. 우리가 반드시 그리고 어쩌면 굉장히 가까운 미래에 마주하게 될 중요한 질문이기 때문입니다. 아무리 훌륭한 기술이어도 윤리적, 법적 요소에서 자유로운 수 없습니다. 또 새로운 기술이 불러오는 문제 상황은 우리에게 여지껏 생각해보지 않은 판단을 요구하기도 합니다. 학교에서 그렇다면 어떻게 이러한 질문을 다루는 것이 좋을까요?

 학생들이 생각해보지 못한 딜레마를 제시하고 그에 대한 생각을 나누어보는 활동으로 시작해보아도 좋을 것입니다. 비판적인 관점으로 기술의 이면을 이야기해보는 것으로 시작할 수도 있습니다. 한 발 더 나아가서 더 나아가 토론 활동을 해보는 것도 학생들 스스로 정해본 적 없는 자신만의 관점을 세워보거나 가치 판단을 경험해보는 과정이 될 수 있을 것입니다.

 

[토론을 진행할 때 준비할 점과 팁]

- 새로운 기술로 인한 딜레마를 다룰 때에, 기술에 대한 기본적인 이해가 가능하도록 사전에 조사활동 및 수업을 진행해야한다. 가령 자율주행차에 관련된 논제를 정한 경우, 자율 주행차의 원리 및 현재까지 개발된 자율주행차의 모습을 찾아 발표하는 활동이 필요하다.

- 계속 발전하고 있는 기술의 경우, 학급 안에서 함께 [현재 시점에서의 기술]을 정의내리는 것이 낫다. 예를 들어 인공지능에 관련된 논제를 정한 경우, ‘미래에는 ~도 가능할 것이다.’, ‘그 문제는 해결될 것이다.’와 같이 한계가 없는 토론으로 이어질 수도 있기 때문이다.

- 관련 딜레마에 관한 법안이 이미 정해졌거나 대안이 있는 경우라도 토론 주제로 논의하는 것이 의미 있다. 토론 후속 활동으로 관련 법안이나 대안을 찾아 학생들이 자신의 생각과 비교해보는 것이 의미가 있고, 그 과정에서 자신이 더 중요시 했던 가치가 무엇인지 뚜렷해지기 때문이다. 그리고 많은 사람이 최선의 대안으로 내놓은 것을 자세히 탐색할 기회가 된다.

- 학급 토론을 진행하기 어렵거나, 딜레마를 다루기에는 학생들의 수준에 무리가 있다면 비판적인 관점으로 기술을 바라보고 이야기해보는 것도 좋다. 또는 선택지를 제시하고 어떤 선택지가 더 나은가로 활동을 진행하는 것도 좋다.

 

(예) 6학년 학급 토론 주제 : 초등학생이 자율주행차를 보호자 없이 타는 것을 허락해도 되는가?

↓

자율주행차를 이용하기에 앞서 우리가 생각해봐야할 문제가 있다면 무엇일지 찾아보고 해결 방법을 제안하시오.

 

 

 2012년부터 서울교육대학교 어린이철학교육센터에서 주관하여 열리는 로봇윤리 토론 대회가 있습니다. 매년 그 논제도 정교해지지만 무엇보다도 참여하는 4학년부터 중학생까지 어린 편임에도 불구하고 논리적인 근거과 기술적인 이해를 함께 갖추고 참가하는 학생들이 늘어나고 있다는 것이 놀랍습니다.

 

[참고] 전국 초등학생 로봇윤리 토론대회 안내

○ 주최 : 산업통상자원부

○ 총괄주관 : 한국로봇산업진흥원

○ 세부주관 : 서울교대 어린이철학교육센터

(어린이철학교육센터 홈페이지http://cafe.naver.com/tjdjcjf)

○ 참가대상 : 전국 4~6학년 초등학교생, 중학생

 

○ 2013년도 제2회 4학년 대회 논제

휴머노이드 로봇 개발에서 가장 우선적으로 고려해야 하는 것은 무엇인가?

○ 2013년도 제2회 5,6학년 대회 논제

자율적인 군사로봇 활용에 의한 피해를 최소화하기 위해 가장 효과적인 방안은 무엇인가?

○ 2014년도 제3회 4학년 대회 논제

미래 사회에서 인간은 다양한 종류의 로봇들과 함께 살아갈 것입니다. 여러 종류 중에 제미노이드(geminoid)라고 하는 로봇은 마치 일란성 쌍둥이처럼 실제 인간과 똑같은 모습을 갖추고 목소리, 눈짓, 몸짓 등을 모두 흉내낼 수 있다고 합니다. 그러면 제미노이드를 어떻게 사용하는 것이 가장 바람직하다고 생각하나요?

○ 2014년도 제3회 5,6학년 대회 논제

기쁨이가 밑그림을 그리고 잠이 들었다. 그것을 본 자율형 지능 로봇이 그림을 완성하였다. 아침에 기쁨이는 이 그림을 보고 깜짝 놀랐다. 왜냐하면 자기가 생각하는 그림과 비슷하면서도 미처 생각하지도 못했던 부분도 그려졌기 때문이다. 만약 여러분이 기쁨이라면, 자율형 지능 로봇의 창의성을 어느 정도 인정할 수 있겠는가?

○ 2015년도 제4회 4학년 대회 논제

요즈음 드론(drone)이라고 불리는 무인비행기가 점점 더 작아지고 일상적으로 사용되면서 앞으로는 그 쓰임도 더욱 늘어날 것입니다. 사람들이 드론으로 하게 되는 일이 많아지면 그에 따른 문제점도 생길 것입니다. 예컨대 사람이 전달하는 우편물을 드론이 대신할 수도 있지만 그렇게 되는 경우 공중에서 우편물을 가로채이거나 떨어뜨려 잃어버리거나 하는 문제점이 생길 수 있습니다. 이처럼 우리가 드론을 일상생활에서 사용하게 될 때 어떤 점을 가장 중요하게 고려해야 할까요?

○ 2015년도 제4회 5,6학년 대회 논제

다음의 상황에 대해 자율주행자동차 회사는 위험한 상황에서 운전자를 우선적으로 보호하도록 하는 선택을 하도록 설계하고자 하고, 시민단체는 자율주행자동차를 설계할 때 보행자를 우선적으로 보호하도록 설계해야 한다고 주장한다. 만약 당신이 자율주행자동차를 설계하는 로봇공학자라면, 다음과 같은 상황에서 자율주행자동차가 스스로 어떤 선택하도록 설계하겠는가? * 자율주행자동차 : 인간이 전혀 운전을 하지 않고서도 모든 경로와 주행할 때의 여러 가지 환경을 스스로 인식 및 판단하여 주행하는 자동차

<상황> 운전자가 자율주행차량으로 여행을 즐기고 있다. 현재 1차선 산악 도로에서 좁은 터널로 막 들어섰다. 이때 어떤 사람이 길을 건너도 있었는데 이미 도로의 중앙까지 와있다. 이제 두 선택만 남아 있다. 자율주행차량은 그 사람을 치고서라도 운전자를 보호하거나, 핸들을 틀어 터널의 다른 벽에 부딪혀 운전자가 부상을 입게 되더라도 보행자를 보호하거나이다

○ 2016년도 제5회 4학년 대회 논제

로봇은 사람의 친구가 될 수 있을까? 친구란 오랜 시간 동안 가까이 한 사이라는 뜻입니다. 친구면 허물도 감싸주고 슬픔도 제 것인 양 함께 하며, 기쁘고 즐거운 일도 함께 하게 됩니다. 최근 일본에서 개발된 로봇 ‘파페로’는 많은 생각을 하게 됩니다. 이 로봇은 수수께끼나 제비뽑기 놀이를 할 수 있으며, 대화형 로봇이기 때문에 아이들과 대화하는 친구가 되어 줄 수 있다고 합니다. 물론 아이의 행동을 부모에게 전달해주는 기능까지 가지고 있다고 합니다. 로봇이 우리가 친구나 가족처럼 여기는 반려동물처럼 될 수 있다면, 로봇이 어떤 조건이나 기능을 갖춰야 할까요?

○ 2016년도 제5회 5,6학년 대회 논제

로봇에게 어느 정도의 권한을 부여할 수 있는가? 2016년 인공지능(AI) 알파고의 출현은 인공지능과 로봇기술에 대한 관심을 한층 더 높였습니다. 인공지능과 로봇은 우리 생활에 아주 가까이 다가와 있으며, 우리 생활의 편의를 위해 많은 부분에서 활용되고 있습니다. 그러나 이러한 인공지능과 로봇이 항상 우리 생활에 도움을 주는 것은 아니며, 때로는 우리를 위험에 빠뜨리기도 합니다. 최근에 자율주행 자동차 사고나 군사 분야에서 활용되고 있는 킬러 로봇과 관련된 논란은 인공지능과 로봇을 통제할 수 있는 규제 장치가 필요함을 입증하는 것입니다. 그렇다면 예를 들어 스포츠 경기 심판 로봇, 자율주행, 수술이나 전투 임무 수행 등을 담당하는 로봇에게 인간을 통제할 수 있는 권한을 어느 정도까지 허용해야 할까요?

 

○ 2017년도 제6회 4학년 대회 논제

과학기술이 고도로 발달하고 휴머노이드 로봇 등의 인공 지능 연구 및 개발이 매우 활발한 요즘. 이들 인공 지능의 이야기가 도서, 영화, 만화 등 여러 매체에 등장하곤 합니다. 이 이야기 속의 인공 지능이 담당하는 역할과 수행하는 기능은 등장인물의 친구, 부모, 애완동물, 안내자 등 매우 다양합니다. 이들 인공 지능이 사람과 함께 서로 나누어지면 좋을 역할에는 어떤 것이 있을까요? 또한 그 역할을 사람과 인공 지능이 나누어지면 좋은 까닭은 무엇입니까? 한편, 인공 지능이 결코 대신할 수 없는 사람 고유의 역할이 있다면, 그 것은 과연 무엇이며 그 까닭은 무엇입니까?

○ 2017년도 제6회 5학년 대회 논제

부모님께서는 외동인 나에게 동무 삼아 지내라고 로봇 쫑알이를 마련해 주셨다. 쫑알이는 외로운 나에게 말벗도 되어 주고, 덜렁거려 하게 될 실수도 미리 알려 주어 여러 가지로 도움이 된다. 그러나 핑계나 거짓말이 통하지 않을 뿐만 아니라, 내가 잘못한 일들을 빠짐없이 입력하였다가 부모님께서 알고자 하시면 언제든지 낱낱이 알려준다. 과연 동무삼으라고 마련해준 쫑알이를 친구로 대하며 우정을 쌓을 수 있을까?

 

○ 2017년도 제6회 6학년 및 영어부 대회 논제

휴머노이드 로봇 등의 인공 지능 기술의 개발은 프로그래밍된 임무의 수행만을 위해 만든 로봇 개발을 넘어 스스로 배우고 판단하며 적용시킬 수 있는 인공 지능 로봇 발달에 이르고 있다. 딥러닝에 의한 인공 지능은 인간의 통제를 벗어난 독립된 개체라고 볼 수 있을 정도이다. 이렇게 까지 발전하게될 인공 지능을 인격체와 비교해서 어떠한 책임을 부과할 것이며, 또한 어떤 권리를 부여해야 할까? 다시 말해, 이와 같이 제 나름으로 “판단하고,” 적용시키는 개체와 사람의 인격체를 구분지울 수 있는 기준에는 어떤 것이 있을까요?