인공지능 윤리6 [로봇윤리] 로봇 윤리에 관한 토론하기 수업 로봇 윤리에 관한 토론하기 2020년에 쓴 강의 원고를 옮긴다. 로봇, 인공지능을 주제로 토론했던 수업들과 대회에 나가기 위해 아이들과 몇주간 토론하며 느꼈던 생각을 모았다. 초등학생을 위한 토론 수업에서는 생각보다 난관이 많았다. 요즘 연말이라 외장하드를 정리하는데 옛날 자료들이 우르르 나온다. 알고리즘을 만들고 로봇을 움직여 문제를 해결하는 동안 놓치고 있는 부분이 없을까 생각해보았습니다. 수업을 하다보면 주어진 문제를 해결한다거나 정해진 주제에서 시작하는 수업이 많습니다. 그러다보니 ‘이것이 주제로 바람직한 것인가?’, ‘이 문제에 대하여 나는 어떻게 생각하는가?’와 같은 질문은 할 틈이 없습니다. 그러나 마냥 이 어려운 질문을 덮어두는 것은 위험합니다. 우리가 반드시 그리고 어쩌면 굉장히 가까운 .. 2023. 11. 25. [연구] 네이버 AI윤리교재 집필 참여 네이버 커넥트 재단의 초등학생 대상 AI 윤리 교재를 제작하게 되었다. 멋진 기회를 주신 성균관대학교 안성진 교수님께 정말 감사드리며, 평소 관심있던 주제인 만큼 즐겁게 그리고 최선을 다해 좋은 결과물을 만들어보리라 다짐해본다. 함께하는 선생님들도 너무나 좋은 분들이고, 재밌게 몰입해야하는 과정들이 그려지니 10월 초부터 신나고 들뜬다! 언제나 함께하는 사람과 과정은 모두 소중하다. 아주 간략한 개요를 남기자면, 1) 학습 대상 : 초등 5,6학년군 2) 적용 예상 : 디지털 새싹 캠프 교재 및 온라인 탑재 3) 개발 중점 : 인공지능 윤리기준 10대 요건을 반영하고, 생성형 인공지능의 특징을 고려한 AI 윤리 교재 이를 위해서 우선 첫 단계로는 기존에 잘 만들어진 교재들을 분석하기로 하였다. 초,중등 .. 2023. 10. 5. [생각] 인공지능 의인화가 주는 위험성 인공지능 의인화가 주는 위험성 프롤로그 _ 이상한 챗봇 더보기 제목처럼 '의인화'에 대하여 요즘 내가 하고 있는 생각과 경험을 적어놓으려고 한다. 물론 이런 생각을 길게 가져가는 데에는 지난 겨울에 읽었던 책(슈퍼인텔리전스)에서 큰 영향을 받기도 했다. 책에서 어떤 문장을 유독 반갑다고 느낀 것은 이전에 내가 그런 의문을 가졌다가 해결하지 못했기 때문일 것 같다. (멋진 책을 만날 때마다 어쩜 그렇게 명쾌하게 생각을 구체화할 수 있는지 감탄스럽다.) 이 의문을 해결하기 위해서 아주 기초적인 연구부터 해야하는 것이 맞다. 의인화 요소를 분석해내고, 다른 사람들의 의견을 듣는 것이 첫 단추다. 나도 모르게 사회적 반응을 보이고 있다는 것을 지각했던 것이, 한 번은 현대카드 챗봇을 이용했던 때였다. 카드 관련.. 2022. 8. 8. [AI윤리] AI 시스템에게 부여된 폭력의 허용 수준 AI 시스템에게 부여된 폭력은 어디까지 허용될 수 있을까? 목차 1. 논의를 시작하며 참고할 책 2. 발제 3. 나의 생각 1. 논의를 시작하며 참고할 책 폭력을 부여한 AI를 떠올리면, 가장 대표적으로 떠오르는 사례가 킬러로봇입니다. 킬러 로봇에 대한 의견으로 한정하지 않는다면 폭력의 범위는 더욱 넓을 것입니다. 그래서 이번 발제는 지난 강의에서 교수님이 제안한 발제를 그대로 싣고 '킬러 로봇'이나 신무기로 바라보는 시각, 또는 범죄를 막기 위한 폭력에 대하여 다루는 범위로 좁혀봅니다. 실은 '폭력을 허용한다.'라는 말은 그 자체로도 윤리적으로 어긋나보입니다. 그래서 주체가 인간이 아니라 AI라는 새로운 대상이 되었든 간에 '어디까지 폭력을 허용할지'에 대해서는 논의할 필요조차 없다고 답할 수도 있습니.. 2022. 2. 4. [AI윤리] AI기술로 허락없이 사망한 사람의 목소리를 만들어내도 괜찮은가? 논제 : AI기술로 허락없이 사망한 사람의 목소리를 만들어내도 괜찮은가? [순서] 1. 관련기사 및 읽어볼 거리 2. 현재 관련 법 : 개인정보보호법 / 형법 사자명예훼손죄 3. 혼자 내려본 결론 1. 관련기사 및 읽어볼 거리 http://www.aitimes.com/news/articleView.html?idxno=139690 “그 목소리가 AI였다니”...다큐멘터리 속 스타 셰프 목소리 딥페이크 응용 내레이션 논란 - AI타 지난 16일(이하 현지시간) 미 전역에서 개봉한 스타 셰프의 이야기를 다룬 다큐멘터리 영화가 AI윤리 문제에 휘말렸다. 2018년 프랑스 소재 호텔에서 극단적 선택으로 생을 마감한 앤서니 보데인(A www.aitimes.com 첫번째 기사는 문제 상황이 잘 드러나있는 기사입니다... 2021. 8. 9. [AI윤리] 트롤리 딜레마 학습 웹사이트 소개 moral machine 트롤리 딜레마는 인공지능 윤리교육에서 자주 언급되는 내용입니다. 이 주제를 가지고 한달에 걸쳐 토론할 수도 있고, 상황을 어떻게 변형하느냐에 따라 단계적으로 토론을 심화해갈수도 있더군요. 그런데 이 트롤리 딜레마를 학생들과 간편하게 접해볼 수 있는 곳이 있습니다. 이 사이트를 추천하는 이유는! 0. 무엇보다 우선 한국어도 제공!!! 1. 내가 직접 딜레마 디자인하기 (화면 구성을 직접하여 수업자료도 만들 수 있네요.) 2. 만들어진 13단계의 딜레마를 클릭하며 풀고 나의 가치관 보기 >>> 이 웹페이지에서는 다양한 상황이 그림형태로 주어집니다. 그리고 간단하게 클릭을 통해 자신이 더 낫다고 생각하는 상황을 선택하고! 자신이 선택한 결과들에 따라 무엇을 중요하게 생각하는지 보여주는 꽤 자세하게 정리하여 보.. 2021. 4. 7. 이전 1 다음 반응형
