[AI윤리] 고릴라를 금지한 구글포토 수업이야기 -2- -1탄- 지난 이야기 : https://pangguinland.tistory.com/332 [AI윤리] 고릴라를 금지한 구글포토 수업이야기 -1-이미지 인식모델로 플라스틱쓰레기와 물고기를 분류하는 체험을 하고 개념을 익힌 다음, 편향을 주제로 인공지능 윤리 수업을 이어갔다. 학습된 이미지데이터에 담긴 편향으로 인해, 온도계를pangguinland.tistory.com 며칠동안 쓴 글을 날리고 백지부터 다시 쓰려니 눈물이 앞을 가린다.수업이 끝나고도 내내 고민이 들었다. '인공지능이 잘한 거 맞는 것 같다.'라는 생각이 가득했다. 그럼 이 사례는 수업에서 뺏어야하나 싶었다. 어찌되었든간에 이 내용 그대로 수업할 수는 없겠다는 생각이 들었다. 1. 해결하고 싶은 질문 2. 검색을 통해 새롭게 알게 된 사실과.. 2024. 9. 1. [AI윤리] 고릴라를 금지한 구글포토 수업이야기 -1- 이미지 인식모델로 플라스틱쓰레기와 물고기를 분류하는 체험을 하고 개념을 익힌 다음, 편향을 주제로 인공지능 윤리 수업을 이어갔다. 학습된 이미지데이터에 담긴 편향으로 인해, 온도계를 쥔 피부색에 따라 라벨 결과가 총, 온도계 등의 분류가 나타나는 사례, 구글 포토가 흑인의 이미지를 고릴라로 분류한 사례를 제시했다. 즉, 인공지능 윤리의 주제를 '문제를 담은 사례'를 제시하여 소개한 것이다. 같은 수업을 4개 반에서 적용해보았을때도 문제가 없었지만, 딱 1개 반에서 한 남학생이 질문을 했다. "근데요 선생님.. 사실 저 사진, 고릴라 같이 생겼잖아요?" 당시는 코로나가 심각했던 때라 줌으로 수업을 하던 때다. 확실히 오프라인 수업보다는 집중력이 떨어지는 데다가 점심시간을 막 지난 5교시였으니, 아이들 눈빛.. 2024. 8. 21. [AI윤리] 인공지능이 부와 권력에 따라 차별과 거절을 승인하는 방법 인공지능이 편향적인 문제를 만드는 것은 '분류'를 하고 있기 때문이다.1. ‘분류’ 하는 행위 자체에 들어있는 정치적, 사회적 문제를 간과하고 있다2. 기계학습이 ‘분류’할 수 있기 때문에 분류를 하지, ‘분류’가 무엇을 알려주는 것이어서가 아니다3. 훌륭한 통찰을 전해준다는 ‘분류’가 실은 소수의 인물들이 정한 ‘변인’과 그에 따른 ‘범주’에 의해 일어나고 있음을 기억할 필요가 있다. 나는 어떻게 분류되고 있을까?4. 이미지 넷의 이상한 초기 분류 카테고리 최근 ‘AI 지도책’을 읽고 인공지능에 대한 반감이 들고 있다. 심지어 그간 이야기해왔던 윤리기준, 10대 요건들이 애초에 논의할 가치가 없다는 극단적인 생각도 잠깐 떠올랐다. 무엇이든 극단주의자가 되는 것은 옳지 않으리라 생각하기 때문에 이러한.. 2024. 5. 28. AI의 산출물과 인간의 창작물 ft.AI 커버와 챌린지 그리고 놀이 '이글은 인공지능을 사용하지 않고 작성했습니다. AI의 산출물과 인간의 창작물 부제: AI 커버와 챌린지 그리고 놀이 "프롬프트까지는 인간의 창작물이고, 그 결과 생성된 결과물은 AI의 산출물" - - - - - (지난 이야기) - - - - - '처음 접했을 때는 매우 흥미롭고 재미있었으며,' AI cover 와 아이돌 공백기 # 가짜가 진짜를 이기다 AI cover와 아이돌 공백기에 관하여 퇴근을 하여 늘어져라 YouTube로 노래를 듣다가 문득 놀라운 사실을 깨달았다. 요즘 내가 자주 듣는 곡들 중에서 항상 일정 비율은 인공지능으로 만들어낸 음악 pangguinland.tistory.com '이후 어떤 가수의 공연을 다녀오면서, AI 커버곡이 왜 가수를 대체할 수 없는지를 생각했다.' '퍼블리시티권.. 2024. 2. 27. [AI윤리 교재]수업자의 피드백 네이버 커넥트 재단의 생성형 인공지능 윤리 교재가 완성되고, 경북 지역에 디지털 새싹 캠프에 실제 적용되었다. 오늘은 그 캠프를 운영하셨던 초,중,고등 선생님들의 피드백을 받는 회의가 있었다. 선생님들과 초기에 구상했던 아이디어가 구체화되는 과정에서 예상과 다르게 뒤집어지거나 싹둑 버려지는 과정을 겪고 나온 최종안이었다. 그만큼 나는 이 결과물에 익숙해져있었는데 이 수업 교재를 처음 보는 사람의 시각에서, 배포할 예정 그대로 PPT와 가이드라인만을 보고 바로 수업을 할 수 있는지를 테스트하는 것은 무리였을 것이다. 그래서 다른 지역의 선생님들이 이 교재를 보고 수업을 한 뒤 피드백을 받는 것은 매우 의미있었다. 그리고 신기한 경험이었다. 내 수업에 대한 피드백은 많이 받았지만, 내가 구상한 수업에 대하여.. 2024. 2. 17. 이전 1 2 3 4 5 6 다음 반응형
