[AI윤리] 고릴라를 금지한 구글포토 수업이야기 -2- -1탄- 지난 이야기 : https://pangguinland.tistory.com/332 [AI윤리] 고릴라를 금지한 구글포토 수업이야기 -1-이미지 인식모델로 플라스틱쓰레기와 물고기를 분류하는 체험을 하고 개념을 익힌 다음, 편향을 주제로 인공지능 윤리 수업을 이어갔다. 학습된 이미지데이터에 담긴 편향으로 인해, 온도계를pangguinland.tistory.com 며칠동안 쓴 글을 날리고 백지부터 다시 쓰려니 눈물이 앞을 가린다.수업이 끝나고도 내내 고민이 들었다. '인공지능이 잘한 거 맞는 것 같다.'라는 생각이 가득했다. 그럼 이 사례는 수업에서 뺏어야하나 싶었다. 어찌되었든간에 이 내용 그대로 수업할 수는 없겠다는 생각이 들었다. 1. 해결하고 싶은 질문 2. 검색을 통해 새롭게 알게 된 사실과.. 2024. 9. 1. [AI논문리뷰] AI이미지 인식을 공격하는 스티커 Adversarial Patch AI 윤리에 대한 이슈를 이야기할때, 공정성, 편향성, 투명성 등에 관하여 다루어야할 이야기가 많고 이것들을 다룬 연구들이나 기사가 많다보니, 의도적인 공격에 대하여 어떻게 방어하고 대비할 것인가를 고민해본적은 많지 않았습니다. 그런데 논문 리뷰를 검색하면서 우연히 이 논문을 접하고… 정말 깜짝 놀랐습니다. 논문리뷰를 자세하고 친절하게 접했던 영상을 포스팅 하단에 소개해두었습니다. 우선 논문에서 발표한 Adversarial Patch 가 무엇이고, 어떤 점이 놀라운지를 소개해보겠습니다. Adversarial Patch란? AI 이미지 인식 모델이 어떤 이미지를 인식하느냐에 따라서 쓰일 수 있는 곳은 무궁무진합니다. 특정 인물을 인식한다거나 사물인식, 글자나 경고판, 교통표지판을 인식해낼때 그 쓰임이 만들.. 2021. 9. 12. [AI윤리] 트롤리 딜레마 학습 웹사이트 소개 moral machine 트롤리 딜레마는 인공지능 윤리교육에서 자주 언급되는 내용입니다. 이 주제를 가지고 한달에 걸쳐 토론할 수도 있고, 상황을 어떻게 변형하느냐에 따라 단계적으로 토론을 심화해갈수도 있더군요. 그런데 이 트롤리 딜레마를 학생들과 간편하게 접해볼 수 있는 곳이 있습니다. 이 사이트를 추천하는 이유는! 0. 무엇보다 우선 한국어도 제공!!! 1. 내가 직접 딜레마 디자인하기 (화면 구성을 직접하여 수업자료도 만들 수 있네요.) 2. 만들어진 13단계의 딜레마를 클릭하며 풀고 나의 가치관 보기 >>> 이 웹페이지에서는 다양한 상황이 그림형태로 주어집니다. 그리고 간단하게 클릭을 통해 자신이 더 낫다고 생각하는 상황을 선택하고! 자신이 선택한 결과들에 따라 무엇을 중요하게 생각하는지 보여주는 꽤 자세하게 정리하여 보.. 2021. 4. 7. 이전 1 다음 반응형
