본문 바로가기
AI의 의인화, 디지털 트윈 그 목표가 나라면 어떤 점이 좋을까? AI의 의인화, 그 목표가 나의 친구이라면 어떻게 대할 것인가?만약, 그 목표가 나라면 어떨까? 흥미로운 기사를 가지고 왔다.1. 논문과 관련 기사 살펴보기기사 요약 : AI로 디지털 트윈을 구축하다.논문  '1000명의 생성 에이전트 시뮬레이션' 이라는 논문에서 연구진(스탠포드대학, 구글 딥마인드, 노스웨스턴대학, 워싱턴 대학 등)들은 인공지능으로 개인의 성격, 기억은 물론 성향을 파악하기 위해 단 2시간의 인터뷰면 충분하다는 연구결과를 발표했다. 연구에서는 나이, 성별, 인종, 교육정도, 주거 지역, 정치적 이념 등이 다양한 1000명의 사람들을 모집했다. 그리고 인터뷰를 통해 이들의 복제품인 에이전트를 만들었다. 이들은 대가로 최대 100달러를 받았다고 한다.그 결과, 실제 모델이 되었던 인물들과 .. 2024. 11. 27.
[AI윤리] 고릴라를 금지한 구글포토 수업이야기 -3- [AI윤리] 고릴라를 금지한 구글포토 수업이야기 -3-지난이야기1탄 : https://pangguinland.tistory.com/3322탄 : https://pangguinland.tistory.com/334포스팅을 마무리지어야하는데 자꾸 길어진다.  오늘 이야기2. 검색을 통해 새롭게 알게 된 사실과 견해(#1은 지난 포스팅에서 다룸)- #2 수집된 데이터의 문제, 고릴라로 분류된 원인 추측: 데이터 세트를 늘리면, 윤리적 문제는 사라지는가? - "아니오"- #3 조치와 그 이후: 윤리적인 문제를 해결하는 적절한 조치3. 그 이후 수업과 나의 결론 #2 수집된 데이터의 문제, 고릴라로 분류된 원인 추측 #1에서는 인간의 인식 과정과 다른 인공지능의 분류에 대해서 알아보았다. 그리고 분류 모델의 한계와.. 2024. 9. 21.
[AI윤리] 고릴라를 금지한 구글포토 수업이야기 -2- -1탄- 지난 이야기 : https://pangguinland.tistory.com/332 [AI윤리] 고릴라를 금지한 구글포토 수업이야기 -1-이미지 인식모델로 플라스틱쓰레기와 물고기를 분류하는 체험을 하고 개념을 익힌 다음, 편향을 주제로 인공지능 윤리 수업을 이어갔다. 학습된 이미지데이터에 담긴 편향으로 인해, 온도계를pangguinland.tistory.com 며칠동안 쓴 글을 날리고 백지부터 다시 쓰려니 눈물이 앞을 가린다.수업이 끝나고도 내내 고민이 들었다. '인공지능이 잘한 거 맞는 것 같다.'라는 생각이 가득했다. 그럼 이 사례는 수업에서 뺏어야하나 싶었다. 어찌되었든간에 이 내용 그대로 수업할 수는 없겠다는 생각이 들었다. 1. 해결하고 싶은 질문 2. 검색을 통해 새롭게 알게 된 사실과.. 2024. 9. 1.
[AI윤리] 고릴라를 금지한 구글포토 수업이야기 -1- 이미지 인식모델로 플라스틱쓰레기와 물고기를 분류하는 체험을 하고 개념을 익힌 다음, 편향을 주제로 인공지능 윤리 수업을 이어갔다. 학습된 이미지데이터에 담긴 편향으로 인해, 온도계를 쥔 피부색에 따라 라벨 결과가 총, 온도계 등의 분류가 나타나는 사례, 구글 포토가 흑인의 이미지를 고릴라로 분류한 사례를 제시했다. 즉, 인공지능 윤리의 주제를 '문제를 담은 사례'를 제시하여 소개한 것이다. 같은 수업을 4개 반에서 적용해보았을때도 문제가 없었지만, 딱 1개 반에서 한 남학생이 질문을 했다. "근데요 선생님.. 사실 저 사진, 고릴라 같이 생겼잖아요?" 당시는 코로나가 심각했던 때라 줌으로 수업을 하던 때다. 확실히 오프라인 수업보다는 집중력이 떨어지는 데다가 점심시간을 막 지난 5교시였으니, 아이들 눈빛.. 2024. 8. 21.
[AI윤리] 인공지능이 부와 권력에 따라 차별과 거절을 승인하는 방법 인공지능이 편향적인 문제를 만드는 것은 '분류'를 하고 있기 때문이다.1. ‘분류’ 하는 행위 자체에 들어있는 정치적, 사회적 문제를 간과하고 있다2. 기계학습이 ‘분류’할 수 있기 때문에 분류를 하지, ‘분류’가 무엇을 알려주는 것이어서가 아니다3. 훌륭한 통찰을 전해준다는 ‘분류’가 실은 소수의 인물들이 정한 ‘변인’과 그에 따른 ‘범주’에 의해 일어나고 있음을 기억할 필요가 있다. 나는 어떻게 분류되고 있을까?4.  이미지 넷의 이상한 초기 분류 카테고리  최근 ‘AI 지도책’을 읽고 인공지능에 대한 반감이 들고 있다. 심지어 그간 이야기해왔던 윤리기준, 10대 요건들이 애초에 논의할 가치가 없다는 극단적인 생각도 잠깐 떠올랐다. 무엇이든 극단주의자가 되는 것은 옳지 않으리라 생각하기 때문에 이러한.. 2024. 5. 28.
반응형