AI의 의인화, 디지털 트윈 그 목표가 나라면 어떤 점이 좋을까?
AI의 의인화, 그 목표가 나의 친구이라면 어떻게 대할 것인가?
만약, 그 목표가 나라면 어떨까? 흥미로운 기사를 가지고 왔다.
1. 논문과 관련 기사 살펴보기
기사 요약 : AI로 디지털 트윈을 구축하다.
논문 < Generative Agent Simulations of 1,000 People (2024) >
'1000명의 생성 에이전트 시뮬레이션' 이라는 논문에서 연구진(스탠포드대학, 구글 딥마인드, 노스웨스턴대학, 워싱턴 대학 등)들은 인공지능으로 개인의 성격, 기억은 물론 성향을 파악하기 위해 단 2시간의 인터뷰면 충분하다는 연구결과를 발표했다.
연구에서는 나이, 성별, 인종, 교육정도, 주거 지역, 정치적 이념 등이 다양한 1000명의 사람들을 모집했다. 그리고 인터뷰를 통해 이들의 복제품인 에이전트를 만들었다. 이들은 대가로 최대 100달러를 받았다고 한다.
그 결과, 실제 모델이 되었던 인물들과 85%의 일치를 보였다고 한다.
논문에서 사용한 데이터
85%라는 수치를 계산한 방법은 아래와 같다. 데이터셋은 총 2가지로, AI 에이전트의 예측응답, 그리고 실제 참가자들의 응답이다.
1) 에이전트의 예측 정확도 : 68.85%
- AI 에이전트는 일반사회조사 (이하, GSS) 177개의 핵심 질문에 대한 참가자의 응답을 68.85%의 정확도로 예측했다.
이렇게만 보면 높은 수치가 아닌 줄 알았으나,
2) 참가자 자체 복제 정확도 : 81.25%
- 참가자들은 2주 후 동일한 GSS 질문에 대해 응답했고, 이전의 자신의 질문에 대해 81.25%의 정확도를 보였다.
2주 만에 달라지는 답변이라면, 그 사람의 성향이나 이념이라고 보기 어려울 것이다. 이렇게 얻은 두 수치를 아래와 같이 계산한다.
3) 최종 정규화된 정확도 : 에이전트의 예측 정확도 ÷ 참가자 자체 복제 정확도
이 정규화된 정확도는 AI 에이전트가 참가자의 응답을 예측하는 능력이, 참가자가 자체 일관성에 얼마나 근접할수 있는지를 나타낸다.
약간 이해가 어렵다만, 풀어서 보면 AI가 개인이 같은 일관적인 응답을 예측해 따라 수 있다는 것이다.
2. 이 결과에서 생각해볼 장점과 단점
1) 장점 및 응용 분야
- 개인의 정확한 행동을 예측할 수 있다.
(물론 이것은 장점이 아닐 수 있다.)
- 사회과학 실험의 결과를 복제하거나 사회과학 연구에 유용한 도구가 될 수 있다.
(다소 비윤리적인 사회실험의 시뮬레이션을 돌린다거나, 같은 규모에서 다른 상황을 관찰하는 연구를 한다거나 말이다.)
- 특정 집단에 대한 고정관념이나 편견을 줄일 수 있다.
인구통계를 기반으로 한 에이전트가 예측한 것보다 인터뷰 기반 에이전트(본 연구에서 개발한)가 예측한 응답에서 편향이 더 줄어든 것으로 나타났다. 특정 집단을 인구 통계 기반으로 파악할 때는 정치적 이념이나 인종과 관련한 편향이 녹아들어있는데, 인터뷰 기반으로 개인을 복제하는 식으로 파악할 때 그 정도가 줄어들었다는 것이다.
2) 단점 및 한계
- 개인정보 보호와 데이터 사용에 대한 문제가 이어질 수 있다.
(개인의 응답 내용도 물론이며, 특정인의 사고방식을 복제한다는 것은 개인이 가진 그리고 만들어낼 정보의 거의 전부를 복제하는 것이나 다름없다.)
- 일반화의 오류
(이 연구는 미국 표본을 기반으로 했다. 연구의 실효성이나 한계에 대해서 추가 연구가 필요하다.)
- 장기적 행동을 예측할 수 있는지, 인간의 행동의 복잡성을 담을 수 있는지?
(인터뷰를 통해 개인을 파악할 수 있지만, 그것이 개인의 단기적인 태도인지, 장기적인 변화에서 달라질 행동까지 예측하는지, 그리고 그 질문들에 대한 응답이 인간 행동의 복잡한 면을 모두 담는다고 볼 수 있는지에 대한 고민이 필요하다.)
단점을 보면, 연구 자체에 대한 신뢰성이 의심이 가지만 연구에서 설정한 목표가 놀랍다. 가상 인물이나 사람같이 느껴지는 인공지능을 떠올려 보았지만, 가장 쉽게 특정 인물의 데이터를 가지고 복제를 하는 접근은 마치 지름길을 찾은 것 같이 보인다. 어디로 가는 지름길인지 겁은 나지만 말이다.