[AI윤리] AI기술로 허락없이 사망한 사람의 목소리를 만들어내도 괜찮은가?

논제 :  AI기술로 허락없이 사망한 사람의 목소리를 만들어내도 괜찮은가?

 

[순서]
1. 관련기사 및 읽어볼 거리
2. 현재 관련 법 : 개인정보보호법 / 형법 사자명예훼손죄
3. 혼자 내려본 결론

 

1. 관련기사 및 읽어볼 거리 

http://www.aitimes.com/news/articleView.html?idxno=139690 

“그 목소리가 AI였다니”...다큐멘터리 속 스타 셰프 목소리 딥페이크 응용 내레이션 논란 - AI타

첫번째 기사는 문제 상황이 잘 드러나있는 기사입니다. 사실을 다루었을 것으로 가정하기 쉬운 다큐멘터리에서 주인공의 목소리(앤서니 보데인) 중 일부분이 합성된 음성으로 밝혀져 논란이 된 내용입니다.

 

> 유족에게 허락을 구하였는가? X

감독은 유족과 지인의 허락을 이미 구하였다고 하나 보데인의 부인은 이를 강력히 비판하며 '사전에 전혀 동의를 구하지 않았다.'고 의사를 표명하였습니다. 다큐멘터리 예고편에도 이 음성이 사용되었는데, 이때 역시 합성된 음성이라는 안내가 없었다고 합니다. AI기술로 얼굴이미지나 목소리(성우, 앵커 등)를 합성해 사용하는 경우, 최소한 사전에 사용범위 등에 대하여 계약을 하거나 허락을 구하는 단계가 필요한데요. 개봉 후에도 바로 알리지 않았고요. 유족의 허락여부도 문제가 될뿐만 아니라, 관객의 입장에서도 관객을 기만하는 행동으로 느껴질 수 있다는 점이 문제로 느껴질 수 있습니다.

 

> 합성한 음성이라는 사실을 공개할 계획이 있었는가?  - X 인터뷰 과정에서 공개됨

 공개하게된 것도 감독의 결단이 아니었기에 더 비판의 여지를 준 것 같습니다. 앤서니 보데인이 사망한 후에 제작된 다큐멘터리이다 보니 고인의 생전 출연 영상과 각종 자료를 모아 만들었다고 하나, 친구에게 보내는 개인적인 이메일 내용을 읽는 음성까지 수집하기는 쉽지 않았을 것이라 판단해 의문을 표하는 사람들이 생겼고 이에 대한 질문에 답하는 과정에서 '편지를 읽는 부분은 업체에 의뢰하여 AI로 합성한 목소리이다.'라고 밝히게 된 것이지요.

 

> 앤서니 보데인은 어떤 인물?

 앤서니 보데인은 실력있는 요리사이자 방송인입니다. 2018년 프랑스 한 호텔에서 자살로 생을 마감하여 많은 사람들을 충격과 슬픔에 빠트리기도 했습니다. 세계 곳곳을 다니며 음식과 문화를 알리는 프로그램을 진행하기도 하였고, 요리에 관한 책, 에세이, 칼럼 등을 집필하기도 하며 왕성하게 활동한 인물입니다.

 

 

그리고!! 한국에도 방문한 적이 있었다는데요. 재미있는 에피소드가 있습니다.

CNN 간판 아나운서가 한국에서만 연출없이 100%리얼로 촬영해버린 이유 - YouTube

 

한국에서 촬영 전 미리 약속했던 사람들이 펑크를 내는 바람에, 진짜 회식 자리에 합석하게 되었기 때문입니다.

전형적인 직장인들의 회식에 참여해서 (코로나도 없던 때의 길고 긴 회식) 2차 노래방까지 다녀오며 앤서니 보데인은 정말 인상적이었다는 평을 남겼다고 해요. 자세한 내용은 영상과 아래 기사에서 참고!

CNN 대표 아나운서... 유독 한국에서만 연출 쏙 빼고 '리얼'로 촬영한 이유 | 위키트리 (wikitree.co.kr)

CNN 대표 아나운서... 유독 한국에서만 연출 쏙 빼고 '리얼'로 촬영한 이유

 

 

2 현재 관련 법

 

> 죽은 사람의 개인정보를 허락없이 사용했는데 처벌 받을까?  X

음성합성을 위해서 고인이 된 앤서니 보데인의 음성데이터를 학습에 업체에 제공했는데, 이런 점이 개인정보를 허락없이 사용한 것으로 처벌받을 수 있을까요? 

안타깝게도, 놀랍게도 처벌받기 어렵습니다.

법에서 규정하는 개인정보는 '살아있는' 사람에 관한 정보만을 대상으로 하기 때문입니다!

---

제2조(정의) 이 법에서 사용하는 용어의 뜻은 다음과 같다.  <개정 2014. 3. 24., 2020. 2. 4.>

1. “개인정보”란 살아 있는 개인에 관한 정보로서 다음 각 목의 어느 하나에 해당하는 정보를 말한다.

(생략) 출처: 개인정보 보호법>개인정보 바로알기>알림마당>개인정보보호포털 (privacy.go.kr)

> 메인

---

 

이와 관련하여 읽어보면 좋을 기사도 추천드립니다.  https://news.joins.com/article/24103088

[김병필의 인공지능 개척시대] 인공지능과 ‘디지털 영생’

 

> 그렇다면, 죽은 사람에 대한 명예훼손은?   O 또는 X

죽은 사람도 보호받을 수 있는 관련 법은 없는걸까요? 사자 명예훼손 여부를 한 번 생각해볼 수 있습니다.

---

제308조 (사자의 명예훼손) 공연히 허위의 사실을 적시하여 사자의 명예를 훼손한 자는 2년 이하의 징역이나 금고 또는 500만원 이하의 벌금에 처한다.<개정 1995.12.29>

---

출처: https://www.law.go.kr/LSW/lsInfoP.do?lsiSeq=70339&ancYnChk=#0000 

국가법령정보센터 | 법령 > 본문 - 형법

 

단, "허위의 사실" 이어야 한다는 점을 주목해야합니다.

'일반' 명예훼손의 경우는 내용의 '사실 여부와 관계 없이' 공연히 이를 적시하여 특정인의 사회적 가치나 평가가 침해되면 책임을 물을 수 있으나, '사자' 명예훼손은 그 내용이 '허위사실'인 경우에 한정하고 있습니다.

 

따라서, 앤서니 보데인의 음성파일 자체는 거짓이나, 담고 있는 내용은 앤서니 보데인 본인이 직접 작성한 메일을 읽은 것이니 사실이라고 볼 수 있습니다. 사자 명예훼손으로 보기에는 어려움이 있는 부분입니다.

 

덧붙여 읽어둘만한 판례가 있습니다.

...법원은 "형법 제307조 제2항의 허위사실 적시에 의한 명예훼손죄에선 세부적인 내용에서 진실과 약간 차이가 나거나 다소 과장된 표현이 있는 정도에 불과하다면 이를 허위로 볼 수 없다"면서도 "중요한 부분이 객관적 사실과 합치하지 않는다면 이를 허위라고 봐야 한다"고 강조했다. ... 출처 : 뉴스핌 - 명예훼손과 닮은 듯 다른 사자명예훼손…'허위사실'이 관건 (newspim.com)

 

3 혼자 내려본 결론

 해외 사례이다 보니 다른 판결을 낼 수도 있을 것입니다. 판결까지 난 사례는 아니지만, 국내에서 비슷한 사례가 발생했다고 가정하여 볼때, 개인정보 보호법에도 책임을 묻기 어려운 부분이 있고, 사자 명예훼손으로도 보기 어렵지 않겠나 하는 생각입니다. 

 극단적으로 생각하자면, 마치 독백의 음성은 영화에서 쓰인 효과음에 비유할수도 있지 않을까 생각해보았습니다. 앤서니 보데인이 적은 이메일 내용을 그대로 보여주기만 하는 대신 적절한 배경음악과 함께 목소리를 넣은 것인데, 성우가 아닌, 말그대로 본인의 목소리를 닮은 합성된 음성을 사용한 것이죠.

 그러나 법적으로도 처벌받기 어렵다하더라도, 도덕적인 비난은 절대 피할 수 없다고 생각합니다. 분명 합성된 음성임을 알릴 수 있는 방법이 충분했음에도, (영상에 최소한의 안내 자막을 함께 삽입하는 등) 이를 알리지 않은 것은 의도하지 않았더라 하더라도 관객, 유족과의 신뢰를 깨뜨리는 것이기 때문입니다.

 특히 영화나 드라마로 제작되었다면 관객이 이것이 일부 가공된 이야기라 예상할 수 있을 것인데, 다큐멘터리라는 장르의 특성상 더욱이 이것이 어렵기 때문입니다. 그리고 감독 본인도 그의 삶을 '다큐멘터리'로 제작하기로 택한 것에서 '사실의 기록'이라는 점을 스스로 강조한 것이기 때문입니다. 

AI가 사용한 개인정보 데이터를 어느 범위까지 얼마큼의 책임을 갖도록 해야할지에 대한 고민과 AI가 끊임없이 만들어낼 데이터에 대한 준비가 앞으로 더욱 필요해보입니다.

 

오늘 포스팅은 여기까지입니다.

기사를 읽고 시작한 이야기가 먼 길을 돌아서 마무리짓게 되었네요! 읽어주셔서 감사합니다.