[ai윤리] "AI 사고 데이터베이스에 오신 것을 환영합니다" -1-

최근 AI 관련 사건 포스팅을 작성하다가 발견한 흥미로운 사이트(https://incidentdatabase.ai/)가 있다.

Welcome이라는 단어가 부조화를 일으키는 이 사이트는 인공지능 관련 사고를 모아오고 있는 사이트이다.

2000년 11월부터 공개된 이 사이트는 꾸준하게 인공지능 시스템의 실패 사례들을 수집해오고 있다. 단지 기사문이나 사진들을 나열하는 정도가 아니다. 각 사건마다 고유 식별번호를 부여하고 메타데이터를 함께 기록하여, 데이터 활용도를 높였다. 그리고 사이트를 방문한 이에게 데이터베이스를 운영하는 취지를 홈페이지에서 함께 전하고 있다.

 

사건 777번 : “ 한국, 노골적인 딥페이크 포르노 급증을 경험하다 ”

 행운의 숫자가 3개나 걸린 777번을 부여받아 현재 메인에 걸린 사건은 우리나라 소식이다. 이 사이트를 천천히 알아보려고 며칠 들려보는데, 언제부턴가 메인이 우리나라 소식으로 장식되었다. 마침 우리나라 언론을 뒤덮은 사건인데 어떻게 분류되었는지 궁금하면서도 씁쓸했다.

 

1. 데이터베이스 운영 취지

2. AI 사고의 구분 : 사고 / 이슈 / 변종

3. AI사고를 설명하기 위해 담은 정보

4. AI 사고 데이터에서 관찰해볼만한 것들

 

데이터베이스 운영 취지

목표는 AI 기업들이 앞으로 보다 안전하고 윤리적인 인공지능 시스템을 개발하도록 돕기 위함이다. 

이러한 목표를 위해서 실제 일어난 또는 잠재적인 피해 사례를 수집하여 카탈로그한다.

관련 관리자, 엔지니어 연구원 등 다양한 사용자들이 과거의 AI 실패사례를 쉽게 찾아 더욱 포괄적이면서 다면적인 이해를 돕고 같은 실수를 반복하지 않도록 돕고자 했다. 

난해할 수도 있었을 분류체계를 세우는 데에는 2가지 시스템에서 아이디어를 얻었다.

첫째는 항공 안전 데이터베이스다. 그리고 두번째는 SW, HW 정보보안 (CVE) 데이터베이스다. 

 

출처 : AI 사고 데이터베이스는 AI 알고리즘을 보다 안전하게 만드는 것을 목표로 합니다 - Unite.AI

항공 분야에서는 오래전 부터 사고와 사건을 분류하는 2단계 시스템을 구축하여 운영해왔으며 이렇게 만들어진 데이터베이스가 항공산업의 안전성을 크게 향상시켰다고 한다.

(내일 이어서!)

2. AI 사고의 구분 : 사고 / 이슈 / 변종

3. AI사고를 설명하기 위해 담은 정보

4. AI 사고 데이터에서 관찰해볼만한 것들