세상을 떠난 사랑하는 사람의 딥페이크(Deepfake)는 중국에서 급성장하는 사업입니다
#기사: Deepfakes of your dead loved ones are a booming Chinese business
#참고1: When grief and AI collide: These people are communicating with the dead
#참고2: Ghostbots: AI versions of deceased loved ones could be a serious threat to mental health
일주일에 한 번씩 순카이는 어머니와 영상 통화를 합니다. 그는 일과 중년 남성으로 겪는 압박감, 아내에게 말하지 못하는 생각 등을 어머니에게 솔직하게 털어놓습니다. 그의 어머니는 때때로 아들에게 스스로를 돌보라고 말하기도 하지만 대부분 아들의 말을 듣기만 합니다.
왜냐하면 순카이의 어머니는 5년 전에 돌아가셨기 때문입니다. 그리고 그가 대화하고 있는 사람은 실제 사람이 아니라 그가 만든 디지털 복제품, 즉 기본적인 대화를 할 수 있는 움직이는 이미지입니다. 그는 이렇게 몇 년 동안 이미지와 이야기를 해왔습니다.
순카이와 같이 사랑하는 사람을 잃은 많은 사람들이 떠난 이를 애도하고 간직하고자 그들을 애니메이션화하여 상호 작용하는 데 AI를 활용하고자 합니다. 이런 수요에 따른 시장형성은 특히 중국에서 강세를 보이고 있는데, 현재 최소 6개 이상의 회사가 이러한 기술을 제공하고 있으며 수천 명의 사람들이 이미 해당 기술을 이용하고 있습니다. 사실, 이런 아바타는 문화적 전통의 가장 최신의 징후입니다. 중국인은 항상 죽은 자에게 비밀을 털어놓는 것으로 위안을 얻어 왔습니다.
죽은 자의 아바타는 본질적으로 딥페이크입니다. 살아있는 사람과 죽은 사람을 복제하는 데 사용되는 기술은 본질적으로 다르지 않습니다. 확산 모델(Diffusion model)은 움직이고 말할 수 있는 현실적인 아바타를 생성합니다. 또 대규모 언어 모델을 연결하여 대화라는 행위를 만들어낼 수 있습니다. 이러한 모델이 사진, 비디오, 오디오 녹음 및 텍스트를 포함하여 누군가의 삶에 대한 데이터를 더 많이 수집할수록 그 사람의 사망 여부와 관계없이 그 사람을 더 잘 모방하게 됩니다.
이러한 딥페이크 사업은 죽은 자와 소통하는 중국의 오랜 문화적 전통에 기반하고 있습니다. 중국 가정에서는 사망한 친척이 사망한 후 몇 년 동안 초상화를 걸어 두는 것이 일반적입니다. 상하이에 본사를 둔 Super Brain이라는 회사의 창립자인 Zhang Zewei는 “기본적으로 대화형이라는 점을 제외하면 전통적인 초상화와 크게 다르지 않습니다.”라고 말합니다.
Zhang은 이런 딥페이크 제품의 목적은 치유라고 말합니다. 그는 “정말 누군가가 그리워지거나 위로가 필요할 때 인공의 생명체와 대화를 나누며 내면의 상처를 치유할 수 있습니다.”라고 말합니다.
윤리적 문제 등
많은 AI 생성 아바타 플랫폼에는 데이터를 제3자에게 판매하지 않는다는 온라인 개인정보 보호 정책이 있지만 Snapchat이나 OpenAI와 같은 일부 회사가 사망한 사람과 관련한 시스템을 훈련하는 데 사용되는 데이터를 어떻게 처리하는지는 확실하게 알지 못합니다.
"디지털 시대의 죽음"이라는 강좌를 정기적으로 강의하고 있는 Davidson College의 디지털 연구 교수인 Mark Sample은 “세상에 공개하고 싶지 않은 개인정보는 절대 업로드하지 말라고 사람들에게 경고하고 싶습니다.”라고 말했습니다.
또한, 죽은 사람이 생전에 한 번도 말하지 않았던 말들을 하도록 하는 것은 이상한 일입니다. Sample 교수는, “사랑하는 사람이 보낸 음성 메일을 다시 듣기 위해 재생하는 것과, 그가 한 번도 말하지 않았던 말을 듣는 것은 다른 것입니다.”라고 덧붙였습니다.
챗봇 공포
이러한 유령 챗봇이 죽은 이를 애도하고 있는 사람에게 해로운 말을 하거나 나쁜 조언을 할 수 있는 위험도 있습니다. ChatGPT 챗봇과 같은 유사한 생성형 소프트웨어는 이미 사용자에게 잘못된 정보를 제공한다는 이유로 널리 비판을 받고 있습니다.
AI 기술이 불량해 사용자에게 부적절한 발언을 하기 시작했다고 상상해 보십시오. 돌아가신 아버지가 딸이나 아들에게 AI 유령으로 소환되어 와서는, “나는 너를 사랑하지 않는다.”라고 말한다면 자식들은 매우 상처받을 것입니다.
더 극단적인 시나리오에서는 유령 챗봇이 사용자에게 죽음에 합류하거나 누군가를 죽이거나 해를 입혀야 한다고 제안한 경우가 있을 수 있습니다. 2023년 영국 노동당은 폭력을 조장하는 AI의 훈련을 방지하는 법안의 제안하였습니다. 이는 영국의 한 남성이 '감정적' 관계를 맺고 있던 챗봇 여자친구의 격려를 받아 여왕 암살을 시도했었기 때문입니다.
건강한 망각
이 최신 기술은 한계가 없는 무한한 가능성을 지닌 우리의 디지털 문화에 대해 많은 것을 말해줍니다, 데이터는 클라우드에 무기한 저장될 수 있고, 모든 것들이 검색 가능하며, 실제로 삭제되거나 파괴되지도 않습니다. 망각은 건강한 슬픔의 중요한 요소이지만, 고인을 잊으려면 그를 기억하는 새롭고 의미 있는 방식을 찾아야 합니다.
기념일은 먼저 떠나간 이를 애도하는 사람들이 사랑하는 사람들을 기억할 뿐만 아니라 상실을 새로운 방법으로 표현할 수 있는 기회이기도 합니다. 의식(儀式)과 상징은 인간이 제대로 기억하고 잊을 수 있음을 보여줄 수 있습니다.
슬픔을 연구하는 애리조나 대학의 Mary-Frances O’Connor 교수는 “우리가 사랑하는 사람과 관계를 맺을 때, 누군가와 사랑에 빠질 때, 뇌는 그 사람을 ‘나는 항상 당신 곁에 있을 것이고 당신은 항상 나를 위해 있을 것입니다'라고 코드화합니다.”라고 합니다. “그래서 사랑하는 사람이 죽으면 우리 뇌는 그 사람이 다시 돌아오지 않는다는 것을 인지해야 합니다."라고 말했습니다.