KoNIBP 재단법인 국가생명윤리정책원 (KOREA NATIONAL INSTITUTE FOR BIOETHICS POLLICY)

딥페이크(Deep fake)는 인공지능의 딥러닝(deep learning)과 가짜(fake)라는 단어가 합성된 용어로서 기존의 이미지나 비디오를 조작해 사람의 얼굴이나 음성을 실제처럼 생성하는 기술을 말합니다. 이는 비디오 제작 분야에서는 혁명이라 불릴 만큼 저렴하고 효율적인 방법으로 콘텐츠를 쉽게 편집하고 업데이트할 수 있어 장점이 있습니다. 반면, 이 기술을 이용해 유명인의 얼굴과 합성하여 가짜 뉴스나 투자 사기 등에 활용한다거나 일반인들의 얼굴이나 영상을 조작하여 프라이버시 침해 사례를 일으키는 등 다양한 사회적 문제를 야기하고 있습니다. 게다가 최근에는 딥페이크 기술을 활용할 수 있는 프로그램이 오픈소스(open source)를 통해 공개되면서, 전문적인 해커뿐만 아니라 일반인도 쉽게 해당 프로그램을 이용해 가짜 영상을 만들고 유포할 수 있게 되었고, 청소년들이 가짜 영상 제작‧배포를 채팅방에서의 가벼운 놀이나 게임 정도로 인식하고 큰 범죄 의식을 느끼지 않고 빠져들 수 있는 우려가 제기됩니다. 실제로, 최근 국내 보도에 따르면 딥페이크 성범죄의 가해자 중 70% 이상이 10대 청소년이었으며, 이런 가짜 불법 영상이 주로 SNS를 통해 확산‧전파된다는 점에서 해당 매체 이용도가 높은 10대나 20대 등 비교적 연령대가 낮은 세대의 피해가 예상됩니다.

유네스코 국제생명윤리위원회는 지난 9월 어린이와 청소년의 디지털 미디어와 정신건강의 중요성을 강조하는 보고서 마련을 위한 콘셉 노트(concept note)를 발표하면서, 디지털 세계와 소셜미디어 등의 신기술 발달이 청소년의 정신건강과 사회적 상호작용에 미치는 영향이 크다는 점과 딥페이크 위협으로부터 우리 사회와 미래세대 보호를 위해 디지털 문해력 향상과 이와 관련한 기술적‧법적 대응을 위한 각국의 정책 마련 필요성을 강조했습니다.

이에 제66회 콜로키움에서는 인간에게 이롭고 유익한 방향으로 딥페이크 기술을 활용할 수 있을지 숙고하는 시간을 가져보고자 합니다. 딥페이크 기술이 무엇이고, 그 활용 사례 등을 살펴보면서 그에 따른 생명윤리적 쟁점과 사회적 수용성에 대한 고려를 위해 우리 사회가 함께 고민해야 할 사항들을 함께 논의해 보려 합니다. 관심 있는 분들의 많은 참여를 부탁드립니다. 감사합니다.

[프로그램]