KoNIBP 재단법인 국가생명윤리정책원 (KOREA NATIONAL INSTITUTE FOR BIOETHICS POLLICY)

※ 기사. Societal upheaval during the COVID-19 pandemic underscores need for new AI data regulations

https://techcrunch.com/2020/07/10/societal-upheaval-during-the-covid-19-pandemic-underscores-need-for-new-ai-data-regulations/ (Tech crunch. 7.11)

공중 보건과 안전을 보호하는 동시에 혁신을 촉진하기 위해 고안된 AI 규제를 오랫동안 옹호하는 지지자로서, 나는 의회가 양 당의 협조 하에 인공지능 데이터 보호법(The Artificial Intelligence Data Protection Act) 제102조 (b) - 즉, 내가 제안한 법률과 현재 하원 토론 법안 초안 제정을 지체해서는 안 된다고 생각함. 개인의 존엄성을 유지하기 위해서는 제102조(b)의 윤리적인 AI 입법 형태의 가드레일이 필요함.

인공지능 데이터 보호법 제102조(b)는 무엇을 규정하고 있으며, 왜 연방정부가 지금 그것을 제정해야 하는 긴급한 필요성이 있는가?

이 질문에 답하기 위해서는 우리 민주사회가 동시에 존재하는 두 가지 실존적 위협에 맞서고 있는 이 역사적인 순간에 우선, 인공지능(AI)이 어떻게 활용되고 있는지 이해할 필요가 있음. 그래야만 AI가 우리 개인의 존엄성에 내포하는 위험성을 인식할 수 있고, 제102(b)가 미국인들이 소중하게 여기는 자유를 보호하고 우리 사회의 기반 역할을 하는 가장 중요한 구제책 중 하나로 이해될 수 있음. 

미국은 현재 인종차별과 경찰의 만행을 종식시키기 위한 대규모 시위를 겪고 있으며 치명적인 COVID-19 대유행을 진압하려는 와중에 시민 불안이 확산되는 것을 지켜보고 있음. 우리가 그것을 인지하고 있든 인정하고 있든, 양쪽 맥락에서 -그리고 우리 삶의 다른 모든 측면에서- AI 기술은 우리에 대해 중요한 결정을 내리기 위해 정부와 민간 행위자들에 의해 시행되고 있음. 많은 경우, AI는 사회를 돕고 우리를 일상으로 최대한 빨리 현실적으로 돌아가게 하기 위해 활용되고 있음.

그러나 지금까지 정책 입안자들은 AI가 주도하는 공공 보건과 안전에 대한 중요한 우려를 대부분 간과해 왔음. AI에 있어서는 알고리즘을 양성하는 데 사용되는 데이터 세트의 공정성, 편향성, 투명성 등의 문제에 초점이 맞춰져 왔음. 알고리즘이 편견을 낳았다는 것에는 의심의 여지가 없음; 여성과 소수 인종에 대한 불공정한 배제의 예를 위해 직원 모집과 대출 신청을 고려할 필요가 있음.

우리는 또한 AI가 데이터로부터 의도하지 않은, 때로는 설명할 수 없는 결과를 만들어 내는 것을 보았음. 비폭력 범죄자에 대한 공정한 판결로 판사들을 돕기 위해 고안된 알고리즘의 최근 예를 생각해 보자. 아직 설명되지 않은 이유로, 알고리즘은 23세 이하의 피고인들에게 높은 위험 점수를 할당했고, 그 결과 수감 빈도가 더 높았던 그들의 나이든 또래들보다 12% 더 긴 형량을 선고 받았지만, 그들의 투옥기간이 줄지도 않았고 재범도 줄지 않았음.

그러나 현재의 위기는 간과되어 온 또 다른 골치 아픈 문제를 드러냄. 즉, 사회는 AI 알고리즘이 제대로 된 시나리오를 윤리적인 관점에서 어떻게 다루어야 하는가? 사회가 그 결과에 대해 불편하다고 생각하는가? AI의 본질적인 목적은 인간이 의사결정을 할 수 있는 정확한 예측 데이터를 만드는 것이기 때문에, 국회의원들이 AI에 관해서 가능한 것이 아니라 금지되어야 할 것을 해결해야 할 때가 왔음.

정부와 민간 기업들은 우리의 개인 데이터에 대한 끝없는 욕구가 있음. 지금 현재 미국을 비롯한 전 세계에서 우리 모두의 모든 종류의 데이터를 정확하게 수집하고 분석하기 위해 AI 알고리즘이 활용되고 있음. 우리는 군중 속에서 시위자들을 감시하거나 일반 대중들이 적절한 사회적 거리를 두고 관찰하고 있는지 여부를 판단하는 안면인식 식별을 함. 접촉 추적을 위한 휴대전화 데이터와 함께 특정 우편번호로 코로나바이러스 확산을 모델링하고 시위와 관련된 위치, 규모, 잠재적 폭력성을 예측하는 공공 소셜미디어 게시물이 있음. 그리고 마스크 사용과 온도를 분석하는 데 사용되고 있는 드론 데이터나 COVID로 입원한 환자가 어떤 환자의 상태가 악화될 가능성이 가장 높은지를 예측하는 데 사용되는 개인 건강 데이터도 잊지 말아야 함.