KoNIBP 재단법인 국가생명윤리정책원 (KOREA NATIONAL INSTITUTE FOR BIOETHICS POLLICY)

〇 우리가 인공지능(AI; artificial intelligence)에 대하여 이야기할 때, 실제로 무엇을 의미하는가?

인공지능 전문가 및 철학자들은 이 주제에 대하여 부지런히 논의함. 인공지능에 사용할 수 있는 정의는 규제(regulation)와 관리(governance)의 핵심임. 법률과 정책은 정의 없이는 작동하지 않을 것이기 때문임.

정의를 내리는 문제는 모든 규제적 맥락에서 발생함. 상품광고권(product advertising right)에서 ‘인공지능’의 신뢰할만한 사용을 보장하는 것부터, 차세대 자동화된 무기시스템을 어떻게 전쟁에 관한 법률에 따라 다룰 것인지까지임.

사실 우리는 하나 이상의 정의가 필요할 수도 있음(‘선의(goodwill)’가 다른 맥락에서 다른 것을 의미하는 것처럼). 하지만 우리는 어디선가에서 시작해야 하며, 바로 지금 규제적 정의가 없다는 데에서 작업을 시작해볼 필요가 있음.

규제목적으로써 ‘인공’에 대한 정의는 쉬운 편임. 이는 ‘자연에서 발생하지 않거나, 자연에서 동일한 형태로 발생하지 않는 것’을 의미함. ‘또는’ 이후에 주어진 대안은 미래의 변경된(modified) 생물학적 물질의 이용이 가능하도록 허용함.

이제 남은 문제는 ‘지능’에 대한 정의임. 철학적 관점에서 ‘지능’은 어마어마한 지뢰밭이며, 특히 ‘의식(consciousness)’ ‘생각(thought)’ ‘자유의지(free will)’ ‘마음(mind)’의 하나 이상을 포함하여 다루는 경우 더 그러함. 아리스토텔레스시대까지 거슬러 올라갈 수 있다고 하더라도, 이러한 네 가지 큰 개념(Big Four concepts)에 대한 심오한(profound) 논쟁(arguments)은 여전히 우리를 둘러싸고 소용돌이침. 2014년에는 논의를 진전시키기 위하여 회의를 열었지만 컨센서스에 도달하지 못했음.

이는 인공지능 과학자와 기술자의 공산품이고, 이러한 제품으로 인하여 공공복리 또는 안전성・위험이 발생함. 논리적으로는 인공지능 과학자와 기술자의 다수가 ‘지능’을 다루는 것이 방법임.

2000년대까지 인공지능 공동체 내에 인공지능과 인간지능(human intelligence)이 대조를 이루는 경향이 있었음. 2007년 11월 미국 스탠퍼드대(Stanford University) 인공지능 개척자인 존 맥카시(John McCarthy)가 이 이슈를 다뤘음. 그는 인간지능과 관련된 것에 의존하지 않는 지능에 대한 순수한 정의가 있느냐는 질문에 아직은 아니라고 답함. 문제는 우리가 어떤 종류의 컴퓨터 절차를 ‘지능’이라고 부르기를 원하는지를 아직 일반적으로 특징짓지(characterize) 못했다는 것이라고 함.

그 이유는 인공적인 좁은 지능(ANI; artificial narrow intelligence; 하나의 기능만 수행하는 인공지능)에서 인공적인 일반 지능(AGI; artificial general intelligence; 보통 사람이 할 수 있는 문제해결・생각・이해・일상적인 대화가 가능한 인공지능)으로 초점을 바꾸는 것이 어렵기 때문임. 맥카시는 ‘지능’의 ‘인간에게 의존하지 않는(human-independent)’ 일반적인 정의가 부상했다고 함.

‘AIXI’라고 불리는 보편적인 알고리즘 독립체(universal algorithmic entity)의 공식화(formalisation)와 함께, 두 전문가는 ‘지능이란 다양한 환경에서 목표를 달성하기 위한 행위자의 능력’이라는 공식적인 정의를 제안함. 공식적인 정의는 규제자가 관리할 수 있는, 즉 하나 이상의 환경에서 한 독립체의 능력의 객관적인 기준(measures)을 수립하고 적용할 수 있는 방향을 제시함. 목표를 달성하는 것에 주력하는 핵심(core)은 학습, 계획, 문제해결과 같은 다른 지능-관련 개념을 다루는 것임.

하지만 많은 장애물이 남아있음. 우선 공식적인 정의는 규제목적으로는 직접적으로 유용하지 않을 것임. 고유의 근본적인 제약때문임. 제약은 시간과 공간의 제한 때문에 AIXI가 하나의 컴퓨터에서만 ‘계산될(approximated)’ 수 있다는 것, AIXI가 ‘자아-모델(self-model)’을 결여하고 있다는 것임(하지만 최근에는 성찰적(reflective) AIXI라 불리는 변종(variant)이 제안되어 달라지고 있음).

또한 규제자는 지능을 시험 및 확인 목적으로 여러 하위-능력(움직임・의사소통 등)으로 나눌 수 있는 무언가로 다룰 수 있어야 함. 하지만 이는 일반 지능에 기반한 어떤 정의에도 해당되는 것임. 소비자관점에서는 이는 궁극적으로 실제로 인공지능을 보여주는 것으로 정의된 시스템과 단지 프로그램 작동이 가능한 박스를 구분하는 것에 관한 질문임.

우리가 위의 장애물을 모두 넘을 수 있다고 해도 만족할 수 있는 시간은 없을 것임. 심지어 네 가지 큰 개념을 사용하지 않더라도, 점점 더 유능해지고(capable) 흔해지는(ubiquitous) 인공지능시스템은 앞으로 수십 년간 고용뿐만 아니라 사회 전반에서 거대한 효과를 나타낼 것임.

만약 네 가지 큰 개념이 인공지능시스템에서 나타난다고 하더라도, 우리는 단지 철학자들의 요트 한 척이 필요한 것이 아니라 전체적인 요트경주(regatta)가 필요할 것이라고 말해도 별로 틀리지 않을 것임.

기사: https://theconversation.com/why-we-need-a-legal-definition-of-artificial-intelligence-46796