KoNIBP 재단법인 국가생명윤리정책원 (KOREA NATIONAL INSTITUTE FOR BIOETHICS POLLICY)

지능형기계(intelligent machines)는 기계와 도덕의 근원적인 주제들을 더 생각하게 해주는 주제로 급부상하고 있음. 이미 반자율적인(semi-autonomous) 기술이 군사, 제조, 보건의료, 서비스산업 등에서 이용되고 있음. 그렇다면 더 영리한 장비들이 보안, 치안, 그 밖의 다른 분야에서 더 중요한 역할을 하려면 어떤 지표가 되는 원칙(guiding principles)이 적용되어야 할까?

미국과학진흥협회(American Association for the Advancement of Science) 연례회의에서 웬델 월러치(Wendell Wallach) 미국 예일대 생명윤리 학제간센터 교수(로봇윤리학자)는 ‘인공지능(AI: artificial intelligence)’ 주제 강연 및 기자회견을 통해 3가지 정책적 권고를 제시함. 인공지능/로봇 연구기금의 10%를 지능형기계의 사회적 영향을 연구하고 조정하는 데 쓸 것, 인공지능/로봇에 대한 위원회를 조정하는 감독 및 관리방식을 만들 것, 살상용 자율무기시스템(lethal autonomous weapons systems)이 국제인도법(international humanitarian law)을 위반한 것이라고 선언하는 대통령령(presidential order)임.

질문) 우리가 도덕적 결정을 내리는 기계를 만들 수 있을까?

답변) 그들의 선택과 그들이 취할 행위 내에 가치 및 도덕적 고려사항을 요인으로 포함하는 기계를 만들 수 있을 것이나, 매우 한정된 맥락에서만 기능할 것임. 많은 다양한 맥락에서 명백한 도덕적 판단을 내리는 것은 상황에 대한 명확하고 완전한 이해에 달려 있음. 이는 지능형기계가, 인공지능 연구자들이 컴퓨터 등에 어떻게 장착할지 아직 모르는, 의식(consciousness)과 그 밖의 능력을 가질 것을 요구할 것임.

질문) 수 년 동안 대중과의 논의의 필요성을 옹호해왔다. 논의가 충분했다고 생각하는가?

답변) 수단이 없었음. 수퍼-지능의 급부상이 다시 일깨워질 때까지 인공지능/로봇의 책임감 있는 혁신을 옹호하는 학자는 거의 없었음. 하지만 앞으로 수십 년 동안 인공지능의 개발의 구체화를 향하여 의미 있는 진보를 이룰 수 있을 것으로 봄. 스마트기계의 개발에 대하여 우리가 원하는 것과 승인할 것에 관한 대중과의 대화는 이제 막 시작됨.

질문) 세계를 더 좋게 만들기 위하여 무엇이 기회가 될 것인가?

답변) 인간다움(Humanity). 인공지능/로봇이 해를 최소화하면서 기술적 가능성의 혜택을 만들어내길 원하는지에 대하여 경계해야 함. 예를 들어 지금은 삶과 죽음을 오가는 결정을 내리는 자율군사무기를 제한할 기회가 있지만, 우리가 국제적인 금지법을 제정하지 않으면 그 기회는 사라질 것임. 금지가 없다면 인공지능 개발에서의 위협(danger)은 기하급수적으로 증가할 것임.

질문) 인간의 도덕성이 지능형기계에 영향을 미친다면, 반대로 기계가 인간의 가치에도 영향을 미칠까?

답변) 기계는 이미 인간의 가치에 영향을 미치고 있음. 실제로 우리가 지능형 기계를 만들 수 있다는 사실은 인간의 본성을 기계화하고, 병리적으로 만드는 과학적 추세를 반영하고 있음. 반면 복잡한 의사결정이 가능한 기계를 개발하는 것의 어려움은 우리 인류가 놀라운 창조물이라는 것을 강조함.

[Yale News] Shaping tomorrow’s smart machines: Q&A with bioethicist Wendell Wallach
As intelligent machines continue to make their way into all sectors of society, a growing number of scientists, ethicists, policymakers, and business executives are converging on the idea that more thought must be..............

기사 : http://news.yale.edu/2016/02/15/shaping-tomorrow-s-smart-machines-qa-bioethicist-wendell-wallach

사진 : Yale University