KoNIBP 재단법인 국가생명윤리정책원 (KOREA NATIONAL INSTITUTE FOR BIOETHICS POLLICY)

바둑 챔피언 이세돌 9단과 구글 딥마인드의 인공지능(AI; artificial intelligence) 알파고(AlphaGo)의 대국으로, 매우 뛰어난 인간과 기계의 대결이 주목을 받고 있음. 과학자들은 얼마나 빨리 인공지능이 개발되고 있는지에 놀랐으며, 그 핵심은 인간이 제어할 수 있는 상태를 유지하는 것임.

인공지능이 최고의 인간과 싸울만한 능력을 갖추는 것은 10년 쯤 뒤의 일로 여겨졌음. 하지만 우리는 되도록 빨리 이를 받아들이고, 미래에 무슨 일이 벌어질지를 이해하려고 노력하기 시작해야 함. 인공지능이 게임을 넘어섰을 때의 윤리와 규제 내용을 대비해야 함. 알파고와 인공지능은 더 정교해지고 있음(sophisticate). 인간만 할 수 있다고 생각된 과업에서도 인간보다 더 나은 결과를 내고 있음.

바둑은 경우의 수가 매우 많기 때문에, 알파고는 직관력 있고 인간 같은 방식(style)으로 디자인되었음. 일명 ‘딥 러닝(Deep learning)’이라는 방법을 사용함. 딥 러닝은 매우 큰 자료세트, 머신러닝 알고리즘과 인공 신경망(인공지능에게 과업을 어떻게 수행할지를 가르쳐주는 작은 신경다발의 인공적인 망)을 이용함. 딥마인드 개발자들은 알파고에게 바둑의 규칙과 전략을 프로그래밍하는 대신 전형적인 바둑의 수를 바탕으로 한 자료를 입력하여 바둑을 두게 하며 가르침. 알파고는 스스로를 적으로 생각하며 바둑을 두고, 실수를 통해 지치지 않고 학습하고, 시간이 지나면서 바둑을 두는 능력을 향상시킴.

딥 러닝을 이용하면 말하기, 운전하기와 같은 예측불가능성이 높은 행위도 기술적으로 해결할 수 있을 것으로 생각됨. 인공지능은 신용카드시스템에서의 사기(fraudulent behaviour) 감시, 사이버 보안위협 감지와 같은 복잡하고 자료가 막대한 과업도 해낼 수 있을 것임. 로봇으로 구현한다면, 딥 러닝 인공지능은 우리들 사이에서 서비스 제공, 운송, 의료 및 군사 로봇으로 움직이고 일하기 시작할 것임.

딥 러닝은 인간과 인간의 기술적 창조물 간의 관계에서 패러다임 전환을 상징함. 인공지능은 진짜 놀랍고도 예측불가능한 행동을 하고 있음. 이세돌 9단은 첫 대국을 마친 후 알파고가 인간이 둔 적이 없는 수를 두었다고 평가한 바 있음. 딥 러닝에 대해서라면 예측불가능성과 놀라움은 좋은 것임. 수년 내로 새로운 움직임과 전략으로 인간 경쟁자들을 놀랍게 하고, 가르칠 것임. 매우 복잡한 과업에서 우리의 능력을 뛰어넘어서 인류에 이득을 주기 위해 설계된 다른 인공지능(예를 들면 질병 진단, 약학 연구, 전력망 관리 등)도 딥 러닝에 의존할 수 있었음.

하지만 예측불가능성은 인간 제어력(control)의 손실을 의미함. 바둑과 같은 게임의 맥락에서는 제어력의 손실이 좋을 수도 있지만, 다른 곳에서 이는 윤리와 규제에 대한 긴급한 질문을 제기함. 어느 정도의(어떤 종류의) 제어력이 우리가 운전사 없는 차량, 인공 진찰전문의사(diagnosticians) 또는 사이버 후견인(guardians)을 포기하게 할까? 정교해진 인공지능에 적절한 인간 제어력을 어떻게 설계해야 할까? 인공지능이 인간 제어력의 어떤 손실을 의미하는 경우, 우리가 개발해서는 안 되는 인공지능도 있을까? 기업, 정부, 전문가, 시민들은 이 문제를 얼마나 얘기해야 할까? 이러한 중요한 질문들은 답변이 시급하지만 해답이 나오지 않은 채로 남아 있음. ‘인간 같은’이 아니라 ‘인간적인’ 해결책이 필요함.

로봇윤리, 로봇공학과 관련된 기관들이 설립되어 있음. 세계를 주도하는 윤리학자, 사회과학자, 정책결정자, 기술자 등이 로봇공학과 인공지능을 둘러싼 질문에 의미 있는 답변을 찾기 위해 모였음. 로봇공학과 인공지능에 대한 윤리기준 초안을 만드는 작업은 여러 학문분야가 관련된 작업이 될 것임. 우리는 딥 러닝과 인공지능에 대한 깊은 인간적인 질문에 답할 시간이 지금이라는 것을 알아야 함.

[the guardian] The momentous advance in artificial intelligence demands a new set of ethics 

Let us all raise a glass to AlphaGo and mark another big moment in the advance of artificial intelligence and then perhaps start to worry. AlphaGo, Google DeepMind’s game of Go-playing AI just bested the best Go-playing human currently alive, the renowned Lee Sedol.......................

기사 : http://www.theguardian.com/commentisfree/2016/mar/13/artificial-intelligence-robots-ethics-human-control

사진 : Handout/Getty Images