인공지능 발달에 따른 윤리학의 필요성 연구

= A Study on the Necessity of Ethics for the Development of Artificial Intelligence

• 저자[authors] 이기훈 ( Lee Ki-hoon )
  

• 학술지명[periodical name] 倫理硏究
  

• 권호사항[Volume/Issue] Vol.120No.-[2018]
  

• 발행처[publisher] 한국윤리학회(구 한국국민윤리학회)
  

• 자료유형[Document Type] 학술저널
  

• 수록면[Pagination] 293-317
  

• 언어[language] Korean
  

• 발행년[Publication Year] 2018
  

• 주제어[descriptor] 인공지능 행위자, 인공지능, 로봇 윤리, 공리주의, 경험주의, 효과적 이타주의, artificial intelligent agent, artificial intelligence and ethics, roboethics/robot ethics, utilitarianism, empiricism, effective altruism
  

초록[abstracts] 

[현대 사회에서 인공지능은 더 이상 낯선 단어가 아니다. 광범위한 분야에서, 인공 지능은 사람들을 돕고 있다. 다양한 측면에서 인공지능은 사람들의 삶의 질을 크게 향상시켰다. 반면에 인공지능의 발달에 대한 우려하는 이들도 존재한다. 그들은 우리의 예상을 뛰어넘는 인공지능의 발전 속도가 우리에게 재앙이 될 수 있다고 우려한다. 인공지능의 단계를 구분하는 여러 방식이 존재하지만, 결국 이러한 방식을 통해서 이야기하고 있는 것은 인공지능이 인간을 닮아야한다는 것이다. 이는 인공지능이 인간의 지능뿐만 아니라 마음까지도 모방해야한다는 것을 의미한다. 인공지능이 인간의 마음을 지닌다는 것은 의식, 이해, 의지, 그리고 감정을 총체적으로 지닌다는 것이다. 먼 미래에 이것은 현실이 될 가능성이 있으며, 그럴 가능성이 있다면 우리는 미리 그것을 준비해야할 것이다. 인공지능과 관련하여 어떤 미래가 올지는 확언할 수 없다. 하지만 적어도 예상가능한 것은 인공지능이 우리의 상상을 초월하게 발달할 것이고, 그러한 인공지능을 연구하고 만드는 인간들에게 그 위험성이 내제되어있다는 것이다. 때문에 우리는 어떤 미래가 오더라도 혼란이 없도록 미리 준비해야한다. 미래에는 고도화된 인공지능이 인간의 윤리를 부정할지도 모른다. 그런 미래를 맞이하지 않기 위해서 가장 최선의 방법은 인간의 윤리를 받아들인 인공지능을 설계하는 것이다. 더욱이 이러한 과정에서 경험주의, 특히 공리주의는 탁월한 역량을 발휘하게 될 것이다. 공리주의가 주장해온 평등성과 혁명성은 새로운 세대의 윤리를 제시하는데 매우 적합한 것이기 때문이다.,

In modern society, artificial intelligence is no longer a strange word. In a wide range of fields, artificial intelligence is helping people. In many ways, artificial intelligence has greatly improved people's quality of life. On the other hand, there are those who are concerned about the development of artificial intelligence. They fear that the rate of development of artificial intelligence beyond our expectations could be catastrophic for us. There are many ways to distinguish between stages of artificial intelligence, but what we are talking about in this way is that it has to resemble humans. This means that artificial intelligence must mimic not only human intelligence but also the mind. Artificial intelligence has the human mind, which means that it has a whole set of consciousness, understanding, will and emotion. In the distant future, this is likely to be a reality, and if that is possible, we will have to prepare for it in advance. With regard to artificial intelligence, there is no telling what future will come. But at least what is expected is that artificial intelligence will develop beyond our imagination and that risks are inherent in humans who study and build it. Therefore, we must be prepared in advance so that no future will be confused. In the future, advanced artificial intelligence may deny human ethics. The best way to avoid such a future is to design artificial intelligence that accepts human ethics. Moreover, in this process, empiricism, particularly utilitarianism, will have excellent capabilities. The equality and revolution that utilitarianism has been advocating is a very good fit for presenting the ethics of a new generation.]