머신러닝 인공지능과 인간전문직의 협업의 의미와 법적 쟁점
= Meaning of Partnership between Machine Learning Artificial Intelligence and Legal Issues : Case of Physician’s Liability in the Medical Malpractice
- 저자[authors] 설민수(Min Soo Seul)
- 학술지명[periodical name] 저스티스
- 권호사항[Volume/Issue] Vol.-No.163[2017]
- 발행처[publisher] 한국법학원
- 자료유형[Document Type] 학술저널
- 수록면[Pagination] 255-284
- 언어[language] Korean
- 발행년[Publication Year] 2017
- 주제어[descriptor] 머신러닝 인공지능,인간전문직,협업,의료과실,의사의 진단책임,Machine learning artificial intelligence,Human professionals,Partnership,Medical malpractice,Physician’s liability in diagnosis
국문 초록[abstracts]
머신러닝 인공지능의 출현은 오랫동안 인간전문직의 독점적 영역으로 알려졌던 분야에서 인공지능과 인간전문직의 협업을 현실로 만들고 있고 최근 IBM의 Watson이 보여주듯이 의료분야는 이러한 상업화가 앞선 분야이다. 하지만 머신러닝 인공지능과 인간전문직은 문제해결 접근방식에서 구체적 추론을 보면 그 과정을 알 수 없는 계산된 확률과 납득할 수 있는 해명에 기초한 상당성, 그리고 빅 데이터를 이용한 패턴인식과 자신의 경험을 바탕으로 한 귀추론의 적용이라는 명백한 차이가 존재한다. 그 위에 인간 언어 이해의 기술적 한계, 개발국가와 사용 국가 사이의 관행 차이의 존재 등은 인간전문직과 머신러닝 인공지능 사이의 충돌가능성을 높인다. 이러한 상황에서 인간전문직과 머신러닝 인공지능이 협업을 한다고 하더라도 머신러닝 인공지능의 역할은 인간이 실질적 운전자가 아닌 지위로 전환되면서 책임경감이 논의되는 자율주행 자동차에서와 달리 인간전문직을 보조함으로써 실수를 예방하고 관련비용을 낮추는 역할에 국한된다. 구체적 예로서 의료과실에서 의사의 책임에 관해 보면 전문직으로서 법률상 독점적인 지위를 보호받고 있는 의사의 지위, 의사의 충실한 설명의무에 기초할때만 성립할 수 있는 환자의 자기결정권과 같은 사정을 고려해 보면 의사를 보조하는 머신러닝 인공지능의 지위는 의료기기 정도로서 의사의 의료과실 책임체계에 변화를 가져오기는 어렵다. 오히려 의사의 진단과 치료법 선택에 관한 책임을 결과의 예견가능성을 전제로 인정하는 기존의 법원 판결에 비추어 머신러닝 인공지능과의 협업은 현재의 머신러닝 발전단계에서는 특히 머신러닝 인공지능과 의사의 진단이 다를 경우 그 책임범위를 확대시킬 가능성이 더 높다. 다만 머신러닝 인공지능이 상당한 수준에 올라갈 미래의 발전단계에서는 머신러닝 인공지능은 의사의 유력한 방어수단이 될 수 있을 것으로 보이고 그때 균형을 이루기 위한 법률상 책임체계에 대한 고민이 시작될 가능성이 크다. 인간의 실수방지와 전문직 활용 시 비용절감을 앞세운 머신러닝과 인간전문직의 협업은 점점 현실로 다가오고있다. 상대적으로 그 활용 및 발전에 다양한 가능성이 열려있는 현재 단계에서는 포괄적인 규제보다는 상업화에 따른 점진적인 규제를 통해 대응해야 하고, 인간전문직 집단 역시 머신러닝 인공지능의 영향이 집중될 미숙련자들에 대한 교육‧훈련체계 개선에 힘을 기울여야 한다.
다국어 초록[Multilingual Abstract]
The advent of machine learning artificial intelligence(hereafter “AI”) makes partnership between AI. and human professionals a reality in those areas that have long been regarded as a monopolistic area of human professionals and as the recent IBM Watson shows, the field of medicals is ahead of this commercialization trend. However, there is a clear distinction in problem solving approach between machine learning AI and human professionals, where machine learning AI leads those outcomes by calculation of probability by black-box process and recognition of hidden pattern based on big data while human professionals lead those outcomes by the plausibility based on explanations and application of abductive reasoning based on his or her own experience. Above it, the technical limitations of AI in understanding human language, and the existence of differences in practice between AI developing and using countries and other factors increase the possibility of collision between human professionals and machine learning AI. In this situation, even if human professionals and machine learning AI cooperate in partnership, the role of machine learning AI is limited to assist human professionals to prevent mistakes and lower the related costs unlike autonomous vehicles where human does not works as drivers practically anymore and human’s position changes from drivers to consumer actually so as to induce the discussion of the reduction in legal liability naturally As a concrete example, the physician’s liability in medical malpractice can not be changed largely even in partnership with machine learning AI when considering the status of the physician who is protected by law as sole provider of medical service and the patient’s self-determination right that can only be established based on the faithful explanation duty of the doctor, because status of physician assisting AI is medical device at best. Rather, in view of the existing court precedents that find physician liable in malpractice only when there is a possibility of foreseeability of the bad outcome in physician’s diagnosis and the choice of treatment, partnership with machine learning AI in the current stage of machine learning development enlarge physician’s liability expecially when diagnosis of physician and machine learning AI is differed. However, in the future where machine learning AI will reach a considerable level, machine learning AI will afford a strong defense for the physician, and at that time real deliberation of legal responsibility to balance will rise. Partnership between machine learning AI and human professionals are becoming more and more reality in expectation of reduction of human error and cutting costs. In the current stage, where various possibilities for utilization and development are relatively open, it is better to adopt incremental regulation as commercialization steps rather than comprehensive regulation, and also the human professional group should improve the education and training system for the novice group whom will suffer from machine learning AI at large.
목차[Table of content] 논문요지 Ⅰ. 서론 Ⅱ. 머신러닝 인공지능과 인간전문직의 문제해결 접근법에서의 차이와 그 충돌가능성 Ⅲ. 머신러닝 인공지능과 인간전문직의 협업에서의 책임체계의 쟁점 : 의료과실에서의 의사의 책임을 사례로 Ⅳ. 머신러닝 인공지능과 인간전문직의 협업에 대한 규제의 방향과 과제 〈참고문헌〉 〈Abstract〉