심장수술부터 출산까지 영향을 미치는 임상적인 알고리즘이 인종편향적인 왜곡을 보인다는 연구결과가 나옴
※ 기사. Racial bias skews algorithms widely used to guide care from heart surgery to birth, study finds
https://www.statnews.com/2020/06/17/racial-bias-skews-algorithms-widely-used-to-guide-patient-care/
미국 내과의사들에게 심장수술을 받는 환자, 신장치료가 필요한 환자, 질식 분만을 시도해야 하는 환자 등의 진료 시 의사결정에 도움이 되는 도구가 인종적으로 편향되어있다고 NEJM(New England Journal of Medicine) 저널에 게재됨.
☞ NEJM 저널 : https://www.nejm.org/doi/full/10.1056/NEJMms2004740
수천만 명의 미국인들의 건강관리를 지도하기 위해 병원과 의사들에게 이용되는 알고리즘은 개발자가 모르는 암묵적인 인종차별주의로 엉망이라는 것이 최근의 증거임. 이는 종종 흑인들이 더 낮은 수준의 진료를 받는 결과를 초래함.
이 새로운 연구결과는 인종과 알고리즘에 의한 환자 진료에 대한 이전의 어떤 연구보다 더 많은 의학전문분야에 영향을 미침.
응급의학 의사로 미국의과대학협회(AAMC; Association of American Medical Colleges)에서 건강형평성 파트너십과 프로그램을 책임지는 Malika Fair는 이 연구가 인상적이었다고 밝힘. Fair는 “의학적인 의사결정에 인종을 이용하는 것이 이렇게 사려 깊은 분석에서 의문시되어 기쁘다”면서 “의학계로서 우리는 인종이라는 개념이 생물학적인 것이 아니라 사회적인 산물(social construct)이라는 것을 완전히 수용하지 못했다”고 밝힘.
이번 연구결과는 더 좁게 집중한 이전의 연구에 기초함. 예를 들어 작년에 다른 과학자들은 어떤 환자가 가정방문과 같은 추가적인 보건의료서비스를 받아야 할지 식별하는데 널리 이용되는 알고리즘이 더 아프고 더 필요한 흑인 환자보다 더 건강한 백인 환자를 프로그램에 투입한다는 것을 발견함. 편향은 알고리즘 개발자들이 높은 의료비 지출과 더 나쁜 건강상태를 동일시한 결과임. 그러나 백인 미국인들은 흑인 미국인들과 같은 건강상태인 경우에도 건강에 더 많은 돈을 씀.
새로운 연구는 심장학부터 산과학까지 의학적으로 결정하는데 사용되는 알고리즘이 암묵적인 인종적 편향에 의하여 유사하게 오염되어 있으며, 흑인 환자들이 받는 진료의 질에 부정적인 영향을 미친다는 것을 발견함.
보스턴 브리검여성병원(Brigham and Women’s Hospital) 의사 Brian Powers는 “많은 알고리즘이 널리 이용되며, 환자 진료에 상당한 영향을 미친다”고 말함. “이러한 알고리즘의 목록을 만드는 것이 중요한 첫 단계”라면서 “지금 필요한 것은 이러한 알고리즘이 인종적인 편향을 보이는지, 아니면 다른 방식으로 건강 불평등에 기여하는지에 대한 더 나은 이해”라고 밝힘.
Jones 연구팀이 조사한 13개 알고리즘은 모두 의도치 않게 흑인 및 라틴계 환자들을 적절한 진료를 받을 가능성이 낮은 방식으로 인종을 포함하는 근거를 제공함. 그러나 그러한 근거의 기원으로 거슬러 올라가면 Jones는 “시대에 뒤떨어진 과학이나 편향된 자료를 발견하게 될 것”이라고 밝힘. 예를 들면 흑인 환자들의 나쁜 결과는 인종 때문이라고 지나치게 단순화하여 결론짓는 것임.
일반적으로 개발자들은 알고리즘을 개발할 때 인종이 더 나쁜 결과(예시; 제왕절개 후 질식분만 결과)의 설명이나 원인이라고 가정하면서 인종과 의학적인 결과 사이의 상관관계를 보여주는 연구에 기초함. 그들은 일반적으로 1차 의료에 대한 접근성, 사회경제적 지위, 차별 등이 인종처럼 상관관계의 진정한 촉매가 될 수 있는지는 조사하지 않았다고 함.
Jones는 “역학 및 통계학의 현대적인 도구들이 이를 가려낼 수 있다”면서 “인종으로 일컫는 상당 부분이 실제 계급과 빈곤에 관한 것임을 보여준다”고 밝힘.
Powers는 “인종을 임상적인 알고리즘에 포함하는 것이 때로는 적절할 수 있다”면서 “이는 더 나은 환자진료로 이어질 수도 있고, 심지어 불평등을 다루기 위한 도구가 될 수도 있다”고 밝힘. 하지만 그것은 불평등을 악화시킬 수도 있음. 알고리즘 결과를 이해하기 위해 “알고리즘이 어떻게 훈련받았고, 어떤 데이터가 예측에 사용되었으며, 예측이 얼마나 정확하고, 알고리즘이 실무에서 어떻게 이용되는지를 면밀히 검토할 필요가 있다”면서 “안타깝게도 우리는 많은 알고리즘에 대하여 이러한 답을 가지고 있지 않다”고 말함.