안전을 우선으로 하는 인공지능(Safety-first AI)이 의료 분야로 진출
*제목을 클릭하면 해당 기사로 연결됩니다
※ 기사1. Safety-first AI comes to health care
※ 기사2. A.I. May Someday Work Medical Miracles. For Now, It Helps Do Paperwork.
※ 기사3. Biotech begins human trials of drug designed by artificial intelligence
안전을 우선으로 하는 인공지능(Safety-first AI)이 의료 분야로 진출
기업들이 인공지능(AI) 기반 제품과 서비스를 시장에 빠르게 내놓는 가운데, 일부 비영리 단체와 안전에 초점을 둔 기업들은 의료와 같은 고위험 사용 사례에서 AI 사용에 더욱 유의할 것을 주장하고 있다.
결함이 있는 AI는 의료 환경에서 환자의 생사와 관련된 문제를 발생시킬 수 있으므로, 의료 제공자들이 AI 기술을 안전하게 구축, 구매, 사용할 수 있도록 지원이 필요하다.
AI 기반 생성 서비스의 폭발적인 증가로 올해 5월 세계보건기구(WHO)는 환자와 소비자에게 AI 기반 서비스를 제공하기 전에 그것의 사용 이점에 대해 과학적 근거를 기반으로 입증할 필요성에 대해 경고했다.
최근 미국 오스틴에 기반을 둔 Responsible AI Institute*가 조직한 새로운 AI 협회(Responsible AI in Healthcare consortium)가 캠브리지 대학에서 출범했다. 이 협회는 병원과 의료 제공자들이 AI를 보다 안전하게 사용할 수 있도록 지원하기 위한 목적을 가지고 있다.
*Responsible AI Institute(RAI Institute): 각 조직에서 책임 있는 AI 사용에 대한 노력을 지원하는 글로벌 비영리 단체이다. RAI Institute의 AI 시스템에 대한 적합성 평가와 인증은 실무자들이 복잡한 AI 제품의 개발, 판매 또는 구매 과정을 효과적으로 관리하는 데 도움을 준다.
https://www.responsible.ai/who-we-are
AI가 설계한 약물 임상시험 돌입
한편, 중국 대기업 Fosun Group과 투자기업 Warburg Pincus의 지원을 받는 한 생명공학 회사는 AI를 통해 설계한 약물을 인간을 대상으로 초기 임상시험을 시작했다.
라트비아 출신 과학자인 알렉스 자보로노프(Alex Zhavoronkov)가 설립한 Insilico Medicine은 알려지지 않은 원인으로 발생하는 폐섬유증을 치료하기 위한 새로운 치료법으로 중국의 환자에게 AI가 설계한 약물처방을 시작했다고 밝혔다.
자보로노프는 Insilico의 AI 플랫폼이 약물 개발에 걸리는 시간을 절반으로 줄이고, Deloitte가 평균적으로 치료제 당 약 23억 달러로 추정한 약물 시장 진입 비용을 대폭줄일 수 있는 잠재력이 있다고 말했다.
일부 비평가들은 AI가 발견한 약물이나 이를 생성하는 플랫폼이 성공할 것이라는 보장은 없으며 기술의 잠재력이 과장되었다고 경고한다.
현재 AI는 의사들의 서류작업을 돕는 역할 수행
그러나 현재 의사들은 의료 분야에서 생성형 AI의 가장 좋은 활용을 ‘문서 작업’의 부담을 줄이는 것에 있다고 말한다. 예를 들어 의사들이 진료, 청구 및 행정 목적을 위해 전자 의료 기록에 긴 메모를 타이핑하는 디지털 문서 작업의 부담을 줄이는 것이다.
의사들은 의료 분야가 AI 테스트에 적절한 분야는 아니라고 강조한다. 때때로 AI가 허위 정보를 만들어 내면 그저 해프닝으로 생각할 수도 있지만, 의료와 같은 영역에서는 결코 그렇지 않다.
의사와 의학 연구자들은 규제적 불확실성 및 환자 안전과 소송에 대한 우려 때문에 진단과 치료 계획에서 생성형 AI의 수용이 느려질 것이라고 말한다.