미국 각 주, 보건의료 분야 AI에 관한 규정 논의 중
#1) 기사1: https://www.axios.com/2024/08/12/states-regulate-ai-health-care?stream=top
#참고1: https://leg.colorado.gov/bills/sb24-205
#참고2: https://www.axios.com/2024/06/14/health-care-technology-ai
#참고4: 법제처-인공지능관련 국내외 최신입법동향
보건의료 분야의 인공지능에 관하여 연방 정부의 안전장치가 부재한 가운데, 각 주 정부는 해당 사안에 대해 저마다의 규정을 고안하는 중이다.
지난 5월 콜로라도 주는 최초로 포괄적인 AI 법을 제정했다. 해당 법률은 보건의료를 포함하여 “중대한 결정”을 내리는 AI 체계의 개발자와 이용자들에게 제한을 두었다.
유타 주의 AI 연구소는 정신건강 챗봇을 규제하는 법안을 만들고 있다. 또한 보건의료 종사자들은 소비자와 생성형 AI로 상호작용할 시 이를 고지해야 한다.
주(州)에 보건기구들은 연방 기구보다 빠르게 정책을 만들면서도 지역 공동체의 특수한 요구도 고려할 수 있다. 그러나 주(州)도 연방에서와 같이 AI에 대한 정확한 정의가 없고 여러 이해당사자 간 의견 충돌이 있는 등의 공통에 문제가 있다.
<보건의료 분야에서 AI 논의가 중요한 이유?>
- 보건의료 분야에서의 AI 사용을 각 주마다 별개로 규제하는 소위 짜깁기식 접근은 이용자와 개발자들에게 혼란을 더욱 야기할 수 있다. 의료분야 인공지능에 대해서는 연방차원의
보호장치가 전혀 없다. 건강관리의 가장 큰 와일드카드로 불리우는 AI는 획기적인 과학 발전으로 환자에게 제공되는 치료를 근본적으로 바꿀 수 있으며 건강시스템의 존재론적인
문제를 해결할 수 있다.
|
[미국에서 보건의료 분야에 AI 사용 관련 법률 규정례] <규제 법안 등> * 인공지능에 대한 소비자 보호법(유타 주) - 인공지능 시스템과의 상호작용에 대한 소비자 보호에 관한 법률로 이 법은 2026년 2월 1일 이후 고위험 인공 지능 시스템(고위험 시스템)의 개발자가 고위험 시스템에서 알고리즘 차별의 알려지거나 합리적으로 예측 가능한 위험으로부터 소비자를 보호하기 위해 합리적인 주의를 기울이고자 제정됨 * 개인정보와 데이터의 보호 - 건강보험 양도 및 책임에 관한 법률(이하, HIPAA) HIPAA는 보호된 건강 정보(PHI)로 알려진 민감한 환자 건강 정보의 보호를 위한 기준을 설정함. 헬스케어 에서 사용되는 AI 애플리케이션이나 시스템은 환자 데이터의 프라이버시와 보안을 보장하기 위해 HIPAA 규정을 준수해야 함 - FTC(미국연방통상위원회)와 HIPAA이 아닌 건강 정보 및 AI 별도 규제: HIPAA가 적용되지 않는 건강 정보에 대한 FTC의 규제와 AI에 대한 별도의 규제함 - 주 법률의 HIPAA이 아닌 건강 정보 및 AI 별도 규제: HIPAA가 적용되지 않는 건강 정보에 대한 주 법률과 AI에 대한 별도의 규제 - 일반 데이터 보호 규정(GDPR): 유럽연합과 같은 GDPR이 적용되는 지역에서는 개인 데이터, 특히 건강 데이터의 수집, 처리, 저장에 대한 엄격한 규정이 있으며 보건의료에서의 AI 애플리케이션은 환자 프라이버시를 보호하고 데이터 사용에 대한 적절한 동의를 얻기 위해 GDPR 요구 사항을 준수해야 함 * 의료기기 규정 - 2023년 10월 30일, 바이든 대통령은 행정명령에 서명하고 국방물자생산법(Defense Production Act)을 발동하여 보건의료를 비롯한 다양한 산업에서 인공지능 사용에 대한 첫 번째 기준을 수립 - FDA: 미국에서 식품의약국(FDA)은 보건의료에서 사용되는 의료 기기와 소프트웨어, AI 기반 기술을 규제합니다. AI 애플리케이션은 사용 목적과 위험 수준 에 따라 안전성과 효과를 보장하기 위해 FDA의 승인 또는 허가 과정을 거쳐야 함 - 이 과정에서 FDA는 임상 데이터를 검토하여 AI 기반 기기나 소프트웨어 제품이 안전하고 효과적이며, 홍보된 대로만 작동하는지 확인(1995년부터 10월까 지 FDA는 692개의 AI 기반 기기를 승인, 지정 또는 허가함) - 기타 의료 기기 규정: AI 기반 의료 기기는 설계, 개발, 제조 및 시장 출시 후의 감시에 대한 특정 규정을 따를 수 있습니다. ISO 13485 및 IEC 62304와 같은 의료 기기 규정을 준수하는 것은 AI 기반 헬스케어 제품의 품질과 안전성을 보장하는 데 필수 - 유럽에서 사업을 하는 헬스 AI 회사들은 2월에 발효된 유럽연합의 인공지능법을 준수해야 함 (* 이 법은 AI를 다양한 위험 범주로 분류하며 특정 헬스 AI 개발자들은 자신의 모델을 데이터베이스에 등록하고, 모델에 사용된 데이터를 투명하게 공개할 것을 요구함) |
[보건의료 종사자들 소비자와 생성형 AI로 상호작용]
<국외 보건의료에서 AI 사용에 윤리적 문제 접근 방법>
- 미국의학협회(AMA)와 세계의학협회(WMA)와 같은 다양한 조직들은 보건의료에서 AI 사용에 대한 윤리적 지침을 마련함
- 헬스 AI 연합(Coalition for Health AI)은 인공지능이 보건의료에서 안전하고 효과적으로 사용될 수 있도록 새로운 지침을 추진- 투명성, 공정성, 책임성, 그리고 환자 복지의 우선순위와
같은 원칙 강조함
- 세계보건기구(WHO)는 1월에 각국 정부가 보건의료에서 사용하려는 AI 애플리케이션과 모델을 평가하고 승인할 기존 규제기관을 지정하거나 새로운 기관을 설립할 것을 권고함
- 내부적으로 자체 AI 자문위원회를 구성 논의 중임
- 정부는 2019년 인공지능 강국을 비전으로 한 ‘인공지능 국가전략’을 수립한 이후 인공지능 산업 진흥과 활용 기반을 강화하면서도, 역기능으로 방지하기 위한 선제적이고 종합적인
‘인공지능 법 제도 규제 정비 로드맵’을 관계부처 활동으로 마련해 발표함
- 이후 각 부처는 소관업무와 관련된 인공지능 정책을 수립하고 있다. 금융위원회는 2021년 소비자 및 금융 산업 시장 건전성을 보호룰 위해 AI운영의 방향성을 제시한 금융 분야 AI
가이드라인을 수립 발표함
- 개인정보위원회는 2023년에 개인정보 침해 위험은 최소화하면서 인공지능 혁신 생태계 발전에 꼭 필요한 데이터는 안전하게 활용할 수 있도록 하는 「인공지능 시대 안전한 개인정보
활용 정책방향」을 발표함
- 최근 정부는 정부활동으로 수립한 「새로운 디지털 질서 정립 추진계획」을 발표함
- 국내 인공지능법안은 21대 국회에서 2020년부터 발의되었다. 이 중 인공지능 자체의 진흥이나 규제 등을 목적으로 발의된 법안은 총 9건이고, 2023년에 발의된 2개 법안에는 교통,
의료 인공지능이 일상 깊숙이 파고들며 다양한 분야에서 활용되는 환경을 고려하여 사업자의 책무와 이용자의 권리를 구체적으로 규정하는 내용 등이 포함되어 있음