미국, 영국, 유럽 연합 등이 법적 구속력이 있는 인공지능 조약에 서명했다.
#1) 기사: https://www.theverge.com/2024/9/5/24236980/us-signs-legally-enforceable-ai-treaty
미국, 영국, 유럽 연합이 인공지능에 대한 최초의 "법적 구속력"이 있는 조약에 서명했다. 유럽 평의회에 따르면 이 조약은 인공지능의 사용이 "인권, 민주주의, 법치주의"에 부합하도록 보장하는 것을 목적으로 한다. “인공지능에 관한 기본협약(Framework Convention on Artificial Intelligence)”이라 불리는 이 조약은 사용자 데이터 보호, 법률 존중, 관행(절차) 투명성 유지 등 인공지능 시스템이 따라야 할 핵심 원칙을 제시한다. 조약에 서명한 각 국가는 기본협약의 기본 틀을 반영하는 적절한 법률적, 행정적 또는 기타 조치를 “채택하거나 유지”해야 한다.
지난 몇 달 동안 인공지능에 관한 다양한 협정들이 등장하는 것을 보아왔지만, 대부분은 서명국이 그들의 약속을 어길 경우 별다른 제재가 없었다. 이번 새로운 조약은 “법적 구속력이 있다”고는 하지만, “조약 준수 여부가 주로 모니터링을 통해 측정되며, 이는 비교적 약한 형태의 집행 방식”이라고 파이낸셜 타임즈는 지적한다.
그럼에도 불구하고 이 조약은 각국이 자국의 인공지능 관련 법률을 제정하는 데 청사진 역학을 할 수 있다. 미국은 인공지능과 관련된 법안을 준비 중이고, 유럽 연합은 이미 인공지능에 대한 획기적인 규정을
통과시켰으며, 영국도 자체 법안을 검토하고 있다. 또한 미국 캘리포니아주는 OpenAI와 같은 대기업들이 반대하고 있는 인공지능 안전법을 곧 통과시킬 가능성이 있다.1)
|
[인공지능에 관한 기본협약 주요 내용]2) ▣ 협약은 어떻게 만들어졌는가? 협약의 작업은 2019년에 시작되었으며, 당시 인공지능에 관한 특별위원회(CAHAI)가 이러한 도구의 실현 가능성을 검토하는 임무를 부여받았다. 이 위원회의 임무에 따라 2022년에 인공지능위원회(CAI)가 그 뒤를 이어 협약의 초안을 작성하고 협상을 진행했다. 협약은 캐나다, 일본, 멕시코, 교황청, 미국과 같은 모든 참관국과 유럽 연합, 그리고 호주, 아르헨티나, 코스타리카, 이스라엘, 페루, 우루과이 등 많은 비회원국이 참여한 가운데 유럽 평의회 46개 회원국에 의해 작성되었다. 유럽 평의회의 다양한 이해관계자 참여 관행에 따라 시민 사회, 학계 및 산업계의 68명의 국제 대표자들과 여러 다른 국제 기구들도 협약 제정에 적극적으로 참여했다. ▣ 협약은 국가가 무엇을 하도록 요구하는가? ▶ 기본 원칙 - 인공지능 시스템의 생애 주기 동안 “인간 존엄성과 개인의 자율성”, “평등과 비차별”, “프라이버시와 개인정보보호”, “투명성과 감시”, “책임성과 의무”, “신뢰성”, “안전한 혁신”의 기본 원칙들을 준수해야 한다. ▶ 대응 방법, 절차적 권리 및 보호 장치 - (인공지능 시스템 관련 정보제공) 인공지능이 어떻게 사용되고 있는지에 대한 정보를 사람들이 알 수 있어야 한다. - (결정에 이의 제기) 인공지능이 내린 결정에 대해 사람들이 잘못됐다고 생각하면, 그 결정을 문제 삼고 이의를 제기할 수 있어야 한다. - (불만 제기 가능성) 인공지능으로 인해 피해를 본 사람들은 관계 당국에 정식으로 불만을 제기할 수 있어야 한다. - (인권 보호) 인공지능이 사람의 권리에 큰 영향을 미칠 경우, 그 사람은 법적인 보호와 절차적 권리를 보장받아야 한다. - (인공지능 시스템 고지) 사람이 아니라 인공지능과 대화하거나 상호작용하고 있다는 사실을 미리 알려줘야 한다. ▶ 위험 평가 및 대응 방안 - (위험 평가) 인공지능이 인권이나 민주주의에 어떤 영향을 줄지 계속해서 평가해야 한다. - (예방 조치) 평가 결과에 따라 문제가 생기지 않도록 예방하거나 피해를 줄일 수 있는 조치를 마련해야 한다. - (금지 가능성) 인공지능 시스템이 위험하다고 판단될 경우, 당국은 그 시스템의 사용을 금지하거나 잠시 중단시킬 수 있어야 한다. ▣ 협약의 적용 대상 - (적용 대상) 공공기관이 인공지능 시스템을 사용할 때 적용되며, 공공기관을 대신해 일하는 민간 기업도 포함된다. - (민간 부문 규제 방법) 각국은 협약의 규정을 직접 따르거나, 협약을 준수하면서 자국의 법과 국제 의무를 존중하는 다른 방법을 선택할 수 있다. - (국가 안보 제외) 국가 안보와 관련된 활동에는 이 협약을 꼭 적용하지 않아도 되지만, 그런 활동도 국제법과 민주적 절차를 존중해야 한다. 이 협약은 국방 문제나 연구·개발에는 적용되지 않지만, 인공지능 시스템 테스트가 인권이나 민주주의에 영향을 미칠 때는 적용될 수 있다. ▣ 협약 이행의 모니터링 방법 - (당사국 회의) 협약을 맺은 나라들의 공식 대표들이 모여 협약이 잘 지켜지고 있는지 평가하는 회의를 진행한다. - (평가와 권고) 회의에서 각국이 협약을 얼마나 잘 지키고 있는지 조사하고, 필요한 경우 개선 권고를 한다. 이를 통해 협약이 잘 이행될 수 있도록 돕는다. - (협력과 공청회) 협약의 중요한 문제를 논의할 때 다양한 이해관계자들과 협력하며, 때로는 공청회를 열어 관련 내용을 논의할 수 있다. |