- 정당한 정부 비판에 재갈 물리기 위한 시민사회에 대한 탄압일 뿐

오늘(9월 1일) 서울경찰청이 녹색연합 정규석 사무처장에 대한 압수수색을 벌였다. 압수수색의 명분은 4대강 관련 문재인정부 환경부장관 수사에서 정 사무처장이 참고인이란 이유다. 피의자가 아니라 참고인에 지나지 않는 시민단체 활동가를 압수수색까지 한 것은 정부 비판에 앞장서고 있는 시민단체에 대한 무리한 탄압 시도라고 볼 수밖에 없다.

녹색연합은 4대강 사업을 되돌리려는 윤석열 정부에 대한 강력한 문제 제기를 해왔을 뿐 아니라, 후쿠시마 핵폐수 방류 중단 운동, 오염된 용산미군기지 공원개방에 대한 반대, 기후위기의 정의로운 해결을 위한 운동 등 시민들의 건강과 생명, 그리고 인류와 생태의 지속가능성을 높이기 위한 정당한 활동을 해왔다. 정부의 잘못된 정책에 대한 견제와 감시는 시민단체의 본연의 역할이다.

정치권력에 대한 감시와 견제 활동을 두려움 없이 할 권리는 민주사회에서 기본적으로 보장돼야 할 권리다. 이를 옥죄기 위해 압수수색이란 물리력으로 대응하는 건 시민사회에 대한 재갈 물리기이며 민주주의를 퇴행시키는 행태다. 녹색연합에 대한 이번 압수수색은 윤석열 정부가 시민단체에 대해 벌인 첫 압수수색이다. 이는 출범 이후 계속돼온 사회운동에 대한 물리적 탄압을 한층 강화하겠다는 신호탄일 것이다.

윤석열 정부가 환경과 생태, 인권과 생명을 짓밟는 정책을 펴며 공권력으로 정당한 목소리를 억누르려 한다면 그 끝은 몰락 뿐이다. 정부는 이를 즉각 중단하고 더 이상의 퇴행을 멈춰야 한다.

2023년 9월 1일

건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회, 건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회)

공공운수노조 의료연대본부가 오늘(11일) 파업투쟁에 돌입한다. 우리는 이 투쟁을 적극 지지한다. 공공병원에서 환자를 돌보는 노동자들은 우리의 건강과 생명을 위해 헌신해왔고 특히 감염병 재난을 이겨내는 데 결정적 기여를 한 이들이다. 지금 이런 노동자들의 희생과 헌신에 대한 윤석열 정부의 응답은 인력 쥐어짜기, 노동조건 개악, 실질임금 삭감이다. 노동자들에 대한 공격은 우리 모두의 삶에 대한 공격과 연결돼 있다. 정부는 인력부족 방치, 공공의료 고사시키기, 의료민영화 추진으로 시민의 생명과 건강 전체를 위협하고 있다. 이에 맞서 공공의료를 살리고 우리 모두의 생명을 지키기 위해 나선 노동자들의 투쟁은 전적으로 정당하다.

첫째, 정부는 공공병원 긴축 중단하고 인력을 대폭 충원하라.

정부의 긴축 공격인 공공기관 혁신가이드라인은 폐기돼야 한다. 정부는 부자와 기업들에게는 수십조원의 감세를 해주면서 병원 노동자들에는 재정 긴축으로 희생을 강요한다. 긴축은 공공 서비스의 질을 저하시키고 특히 병원 사업장에서는 환자의 생명을 위협하는 것이다.

정부는 직무성과급제를 도입한다고 한다. 병원에서 환자를 돌보는 일은 유기적 협업이 필수인데 여기에 성과경쟁을 부추긴다는 게 가당키나 한가. 이는 노동자들의 단결을 저해하고 임금인상을 억제하려는 정부와 사용자들에게는 이득이겠지만 평범한 노동자‧서민들에게는 노동조건과 서비스의 질 저하로 이어질 뿐이다. 돈벌이 성과경쟁을 부추긴다면 환자들에게는 병원비 증가로 이어질 수밖에 없다.

정부는 또 인력충원을 하지 않아 극도로 열악한 병원노동자들의 노동조건을 방치하고 있다. 서울대병원 같은 중증도 높은 환자 병동에서도 간호사 1명이 환자를 14명까지도 보는 열악한 상황에서 노동자들의 과로와 소진은 극에 달하고 있다. 이는 곧바로 환자 생명과도 연결되는 위태로운 상황이다. 국립대병원 인력을 즉각 충원하고, 외국처럼 간호사 1인당 환자수를 법제화하여 인력기준 바로 세우라는 요구는 정당하고 시급하다.

게다가 IMF 위기 이후 24년만이라는 5.1%의 살인적 물가 상승률에도 정부는 노동자들에게 1.7% 인상을 제시하며 실질임금을 삭감하려고도 한다. 병원은 지금도 낮은 처우로 이직률이 높다. 저임금과 열악한 노동조건으로 노동자들이 떠난다면 이는 공공병원을 이용하는 환자들의 건강과 생명의 피해로도 귀결될 것이다.

둘째, 정부는 노동자들의 요구대로 의료민영화 중단하고 공공의료 강화에 나서라.

병원 노동자들은 윤석열 정부의 의료민영화 추진에도 맞서고 있다. 건보 재정이 위기라면서 보장성을 줄인다더니 비대면진료 영리플랫폼 기업에 건보재정을 퍼주려 하고 있다. 민간보험사들에 의료기관 개인정보를 손쉽게 넘기는 제도를 ‘실손보험 청구간소화’라며 밀어붙인다.

또 정부는 공공병원에 대한 지원을 끊어서 코로나19에 헌신한 공공의료기관을 말살하려 한다. 경영위기로 공공병원은 존폐위기에 놓여있고 노동자들은 임금체불 위기에 처해 있다. 대통령 공약이던 울산의료원 설립도 경제성이 떨어진다며 중단시켰다. 공공의대 신설 등으로 의사를 양성해 의사부족을 해결하라는 요구도 무시하고 있다. 건강보험 보장성도 ‘포퓰리즘’ 운운하며 약화시키려 한다. 보장성이 OECD 최저 수준이어서 미국보다도 많은 비율의 가구가 재난적 의료비에 시달려야 하는 나라인데도 말이다.

바로 이런 정부의 존재가 재난이며 여기에 맞서는 노동자들의 투쟁에 희망이 있는 이유이다.

우리는 공공의료를 지키며 노동자와 환자 모두 안전한 병원을 만들기 위해 투쟁에 나선 노동자들을 적극 지지한다. 이 투쟁이 반드시 승리하길 바라며, 우리는 그 길에 함께할 것이다.

2023년 10월 11일

건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회, 건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회)

3월 7일 교육부는 “학생 복귀 및 의대 교육 정상화”에 대해 발표했다. 정부는 의학교육계(의과대학 선진화를 위한 총장협의회, 한국의과대학-의학전문대학원협회)의 건의를 수용해 “3월 말까지 학생들의 전원 복귀를 전제로, 2026학년도 모집 인원에 대해서는 의총협에 따른 총장의 자율적 의사를 존중한다”고 했다. 사실상 내년부터는 의대 증원을 없던 일로 한다는 것이다. 그러나 이미 지난해부터 정부가 이런 의사를 내비쳐 온 것을 고려하면, 의학계의 건의를 존중한다는 겉치레는 정부의 백기 항복을 가리려는 얄팍한 술수에 불과하다.

의사 수가 절대적으로 부족한 데다 시장주의가 지배하다 보니 의사가 부족한 가운데서도 소위 돈되는 ‘피안성정’으로 몰려, 소아청소년과, 외과, 산부인과 같은 소위 ‘필수의료’ 공백이 발생했다.

윤석열 정부는 지난 총선 전 갑자기 의대 정원 2000명 증원을 발표하며 지역-필수 의료를 확충하겠다고 했다. 그러나 이내 정부의 속내가 지역-필수 의료 확충이 아니라, 바이오헬스와 같은 의료 산업에 필요한 의사 인력 공급이 주된 목적임을 윤석열 자신이 실토했다. 사실 정원 확대 발표에는 늘어난 의사가 지역-필수 의료 공백을 메우도록 하는 아무런 장치도 수반되지 않았다. 문재인 정부에서처럼 정원 확대에 반발해 전공의들이 집단행동할 것이 자명했음에도 아무런 대책도 없었다. 전공의들이 파업에 돌입하면서 병원을 이용할 수 없는 환자들이 늘어났고, 지난해 2월~7월 기간에 3천 명이 넘는 초과 사망자가 발생했다. 이는 전적으로 윤석열 정부의 책임이다. 그러나 아무도 책임을 지지 않고 있다.

바닥을 기는 지지율에 시달리던 윤석열은 위기 상황을 타개하려고 친위 쿠데타를 감행했다가 시민들의 저항으로 실패해 헌재 심판을 기다리고 있다. 내년부터 정원 확대를 없던 일로 되돌리면 백기 항복하면서 이 정부의 가짜 의료 개혁의 실체도 다시 한 번 드러났다. 정부는 이번에도 의대생들을 겁박했지만 지금까지 통하지 않았던 게 통할 리 없다. 더구나 정부가 무너져가는 상황에서 말이다. 파업 전공의를 처단하겠다는 윤석열의 계엄 포고령을 눈으로 본 이들이 쉽게 물러 나겠는가.

의대생들은 정부의 제안을 단칼에 거부했다. 오히려 윤석열의 ‘필수의료패키지’를 폐기하라고 더욱 공세를 취하고 있다. 항복하면서도 오만한 적에게 너그러울 승자는 없다.

그러나 우리가 의대생들의 복귀 거부를 지지할 수는 없다. 이들은 노동자들도 아니거니와 수업 거부의 명분도 잘못된 것이다.

정부가 또다시 이러지도 저러지도 못하고 의대생들에게 다시 항복할 가능성도 있다. 이는 코로나를 경험하면서도 의료 시장화에 박차를 가한 정부의 자가당착이다. 지금의 민간 중심 시장주의 의료 체계에서는 답이 없다. 국공립, 사립을 가리지 않고 의대 교육에 수천 억을 지원하는 시장주의적 해법으로 지역-필수 의료 공백이 해결된다는 보장은 없다. 이 정부의 의대 증원 확대가 그랬던 것처럼 말이다.

당장은 아니더라도 우리의 다음 세대라도 시장주의 의료의 피해를 입지 않으려면 지금이라도 시장주의 의료 체계 타파를 시작해야 한다. 공공의료 중심으로 과감한 전환을 시작해 건강보험료로만 모든 치료가 가능한 공공의료 중심 무상의료 체계로 나아가야 한다.

의사 증원도 이뤄져야 한다. 그러나 지역의사제와 공공의대 설립 등을 통해 국가가 책임지고 공공의료, 지역의료에 투신할 의사들을 양성하는 방식이어야 한다.

이를 위해 윤석열을 신속히 파면시키는 것이 절대적인 당면 과제다. 서울중앙지법의 윤석열 구속 취소 결정은 법적으로도 상식적으로도 도를 넘은 것이다. 구속 취소를 결정해 놓고 결정문을 억지로 꿰맞춘 것에 불과하다. 당장 구속 취소를 무효화시켜야 한다. 그리고 쿠데타 범죄자 윤석열을 파면하고 법정 최고형에 처해야 한다.

이와 함께 문제투성이인 의료 체계를 전면 전환하기 위한 발걸음을 내디뎌야 한다. 우리는 이를 위한 투쟁을 멈추지 않을 것이다.

2025년 3월 10일

의료민영화저지와무상의료실현을위한운동본부

가난한이들의건강권확보를위한연대회의, 건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 건강세상네트워크, 대전시립병원설립운동본부, 한국의료복지사회적협동조합연합회, 건강보험하나로시민회의, 전국민주노동조합총연맹, 한국노동조합총연맹, 전국보건의료산업노동조합, 전국공공운수사회서비스노조, 공공운수노조의료연대본부, 국민건강보험노동조합, 전국의료산업노동조합연맹, 전국농민회총연맹, 한국농업경영인중앙연합회, 전국여성농민회총연합, 전국여성연대, 빈민해방실천연대(민노련, 전철연), 전국빈민연합(전노련, 빈철련), 노점노동연대, 참여연대, 천주교빈민사목위원회, 참교육을위한전국학부모회, 평등교육실현을위한전국학부모회, 사회진보연대, 장애인배움터너른마당, 일산병원노동조합, 학교급식전국네트워크, 약사의미래를준비하는모임, 행동하는의사회, 건강보험심사평가원노동조합, 전국정보경제서비스노동조합연맹, 건강정책참여연구소, 민중과 함께하는 한의계 진료모임 길벗, 전국보건교사노동조합

인공지능에 영향 받는 사람의 안전과 인권을 보호하고 구제할 수 있어야

국민의힘 발의안은‘자율규제’로 인공지능 위험을 방치하고 국제 규범에 미치지 못해

22대 국회가 개원하자마자 인공지능법안 발의가 계속 이어지고 있다. 특히 국민의힘 정점식 의원이 대표 발의한 「인공지능 발전과 신뢰 기반 조성 등에 관한 법률안」(의안번호: 2200543, 이하 국민의힘 발의안)은 국민의힘 소속 108명 국회의원 전원이 공동 발의하였다. 우리 시민사회는 인공지능의 위험에 영향을 받는 사람의 안전과 인권을 보호하는 인공지능법의 제정을 꾸준히 요구해 왔다. 그러나 최근 잇따라 발의된 인공지능법안들의 경우, 인공지능 산업 진흥을 우선시하며 인공지능의 위험을 방지하거나 완화하는 규정에 소홀하다는 점에서 매우 우려스럽다.

21대 국회는 과학기술정보방송통신위원회 법안심사소위원회에서 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안」을 논의한 바 있고 현 정부에서 그 입법을 강력히 추진하였다. 그러나 해당 법안은 인공지능 산업에 대하여 실효성 없는 ‘자율규제’로 인공지능 위험을 방치하였다는 점에서 여러 비판을 받았다. 국회와 정부가 우리 사회 전체와 사람들에게 중대한 영향을 미칠 인공지능법에 대해 다양한 의견을 수렴하기는커녕 그 내용조차 공개하지 않은 채 불투명하게 논의해 왔다는 점에서 절차적인 문제도 지적받았다.

안타깝게도 국민의힘 발의안은 물론 현재 발의된 인공지능법안들의 경우, 21대 국회가 밀실 속에서 논의했던 내용을 답습하고 있으며, 이로 인해 시민사회는 물론 국가인권위원회가 지적하였던 문제점 대다수를 개선하지 않았다. 특히 이들 법안은 범용 인공지능을 비롯하여 인공지능의 위험을 사회적으로 통제하기 위한 강력한 의무적 조치를 요구하여 온 최근의 국제규범과 크게 어긋나 있다.

세계 최초의 인공지능법으로 2026년 시행 예정인 유럽연합 AI ACT의 경우, 수용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험 등 인공지능의 위험을 체계적으로 나누고 위험에 비례한 의무를 부과하였으며, 피해 구제를 위한 국가 거버넌스 체계를 수립하였다. 미국의 경우 바이든 대통령이 2023.10.30. AI 행정명령(14110)을 발표한 이래로, 연방정부 조달 AI와 강력한 범용 AI 시스템(dual-use foundation model)을 중심으로 인공지능의 안전에 대한 의무 표준을 마련해 가고 있다. 미국 의회의 정치적 여건상 행정명령이라는 제한된 형식을 빌기는 하였으나, 바이든 대통령은 7개 인공지능 기업과의 자발적 약속(voluntary commitments)에서 구속력 있는 의무의 개발 및 집행을 위하여 초당적 입법을 추진하겠다고 밝힌 바 있다. 유럽연합과 미국의 인공지능 규범은 모두 위험 기반 접근법을 취하였으며, 역내 시장에 대한 영향을 넘어 국제적인 표준을 형성해 가고 있다는 점에서 주목받는다. 영국의 경우 독자적인 인공지능법을 추진하기보다 반독점, 개인정보, 금융, 방송 통신 등 기존 규제기관이 소관별로 인공지능에 대한 규제를 추진해 왔다. 다만 영국 역시 최근 파운데이션 모델 등 범용 인공지능에 대한 규제를 모색하면서 ‘인공지능 규제기관(AI Authority)’의 신설도 검토하는 것으로 알려졌다.

산업계는 토종 AI 기업이 있는 우리 나라의 경우 강한 규제를 하면 산업 발전을 저해할 것이라고 주장한다. 그러나 우리 단체들은 무조건 강한 규제로 산업 발전을 저해해야 한다고 주장하는 것이 아니다. 산업 진흥과 더불어 인공지능의 위험성으로부터 안전과 인권을 실효적으로 보장할 수 있는 방안도 함께 마련해야 한다는 것이다. 따라서 인공지능의 위험성을 통제하고 사후에 적절한 책임을 지울 수 있는 정책이 무엇인지도 반드시 함께 논의되어야 한다. 산업 발전을 명분으로 규제 완화나 유예를 주장하는 것은 안전과 인권에 미치는 위험을 방치하자는 주장이나 다를 바 없다. 그런 의미에서 현재 소속 국회의원 전원이 공동 발의한 국민의힘 발의안은 인공지능의 위험성에 대하여 매우 안이하게 인식하고 있으며, 이는 책임있는 정부 여당의 자세라고 할 수 없다.

우리는 인공지능법이 인공지능의 위험으로 영향을 받는 사람의 안전과 인권을 실효적으로 보호하고 구제하기 위해서 쟁점별로 다음 사항을 주요하게 포함할 것을 제안한다. 더불어 국민의힘 발의안에서 각 쟁점을 비판적으로 검토한다.

1. 안전과 인권 구제

인공지능법은 인공지능으로 인하여 안전과 인권을 침해하는 사고가 발생하였을 경우, 국가가 해당 제공자 기업의 책임에 대하여 실효적으로 조사하고 피해를 입은 사람을 구제할 수 있도록 해야 한다. 이를 위하여 국가의 인공지능 감독기관이 피해자의 진정을 접수 및 조치하고, 고위험 및 공공기관 인공지능의 의사 결정으로 영향을 받는 사람이 설명받을 권리를 보장해야 한다.

2020.3. 유엔 사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 법률체계와 절차 방법을 마련하고, 감독 체제를 수립하며, 인공지능의 피해에 대한 구제 수단을 구비할 것을 권고한 바 있다. 우리 나라 국가인권위원회도 인공지능 개발·활용 과정에서 이용자와 정보 주체가 보장받아야 할 권리를 명시하고 피해 발생에 대한 구제 절차를 마련할 것을 요구하였다.

유럽연합 AI ACT의 경우, ‘구제’(제4절) 절을 별도로 두고, 이 법 위반 사항에 대하여 시장 감독기관에 진정하여 처리하도록 하고(제85조), 고위험 인공지능의 의사 결정으로 영향을 받은 사람이 설명을 받을 권리(제86조) 등을 보장받도록 규정하였다.

미국 AI 행정명령에 따라 마련된 OMB 규칙의 경우, 연방정부 조달 AI에 대하여 인적 검토와 구제 절차를 보장하였다. 영향을 받은 개인이 자신에게 미친 인공지능의 부정적인 영향에 대하여 항고하거나 이의를 제기할 수 있고, 가능한 한 거부(opt-out)권도 행사할 수 있도록 하였다.

국민의힘 발의안의 경우, 인공지능의 위험으로 영향을 받는 사람이나 피해를 입은 사람을 구제하기 위한 아무런 규정을 두지 않았다. 또한, 인공지능의 개발, 유통, 활용 등에 관여한 이해관계자별로 적절한 책임을 부과해야 함에도 불구하고, 이 법안은 영리를 목적으로 한 인공지능 제공자와 활용자를 모두 ‘인공지능 사업자’로 규정하는가 하면, 인공지능 서비스를 자신의 사업을 목적으로 활용하는 자와 최종 이용자(소비자)를 구분하지 않고 모두 ‘이용자’로 구분하는 등, 인공지능으로 인한 책임을 적절하게 부여하는 기본적인 체계조차 갖추고 있지 않다.

2. 고위험 규제

인공지능법은 인공지능의 고위험 영역을 안전에 미치는 위험과 인권에 미치는 위험별로 체계적으로 규정하여야 하며, 출입국 관리, 경찰 수사, 재판, 선거 등 주요 공공 영역의 인공지능과, 산업 안전, 고용 관계, 학교 교육, 신용 평가 영역의 인공지능이 명시적으로 포함되어야 한다. 개인을 식별하는 생체 인식 일반은 물론 민감 정보를 추론하는 생체 인식 분류, 감정 인식, 자연인 프로파일링 등 최근 인권에 중대한 영향을 미치고 있는 인공지능도 고위험 영역에 포함하여 규제하여야 한다.

고위험 영역 인공지능을 시장에 출시하는 제공자는 물론, 이를 업무용으로 도입하는 활용자 모두 사전에 인공지능의 위험을 방지하거나 완화하는 조치를 취하도록 강력한 의무를 부과하여야 한다. 이러한 고위험 영역의 의무는 사후에 안전과 인권을 침해하는 사고가 발생할 경우 그 책임 문제에 대하여 조사하고 구제하는 조치를 뒷받침할 수 있어야 한다. 공공기관에 도입되는 인공지능의 경우 고위험 영역에 준하는 위험 방지 및 완화 의무가 부과되는 것이 바람직하다.

구체적으로 고위험 영역 인공지능 제공자의 경우, 위험 관리, 데이터 셋 관리, 기술문서와 로그기록 작성, 정보를 제공하는 투명성, 사람의 관리 감독, 견고성, 정확성, 사이버 보안을 보장하도록 하고, 시장 출시 전에 적합성 평가와 인증 절차를 이행하여야 한다. 시장 출시 후에도 제대로 작동하고 있는지 모니터링하고, 중대한 문제가 발생할 경우 당국에 신고해야 한다. 고위험 영역 및 공공기관 활용자에 대해서는 인권 영향평가를 의무화하고 그 주요 사항을 공공적으로 등록하여 일반에 공개하도록 해야 한다.

유럽연합 AI ACT는 물론 미국 OMB 규칙의 경우에도, 고위험을 안전과 인권 영역별로 체계적으로 구분하여 규정하였다. 유럽연합과 미국 모두 고위험 영역 인공지능에 대하여 영향평가를 사전에 실시하고 식별되는 위험을 방지하거나 완화하는 조치를 의무화하였다. 일정 수준의 위험 완화 수준에 도달하지 못하거나 도입 전 엄격한 테스트를 통과하지 못하는 고위험 영역 인공지능은, 유럽의 경우 시장에 출시되지 못하고 미국의 경우 연방정부에 조달되지 못한다. 또한 고위험 영역 인공지능의 개발 과정에 대한 문서를 작성·보관하고, 데이터 평가 결과 드러난 편향에 대하여 조치하며, 사람이 관리·감독하도록 하는 것 역시 공통적인 의무로 규정되어 있다.

국가인권위원회는 고위험 영역 인공지능의 경우, 21대의 과방위 법안보다 범위를 확대하여 재정의하고, 알고리즘의 투명성과 설명 가능성, 인권 침해·차별 예방 조치 여부 등을 사전에 엄격히 점검할 것을 권고하였다. 더불어 인권 영향평가 제도를 도입하여 인공지능 개발·출시 전 인권 영향평가를 실시하고, 출시 후 기능 수정 및 활용 범위 변경 시 재평가를 하도록 요구하였다.

국민의힘 발의안의 경우, 고위험 영역의 정의 면에서 안전과 인권에 미치는 위험이 체계적으로 규정되어 있지 않고, 출입국 관리, 경찰 수사 일반, 재판, 선거 등 주요 공공 영역은 물론 산업 안전, 일반 고용 관계, 학교 교육, 신용평가 등이 누락되어 있다. 특히 인권에 미치는 고위험 영역의 경우 ‘채용, 대출 심사 등’으로 아주 제한적인 예시만을 들거나 ‘중대한 영향을 미치는’ 경우로 한정하였고, 대다수는 대통령령으로 위임하는 등 그 대상이 매우 협소하다.

고위험 영역 인공지능 제공자에게는 이것이 고위험이라는 고지 의무만이 부과되어 있다. 또한 위험 관리 방안, 기술문서 작성·보관, 인공지능 결과물 설명, 이용자 보호, 사람의 관리·감독 등의 일부 조치조차 제공자가 자율적인 ‘방안’을 마련하는 책무에 그쳐 있고 책무 위반에 대한 처벌 규정을 두지 않아 아무런 실효성을 갖추지 못했다.

더불어 인공지능 제품이나 서비스를 개발하거나 이를 시장에 제공하는 사업자를 넘어, 이를 제공받아 업무에 활용하는 인공지능 활용자에 대해서는 명시적인 의무나 책무를 규정하지 않았다. 예를 들어 금융기관이 대출심사 AI를 공급받아 금융 소비자를 대상으로 활용하거나 의료기관이 의료 진단 AI를 공급받아 환자를 대상으로 활용할 때 이들 기관의 의무와 책임이 규정되어 있지 않은 것이다. 더불어 제공자와 활용자 모두 위험 평가, 데이터 평가, 로그기록 보관, 사전 적합성 평가 또는 인권 영향평가, 이용자 또는 영향을 받는 사람에 대한 설명, 출시 후 모니터링, 중대한 사고 보고 등 인공지능의 위험을 사전에 평가하고 완화하며, 도입 이후 작동을 모니터링하기 위한 조치 의무를 지고 있지 않았다.

3. 범용 인공지능 규제

인공지능법은 범용 인공지능을 정의하고, 그 위험을 예방할 수 있는 조치를 의무화해야 한다. 특히 위험이 큰 범용 인공지능에 대해서는 적대적 테스트와 국가적 관리를 의무화하여야 한다.

‘범용 인공지능’(General Purpose AI, GPAI) 모델이란, 대규모 자기 지도학습 (self-supervision)을 사용하여 대량의 데이터로 학습된 경우를 비롯하여 상당한 일반성을 나타내며, 모델이 시장에 출시되는 방식에 관계없이 광범위한 고유 작업을 능숙하게 수행할 수 있고, 다양한 다운스트림 시스템 또는 애플리케이션에 통합될 수 있는 AI 모델을 의미한다. 챗GPT의 출시 이후 생성형 인공지능 문제를 넘어 범용 인공지능의 사회적 통제 문제에 대한 세계적 우려가 커져 왔다.

이에 유럽연합의 경우 범용 인공지능 일반에 대하여 기술문서 작성·보관, 정보를 제공하는 투명성, 당국에 대한 협력 의무, 훈련 콘텐츠의 요약본 공개, 저작권법 준수 등을 의무화하였다. 범용 인공지능 중 부동소수점 연산 10^25를 초과하는 등 일정 수준 이상으로 시스템적 위험이 높은 경우 적대적 테스트 등을 의무화하고 사고에 대한 국가 보고 및 사이버 보안을 의무화하였다.

미국 AI 행정명령의 경우에도 범용 인공지능 등 강력한 인공지능 시스템에 대하여 안전 평가 결과와 중요 정보를 정부와 공유하도록 의무화하였다.

국민의힘 발의안의 경우, 범용 인공지능 혹은 파운데이션 모델에 대한 규정이 없다. ‘생성형 인공지능의 안전 확보’ 의무를 규정하였으나 위반에 대하여 아무런 처벌을 하지 않아 실효성이 있다고 보기 어렵다.

4. 금지와 처벌

인공지능법은 용인할 수 없는 인공지능을 명시적으로 금지하여야 한다. 어떤 인공지능을 금지할지에 대하여 우리 사회 전체적으로 합의하여 규정을 마련해야 한다. 금지나 고위험 영역 인공지능 등에 대한 의무를 미이행하는 인공지능 제공자, 활용자에 대해서는 실효적으로 처벌하는 규정을 두어야 한다.

유럽연합 AI ACT의 경우, 용인할 수 없는 인공지능을 금지하고 이를 위반하는 경우 전 세계 연간 매출액의 최대 7%의 과징금을 부과한다. 이때 금지되는 인공지능이란, △잠재의식 기술이나 조작, 기만적인 AI 시스템, △나이, 장애 또는 사회적·경제적 상황으로 인한 취약점을 악용하는 AI 시스템, △인종, 정치적 의견, 노동조합 가입 여부, 종교적 신념, 성생활·성적 지향을 추론하는 생체인식 분류 시스템, △사회적 행동·개인적 특성을 기반으로 개인·그룹을 평가하거나 분류하여 관련 없는 상황에서 해롭거나 정당하지 않은 대우를 초래하는 AI 시스템, △법 집행을 위한 공공장소 ‘실시간’ 원격 생체인식, △프로파일링·성격 특성만을 기반으로 개인의 범죄 위험을 평가하는 AI 시스템 △인터넷이나 CCTV에서 광범위한 스크랩으로 얼굴인식 데이터베이스를 생성하는 AI 시스템, △직장이나 교육기관에서 감정을 추론하는 AI 시스템이 해당한다. 한편, 고위험 인공지능 시스템에 대한 의무를 준수하지 않는 경우에는 전 세계 연간 매출액의 최대 3%의 과징금이 부과된다.

미국의 경우 법률이 아닌 AI 행정명령에서 명시적인 금지나 처벌 규정을 두고 있지는 않지만 연방정부 AI가 차별 금지 법령에서 금지하는 불법적인 차별이나 유해한 편견을 초래하는 경우 해당 정보의 사용을 중단해야 한다.

국민의힘 발의안의 경우, 용인할 수 없는 인공지능의 위험에 대해서도 아무런 금지를 규정하지 않았다. 고위험 영역 인공지능에 대해서도 의무를 이행하지 않는 사업자를 처벌하는 규정을 두지 않아 고위험 규제의 실효성이 전혀 없다. 유일한 처벌 규정은 국가인공지능위원회 위원의 직무상 비밀 위반에 대한 것이다.

5. AI 감독 국가 거버넌스

인공지능법은 이 법을 집행하고 그 준수를 감독하며 피해를 구제하는 독립 국가 감독기관을 설립하여야 한다. 이 AI 국가 감독기관은 산업 육성과 구분되는 규제를 독립적으로 소관하여야 한다.

유럽연합 AI ACT의 경우 국내에서 기존에 산업 안전, 장난감, 승강기, 의료기기, 항공기, 선박, 철도, 자동차 등 부문별로 안전을 감독해 온 복수의 시장 감독기관(market surveillance authority)이 해당 분야 고위험의 시장 규제를 독립적으로 계속하여 담당한다. 다만 이 법을 고유하게 집행하는 국가 관할 당국(national competent authority)은 신설되거나 기존의 시장 감독기관 중 지정하여 독립적인 권한 행사를 보장하도록 하였다.

국가인권위원회는 인공지능 감독 및 규제에 관한 사항을 독립적인 기관이 담당하여야 한다고 요구하였다. 산업 진흥과 규제 업무를 하나의 중앙행정기관에서 모두 담당할 경우에 규제가 실효적으로 이루어질 수 있을지 의문이 제기되기 때문이다. 기관이 결정하거나 지원한 행위에 대하여 동일한 기관이 관련 법령 및 기준의 준수 여부, 권리 침해 여부를 판단하게 될 경우 자가당착의 모순이 발생할 수 있고, 결국 규제의 실효성을 담보하기 어려워지는 문제점이 있다.

국민의힘 발의안의 경우, 이 법의 소관 부처인 과학기술정보통신부가 이 법의 주요한 집행을 대부분 감독하며, 심의·의결 기구로서 대통령 소속으로 ‘국가인공지능위원회’를 두도록 하였다. 국가인공지능위원회는 정부 위원, 민간 위원, 대통령 비서실 과학기술 수석비서관으로 구성되며, 위원장은 대통령이 맡고 간사는 대통령실이 맡는다. 국가인공지능위원회의 활동은 ‘독립적’이어야 한다고 규정되어 있으나 대통령과 대통령실이 소관하는 위원회가 어떻게 독립적일 수 있는지 의문이다. 과학기술정보통신부 역시 독립적인 감독기관이라고 보기에 무리가 있으며, 특히 국가인권위원회가 지적한 대로 과학기술정보통신부가 인공지능 기술 및 산업 진흥·육성뿐 아니라 인공지능 규제에 관한 업무도 함께 담당하는 것은 규제의 실효성을 약화시킬 것이다.

게다가 발의안은 과학기술정보통신부와 국가인공지능위원회는 이 법뿐 아니라 타 법과 타 기관의 인공지능 관련 정책의 방향에 대하여 상위기관으로서 권한을 행사하도록 하였다. 과학기술정보통신부는 인공지능산업 진흥 및 인공지능 신뢰성 제고를 위하여 ‘법령의 정비 등 관련 제도’를 개선하는 업무를 담당하며(안 제19조), 중앙행정기관 또는 지방자치단체의 장이 인공지능 윤리에 관한 ‘법령, 기준, 지침, 가이드라인’ 등을 제정하거나 개정할 때에는 이에 대한 권고를 할 수 있고(안 제23조 제3항), 인공지능 이용과 관련한 ‘법령·제도의 정비’에 대한 시책 또한 소관한다(안 제24조 제2호). 국가인공지능위원회는 국가 기관 등의 장에게 ‘법령·제도의 개선’ 등을 수립하도록 권고할 수 있도록 하고, 해당 국가 기관 등의 장은 이를 수립하여 통보하여야 한다(안 제7조 제9호). 결국 이 법 제정 이후 타 법 또는 타 기관에서 인공지능의 고위험을 고유하게 평가하는 제도를 도입하려 하거나 인공지능 규제 법령의 제·개정을 추진하고자 할 때, 과학기술정보통신부나 국가인공지능위원회에서 이를 제지할 위험이 있는 것이다.

인공지능 문제는 사회 여러 분야에 걸쳐 있고, 분야별 전문성이 상호 협력할 수 있는 거버넌스 체계가 마련되어야 한다. 과학기술정보통신부 단독으로는 자율 주행 자동차의 책임 문제나 경찰 AI의 인권 위험을 모두 포괄하는 전문성을 가지고 있지 않다. 카카오택시, 네이버쇼핑, 쿠팡 등 국민 소비생활에 큰 피해를 끼쳤던 플랫폼 기업의 알고리즘 조작 사건에 대해서는 공정거래위원회가 전문성을 발휘하였으며, AI챗봇 이루다의 개인정보 침해 문제에 대해서는 개인정보보호위원회가 가장 전문적이었다. 따라서 각 부처가 전문적인 기존의 소관을 인공지능 분야에도 적용하는 집행을 계속할 수 있을 것이다. 다만 인공지능법에 대한 고유한 집행은 경제 부처보다는 규제기관 중에서 한 곳을 지정하여 담당하도록 하거나 해외에서 논의되듯 새로운 국가 독립 감독기관을 신설하는 것을 고려해 봄직하다.

마지막으로 우리 시민사회는 22대 국회가 특정 부처, 특정 상임위원회, 산업계의 조급한 이해관계를 벗어나, 범 국회적이고 미래지향적인 논의를 통하여 인공지능의 위험을 실효적으로 통제할 수 있는 사회적 합의 도출에 나설 것을 요구한다. 이를 위해서는 인공지능 제공자, 활용자는 물론 영향을 받는 사람을 포함하는 각계의 다양한 의견을 충분히 수렴하는 절차를 마련해야 할 것이다. 방송통신 융합 문제가 우리 사회에 처음 등장하였던 17대 국회 당시 <방송통신융합특별위원회>를 만들어 범 상임위적으로 이 문제를 논의하고 신규 규제 기관인 방송통신위원회 설립 및 운용에 관한 법안을 공동으로 심의하고 합의에 도달하였던 사례를 참고해 볼 수 있을 것이다.

인공지능 위험을 방지하고 완화하는 기업의 책임성 보장 없이는 그에 대응하는 사회적 신뢰도 확보할 수 없을 것이고, 사회적 신뢰 없이는 건강한 인공지능 산업의 발전도 담보하기 어려울 것이다. 22대 국회가 인공지능의 위험으로 영향을 받는 사람의 안전과 인권을 실효적으로 보호하고 구제하는 인공지능법을 입법하여 인공지능의 발전에 대한 사회적 신뢰를 형성하고 국제 사회의 모범이 되기를 바란다. (끝)

2024. 7. 1.

건강권실현을위한보건의료단체연합, 광주인권지기활짝, 무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과대안, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동

어제(11일) 오세훈 시장의 서울시가 또다시 전국장애인차별철폐연대(전장연) 평화집회를 폭력적으로 진압하며 사람을 다치게 하고, 경찰의 폭력진압에 의한 부상을 제대로 치료받지도 못하게 하는 반인권행위를 저질렀다. 우리는 보건의료인으로서 이와 같은 반인권 폭력시정을 규탄하며, 어제 부당하게 연행된 전장연 이형숙 대표의 즉각 석방을 요구한다.

어제 아침 서울시는 전장연의 권리중심공공일자리 해고 철회 촉구 지하철 선전전을 강제 해산시키기 위해 전장연 이형숙 공동대표를 폭력적으로 연행했다. 그 과정에서 어깨 부상을 입은 이형숙 대표는 녹색병원 이송을 요청했으나 경찰의 거부로 의료적 처치가 지연되었다. 우여곡절 끝에 녹색병원 응급실에 입원했지만, 경찰은 충분히 필요한 처치를 다 받지도 못한 이형숙 대표를 병원에서 끌어내 강제연행을 감행했다. 집회시위의 권리는커녕 건강과 안전의 권리마저 저버려 시민의 인권을 바닥으로 추락하게 만들었다. 인권 참상이다.

연행 자체도 무리였지만, 그의 치료받을 권리조차 짓밟은 경찰의 행태는 심각한 인권 침해이다. ‘유엔 피구금자 처우에 관한 최저기준규칙(넬슨만델라규칙)’에 따르면, 모든 피구금자는 응급상황 발생 시 즉시 의료지원을 받을 권리가 있다. 또 미결수용자가 합리적 근거를 가지고 요구할 경우 자신의 의사를 만나 치료를 받도록 허용되어야 한다고 명시한다. 구금된 상황에서 적절한 처치를 받을 수 없고 악화될 위험이 있는 경우에는 당연히 외부 의료시설에 갈 수 있도록 보장받아야 한다. 이형숙 대표를 병원에 가지 못하게 막다가, 비판에 직면하자 마지못해 병원행을 허용했지만 곧 바로 입원환자조차 끌고 나와 연행한 것은 경찰의 반인권성을 극단적으로 보여준 사례로 남을 것이다.

전장연 활동가들이 아침 댓바람마다 출근길 선전전에 나서게 만든 원인 제공자는 다름아닌 오세훈 서울시장이다. 지난해 말, 서울시가 ‘서울형 권리중심공공일자리’ 관련 예산을 전액 삭감하면서 하루아침에 최중증장애인 400명이 해고노동자가 되었다. 최중증장애인권리중심일자리는 탈시설 최중증 장애인의 노동권을 보장하고, 사회 구성원의 한사람으로서 살아갈 권리를 보장하는 정책이었다. 특히 장애인 당사들이 시설 밖 사회에서 문화예술, 전시, 행사를 통해서 장애인 권리를 표현하고 알리는 일자리는 우리 사회에서 너무나 필요한 것이었다. 그런데 오세훈은 얼마 되지도 않는 예산을 늘리긴커녕 전액삭감해서 이들을 내몰았다. 단순 예산 긴축을 넘어 장애인의 입을 막고 권리를 전면 부정하기 위한 것이다. 해고투 노동자들의 항의와 그에 연대하는 전장연의 시위는 전적으로 정당하다.

서울시 경찰은 이형숙 대표를 즉각 석방하고, 치료받을 권리를 보장하라. 서울시는 폭력으로 투쟁을 억압하고 기본적 의료의 권리도 침해하는 행태를 중단하고 사과하라. 장애인 이동권을 보장하고, 권리중심일자리 제도를 복구하여 장애인의 존엄한 시민적 권리를 보장하라.

2024년 3월 12일

건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회, 건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회)