집회 장소를 둘러싼 실태와 집회의 권리 실현에 있어서 장소 문제를 다각적으로 분석하고 대안 모색
취지와 목적
헌법 제21조 제1항과 제2항 집회의 자유는 원칙적으로 집회를 보장·허용하고 있습니다. 또한 집회의 자유는 집회의 시간, 장소, 방법과 목적을 스스로 결정할 권리를 보장합니다. 그러나 1962년 집시법이 제정될 때부터 절대적 집회·시위 금지구역을 정한 조항은 사라지지 않았습니다. 헌법재판소가 외교기관 주변 집회 금지에 대한 위헌결정(2003)을 선고한 이후 국회의사당 주변, 법원 주변, 국무총리 공관 주변(2018), 대통령 관저 주변(2022), 국회의장 공관(2023) 주변 집회 금지에 대하여 차례차례 헌법불합치 결정을 선고했습니다. 헌법재판소의 결정 이후 집시법 11조는 각 조항별로 개정되었고, 앞으로 개정을 예정하고 있습니다.
헌재 결정 이후 예외적으로 집회를 허용하는 방식으로 개정된 11조는 헌법이 보장한 기본권의 원칙을 충분히 반영하는 것일까요? 개정된 집시법 11조는 예외적 허용이 가능한 조건을 만듦으로써 마치 과거 절대적 금지보다는 집회의 권리를 보장하는 것처럼 착시효과를 냅니다. 하지만 예외적 허용은 결국 집회에 대한 ‘허가’와 다름없습니다. 실제로 경찰은 집회 신고 단계에서 인원수 등으로 많은 간섭을 하고 있습니다.
집시법 11조가 주요 국가기관의 안녕을 이유로 집회를 통제하고 있다면 교통소통을 이유로 광범위한 공간적 제약을 만드는 조항이 주요 도시의 주요 도로에서의 집회를 금지 제한하는 12조입니다. 실제로 지난해 서울시 집회금지 사유 중 가장 많은 것이 집시법 12조였습니다. 특히 서울시 경찰서 중 집회금지를 가장 많이 한 용산경찰서의 경우(173건) 집시법 11조와 12조로 금지한 경우가 80% 가까이 되었습니다.
집회장소를 통제하는 것은 집시법만이 아닙니다. 서울시가 광화문광장을 재개장하면서 집회를 금지하는 것과 같이 지자체의 조례나 규칙, 또는 화단 설치 등 물리적 수단을 통해 공공청사 인근이나 광장에서 집회를 금지하는 사례들이 전국에서 발생하고 있습니다. 이러한 지자체의 장소통제 행위는 국가기관 인근에서의 집회를 금지하는 집시법 제11조와 같이 시민의 목소리를 들어야 할 지자체가 집회를 자의적으로 금지/제한하는 것입니다.
집회의 자유의 핵심적 대상은 국가권력입니다. 그래서 국가권력의 소재이자 상징인 장소에서, 또는 많은 사람들이 모일 수 있는 광장과 거리에서 집회를 합니다. 이런 장소를 규제/통제하는 것은 결국 집회를 차단하는 효과를 만듭니다. 집회의 권리가 숨쉴 수 있는 공간이 사라져가고 있는 현실을 분석하고 이를 개선하기 위한 입법적 대안 등을 모색해보고자 합니다.
참사 100일을 하루 앞둔 지난 2월 4일, 유가족들과 시민들의 노력으로 어렵사리 서울시청광장 한켠에 10.29 이태원참사 희생자들의 분향소가 마련되었다. 참사로 희생된 159명의 명복을 빌며 유가족께 다시한번 조의를 표한다. 그런데 이번 이태원 참사의 책임자 중 하나인 서울시는 유가족과 시민들이 제대로 된 진상규명과 책임자처벌을 염원하며 마련한 분향소에 불법이라는 딱지를 붙이며 철거를 예고했다. 뿐만 아니라 경찰은 분향소에 방문하려는 시민의 소지품을 시위물품이라며 반입을 가로막고 있다. 이는 서울시의 요청에 따른 것이라고 알려지고 있다. 서울시의 위법한 공권력 행사일뿐 아니라, 참사의 핵심 책임자 중 하나로서 최소한의 책임감도 없는 후안무치한 처사가 아닐 수 없다. 오세훈 서울시장은 즉각 분향소 철거시도를 중단하고 유가족과 시민들의 참사 희생자 추모 공간 조성에 협력하라.
서울시청광장은 누구에게나 열려있어야 하는 공적 공간이다. 또한 집회의 자유는 헌법이 보장하는 기본권이다. 헌법재판소는 지난 2011. 6.30. 서울광장 차벽 봉쇄 위헌소송의 결정문에서 “불법·폭력 집회나 시위가 개최될 가능성이 있다고 해도 이를 방지하기 위한 조치는 개별적·구체적인 상황에 따라 필요한 최소한의 범위에서 행해져야한다”고 명시하면서 당시 집회현장으로 진입하려는 시민을 차벽으로 제지한 경찰에 대해 위법하고 위헌적 공권력 행사임을 확인한 바 있다. 또한 2016년 박근혜 전 대통령의 하야를 요구하기 위한 1인시위를 청와대 앞에서 진행하려던 시민을 제지한 경찰에 대해 법원은 “1인 시위는 다수가 아닌 한 명이 국가기관인 대통령에 대한 특정한 의사를 공개적으로 표시하고 이를 전파하려는 것으로서 헌법상 보장된 표현의 자유를 실현하는 방법이므로 충분히 보장될 필요가 있다”며 위법한 직무집행에 대해 국가 손해배상 책임을 인정하였다. 서울시가 불법이라며 분향소를 철거하겠다며 명시한 서울광장조례 역시 집회의 자유, 이동의 자유 및 표현의 자유라는 헌법상 기본권 행사를 제지할 근거가 될 수 없다.
이번 서울광장 시민분향소로 이동하려는 시민에 대한 경찰의 집회물품 압수 및 이동 제지 또한 헌법에서 보장하는 의사표현의 자유 및 전파의 자유를 침해하는 사전검열로 위법, 위헌적 공권력 행사임이 자명하다. 또한 표현 행위가 아직 시작되지도 않았고 공공질서에 대한 어떤 해악도 가져올 위험이 없는 상태에서 금지시킨 것으로, 이는 과잉금지원칙 및 ‘명백하고 현존하는 위험’ 원칙에 반한다. 경찰은 위법, 위헌적 공권력 행사에 대해 응분의 책임을 져야 할 것이며 이를 요청한 서울시 또한 책임을 피하기 어려울 것이다.
참사 100일을 맞이한 현재까지 제대로 된 애도와 추모의 공간이 필요하다는 요구는 묵살되었고, 유가족과 시민들이 납득할 만한 진상규명은 이루어지지 않았다. 서울시는 유가족들의 광화문광장 인근 세종로공원에 추모공간을 차리겠다는 요구를 거부하는 것을 넘어 철제 울타리와 차벽으로 추모 공간 설치를 원천봉쇄 했다. 서울시는 지하철 6호선 녹사평역 내 공간을 추모공간으로 제안했다고 한다. 역사 내 지하 4층은 더 많은 시민들이 찾아볼 수 있는 개방된 곳도 아닐뿐더러 어떠한 상징성도 찾아볼 수 없다. 서울시의 억지주장과 달리 10.29 이태원 참사를 가리고, 희생자를 지우고, 시민들의 기억과 추모조차 지하 깊숙히 고립시키려는 시도로밖에 볼 수 없다. 보다못한 유가족이 스스로, 시민들과 함께 시청광장에 분향소를 마련한 것이 서울시가 이토록 과잉 대응하고 공권력까지 동원할 일인지 묻고 싶다. 오세훈 서울시장이 지금 당장 해야 할 일은 철거 계고장을 보내는 것이 아니라 유가족뿐 아니라 시민 누구나 애도하고 추모할 수 있는 분향소를 마련하는 것이다. 아울러 책임회피와 정치적 안위에만 급급해하지 말고, 참사를 막기 위한 책임을 다하지 못한 데 대해 진심어린 사과를 해야 한다.
어제(1/25) 국가인권위원회는 얼굴인식 기술이 인권을 침해하지 않도록 입법으로 보호하고 인권영향평가를 실시할 것을 정부와 국회에 권고하였다. 특히 불특정 다수를 대상으로 공공장소에서 ‘실시간 원격 얼굴인식’을 사용하는 것은 기본권 침해 위험이 매우 크다고 지적하면서 원칙적 금지를 요구하였다. 인권침해적 얼굴인식 기술의 활용을 우려하고 대책을 요구해 온 우리 단체들은 국가인권위원회의 이번 권고를 환영한다.
개인의 얼굴을 자동으로 인식하는 얼굴인식 기술은 휴대전화 잠금해제, 출입 인증 등 다양한 분야에서 개인을 식별·분류하는 데 이용되고 있다. 그러나 얼굴을 비롯한 생체인식 기술은 한 개인의 신체에 각인되어 평생 변경하기 어려운 민감정보에 기반한다는 점에서 정보주체의 명확한 동의를 받는 등 신중하게 도입되어야 한다. 특히 공공장소에서 원격으로 얼굴이나 동작 등 생체정보를 인식하여 개인을 식별하고 추적하는 원격 생체인식의 경우, 당사자의 개인정보와 사생활의 비밀과 자유를 침해하고, 이동의 자유를 제한하며, 공공장소에서 집회 및 결사의 자유를 행사하는 것을 위축시킬 우려가 크다. 얼굴인식 기술이 원격으로 개인을 은밀하게 추적하는 데 사용된다면 장기간에 걸친 감시에 악용될 수 있다는 점에서 인권침해 위험이 매우 크다. 유엔 자유권규약위원회, 유엔인권이사회, 유엔인권최고대표, 유럽연합기본권청 등 국제인권기구는 공공장소 얼굴인식기술이 인권에 미치는 위험을 경고하여 왔으며, 충분한 보호 제도가 마련되기 전에는 사용을 중지할 것 또한 권고하여 왔다.
우리나라에서는 2020년에야 비로소 개인정보보호법령에서 얼굴인식정보 등 생체인식정보를 보호하기 시작하였으나 그조차도 공공기관에는 예외를 부여한 상태이다(개인정보보호법 시행령 제18조). 특히 공공장소 실시간 얼굴인식기술에 대해서는 입법적으로나 인권정책적으로나 통제장치가 전혀 마련되어 있지 않다. 이런 상황에서 일부 중앙행정기관과 지방자치단체가 무책임하게 공공장소 얼굴인식의 도입을 추진하여 인권침해 우려가 커졌다. 경기도 부천시는 과학기술정보통신부의 지원으로 시에서 운영하는 모든 CCTV에서 코로나19 확진자와 그 접촉자의 얼굴을 자동으로 인식하여 추적하는 프로그램을 개발하였다가 외신을 경악케 한 바 있다. 법무부는 공항에서 얼굴을 식별하여 개인을 추적하는 시스템을 개발하면서 2010년부터 국내에 출입국한 외국인 얼굴정보 1억 2천만 건과 2005년부터 출입국한 내국인 얼굴정보 5천만 건을 무단으로 사용하여 헌법소원이 제기되었다. 오해로 해명되기는 하였지만, 한때 대통령실청사 주변에도 얼굴인식이 도입된다고 알려져 논란이 일기도 하였다.
얼굴인식 기술을 비롯한 최근의 인공지능 신기술은 우리 사회에 다양하고 놀라운 기능을 선보여 왔다. 그러나 어떠한 혁신적인 신기술이라 하여도 그 인권침해 위험이 방치되어서는 안 될 것이다. 해외에서는 얼굴인식 기술이 특정 인종과 특정 성별에 차별적인 결과를 낳는다는 학계와 시민사회의 비판이 계속 있어 왔고, 장애 여부, 연령에 따른 변화로 정확도가 떨어질 위험도 지적된 바 있다. 미국에서는 섣부르게 얼굴인식 기술을 도입한 경찰이 무고한 사람을 체포하고 구금하는 사건과 소송이 잇따르고 있다. 이에 인공지능 기술의 편향성과 위험성에 대하여 경각심을 갖게 된 일부 국가 또는 지방자치단체들의 경우 인권영향평가를 비롯하여 인공지능에 대한 사전 영향평가제도를 도입하여 왔다. 특히 공공장소 얼굴인식을 고위험 인공지능으로 보고 이를 금지하거나 법원이 통제하도록 하는 등 제도적으로 통제하는 방안 또한 여러 지역에서 마련되고 있다.
국가인권위원회가 이미 지적한 바 있듯이, 얼굴인식 기술 등 인공지능 신기술은 데이터를 활용하고 알고리즘을 개발하는 모든 과정에서 인권에 미치는 영향이 크다. 그러나 안타깝게도 현재 우리 정부와 국회에는 신기술의 효용성을 강조하면서 개인정보보호법 등 기존의 보호 제도 완화를 요구하는 목소리만 높다. 신기술의 인권침해로부터 사람을 보호해야 할 의무와 책임을 지고 있는 국가는 이 기술의 인권침해 가능성에 대하여 진지하게 검토하거나 대책을 마련하고 있지 않다. 그런 의미에서 얼굴인식 기술의 도입·활용에서 인권을 보호하라는 국가인권위원회의 권고는 매우 시기적절하며 긴요한 요청이었다. 국회의장 및 국무총리는 국가인권위원회 권고를 즉각 수용하여 얼굴인식 기술의 사용을 제한하고 인권을 보호하는 입법을 추진하는 한편, 실시간 원격 얼굴인식 기술의 위험성을 방지하기 전까지 그 사용을 중지해야 마땅할 것이다.
대통령실이 오늘(2/3) 대통령집무실 용산 이전에 역술인으로 알려진 ‘천공’이 개입했다는 의혹을 보도한 언론사와 이 내용이 실린 저서의 저자인 부승찬 전 국방부 대변인 등을 허위사실에 의한 명예훼손 혐의로 고발했다고 한다. 해당 보도가 사실이 아니라면 대통령 대변인실이 적극 해명하고 해당 언론사 등에 정정보도 요청하면 될 일을, 대통령실이 고발이라는 형사사법절차를 앞세우는 행태는 의혹해소는커녕 그 어떤 의혹도 제기하면 ‘고발하고 괴롭힘을 당할 것이다’는 시그널을 주어 헌법상 중요한 기본권인 표현의 자유를 위축시키는 결과만을 초래할 것은 명확하다. 대통령실은 언론길들이기와 국민입막음을 위한 형사고발을 중단해야 한다.
대통령실이 나서 언론인을 직접 고발한 것은 이번이 처음으로 알려졌지만 의혹을 제기한 당사자를 고발한 사건은 이번이 처음이 아니다. 지난 12월에도 대통령 관저 이전 과정에 천공의 관여 의혹을 제기한 김종대 전 정의당 의원 등을 허위사실에 의한 명예훼손 혐의로 고발한 바 있고, 1월 30일에는 김건희 여사의 주가조작 연루 의혹을 제기한 더불어민주당 김의겸 대변인을 고발하였다. 민주주의 사회에서 언론의 사회적 역할은 국민이 알고 싶어하거나 알아야 할 공적 사안에 대한 적극적인 보도이다. 또한 국민은 누구나 대통령과 그 주변 인물의 공적 사안에 대해 의혹을 제기할 수 있고 있어야 한다. 그런데 윤석열 정부는 그동안 대통령 자신과 가족 및 측근에 대해 쏟아지는 각종 의혹에 대해 적극적 해명과 언론에 대한 정정보도 요청보다는 형사적 고소고발로 응수하고 있다. 이처럼 대통령실이 고소고발을 하고 형사사법절차가 개시되는 순간부터 의혹을 제기한 언론인, 국민은 심적 물적 부담을 느끼지 않을 수 없다. 고발 사건의 수사와 기소를 담당할 경찰과 검찰을 통할하는 행정부의 수반이자 국정 운영의 최고 책임자인 대통령과 그 가족, 그 측근 관련 의혹제기에 고소고발로 대응하는 것은 사실관계를 바로 잡기 위한 조치로 보기 어렵고, 실제 범죄성립의 여부와 상관없이 고소 고발이 가져다주는 위축효과를 얻기 위한 목적이라고밖에 볼 수 없다.
정부나 공직자들이 결과를 불문하고 고소나 소송을 제기하는 주된 목적은 당사자들을 위축시킴으로써 국민의 공적 발언을 스스로 검열하게 하고 비판여론을 위축시키기 위함이라는 지적은 이명박정부, 박근혜정부 및 문재인정부때도 있어 왔다. 그동안 법원은 일관되게 민주주의 사회에서 국가기관과 공무원이 그 직무를 제대로 수행하고 있는지는 늘 국민의 감시와 비판의 대상이라는 입장을 견지해 왔다. 따라서 공적 사안에 대한 의혹제기가 명예훼손죄로 처벌받아서는 안 된다. 더욱이 대통령은 국정운영의 최고 책임자이기 때문에 대통령의 공적 영역에 대한 감시와 비판 등 표현의 자유는 보다 폭넓게 보장되어야 할 것이다. 이번 정부는 더이상 언론길들이기와 국민입막음용으로 명예훼손 고발 등의 행위를 중단하기 바란다.
시민사회단체, 총 6개 분야(소비자, 보건의료, 공권력, 교육, 사회복지, 지역) AI 정책 들여다볼 계획 기술·산업 중심 AI 담론을 넘어 영향받는 사람이 만드는 인권 중심 AI로 워크숍 이후 보고서 발간 등 공론과 논의 이어간다
최근 생성형 인공지능 기술이 시민들의 일상에 빠르게 확산되며 자율주행차, 플랫폼 알고리즘, 신용 평가, 사회복지 수급, 국경감시, 예측치안, 질병진단 등 국민의 삶에 직접적인 영향을 미치는 ‘고위험(High-risk)’ 영역에서도 급속도로 도입되고 있습니다. 인공지능은 편의성과 효율성을 높이는 도구가 될 수 있지만, 실제 적용 과정에서 특정 집단에 불리한 결과를 초래하거나 기존의 차별과 불평등을 증폭시키는 사례들이 가시화되고 있습니다. 이는 인공지능 기술에 내재된 한계 때문으로, 학습하는 데이터 속에 이미 사회적 편견이 포함되어 있고 그것이 인공지능의 결정에 반영될 수 있기 때문입니다. 더 큰 문제는 이러한 피해 사례가 발생하더라도 인공지능의 불투명성으로 인해 원인을 파악하기 어렵다는 것입니다.
인공지능 시대에는 기술을 도입하는 기관(이용자)보다 그 결정으로 인해 권리에 직접 영향을 받는 ‘영향받는 사람들’의 관점이 매우 중요합니다. 상당수의 AI 기술은 영향받는 당사자에게 보이지 않는 방식으로 작동하지만 피해가 발생해도 인지하거나 문제를 제기하기 어려운 구조입니다. 더구나 현재 한국의 정책 환경에서 이들의 목소리는 기업이나 정부에 비해 과소대표되고 있으며, 올해 시행된 인공지능 기본법 역시 이들을 보호하기 위한 구체적인 구제 조치가 부족합니다. 즉 지금까지 국내 AI 정책은 개발자·업체·전문가 중심의 기술 발전 및 산업 육성 담론이 주를 이루어 왔다고 볼 수 있습니다.
이에 분야별 시민사회 활동가들이 결합해 인공지능 이슈에 보다 구체적인 대응 역량과 AI 권력에 대한 통합적인 시각을 키우고자 연속 워크숍을 개최합니다. 이번 연속 워크숍을 기점으로 기술 발전·산업 육성 중심의 담론에서 벗어나 영향받는 사람들의 권리를 옹호하는 시민사회 내부의 공론장을 마련하고자 합니다. 각 워크숍의 발표자료는 보고서로 출간되며, 이를 토대로 인권 중심의 AI 정책을 위한 공론과 논의를 이어갈 예정입니다.
♧행사 개요
워크숍은 온·오프라인으로 총 6개 분야에 걸쳐 순차 개최되며 발표자료는 보고서로 출간될 예정입니다
회차
분야
일시
주제
1차
소비자
6/23(화) 오후 2시 참여연대 2층
AI 시대, 소비자 권리 보호를 위한 과제
2차
보건의료
6/30(화) 오후 2시참여연대 2층
보건의료 분야 AI 도입의 현황과 과제
3차
공권력
7/14(화) 오후 3시민변 대회의실
공권력 AI의 현황과 대응: 경찰AI와 출입국 AI
4차
교육
7/15(수) 오후 2시
교육 분야 인공지능 도입에 따른 인권 영향 분석 및 제도적 대응
5차
사회복지
추후 공지
사회복지 분야 인공지능 도입 현황과 과제
6차
지역
추후 공지
국가 주도 AI 정책이 지역사회에 미치는 영향
워크숍 자세히 보기
1. AI 시대, 소비자 권리 보호를 위한 과제
상품 추천, 가격 책정, 신용평가, 콘텐츠 노출 등 소비생활 전반에 AI가 도입되면서 불투명한 알고리즘 결정, 차별적 서비스 제공, 허위정보 자동 생성, 개인정보 과잉 수집 등 새로운 소비자 피해가 나타나고 있습니다. 피해가 발생해도 사업자·플랫폼·AI 개발사 사이에서 책임이 분산되어 실질적인 구제를 받기 어렵습니다. 이번 워크숍은 소비자의 알 권리, 설명 요구권, 차별받지 않을 권리, 피해구제권을 어떻게 보장할 것인지 논의하고 현행 소비자 보호 법제와 AI 관련 제도의 개선 방향을 모색합니다.
영상 판독, 질병 예측, 신약 개발, 환자 관리 등 보건의료 전반에 AI 도입이 빠르게 확산되고 있습니다. 그러나 보건 의료 AI는 환자의 생명과 안전에 직접 영향을 미칠 뿐 아니라 개인정보 보호, 알고리즘 편향, 오류 시 책임 귀속 등 해결해야 할 쟁점이 많습니다. 기술 발전과 산업 육성에 초점이 맞춰지는 사이, 실제 영향을 받는 환자와 시민의 권리는 충분히 고려되지 못하고 있습니다. 이번 워크숍은 국내외 보건의료 AI 도입 현황과 문제 사례를 분석하고 안전성·인권·공공성을 보장하기 위한 제도적 개선 방향을 모색합니다.
경찰과 출입국 행정 분야에서 얼굴·동작 인식 등 생체인식 기술과 실시간 범죄 예측 기능을 결합한 AI 도입이 빠르게 추진되고 있습니다. 공권력 집행은 그 대상이 되는 개인의 권리에 중대한 영향을 미치는 분야로, AI 도입은 사회적 차별 심화, 개인정보 무단 활용, 알고리즘에 의한 낙인 등 심각한 인권 침해로 이어질 수 있습니다. EU AI법이 개인예측치안과 공공장소 실시간 생체인식을 금지하고 이주·난민 심사 등을 고위험 AI로 분류한 것과 달리, 한국의 인공지능 기본법은 금지 AI 규정이 없고 고위험 영역도 매우 협소하게 설정되어 있습니다. 이번 워크숍은 경찰 AI·출입국 AI의 도입 현황과 인권 위험을 분석하고 시민사회 차원의 대응 방향을 모색합니다.
일시: 2026년 7월 14일(화) 오후 3시
장소: 민주사회를위한변호사모임 대회의실 (온라인 병행)
주최: 공권력감시대응팀, 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 민주주의법학연구회, 외국인이주·노동운동협의회, 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동, 한국이주여성인권센터
생성형 AI와 AI 디지털 교과서 도입이 급격히 추진되면서 학생의 학습 이력, 행동 패턴 등 민감한 데이터가 수집·분석되고 있지만, 정작 학생과 학부모는 기술의 작동 방식과 위험성을 충분히 알지 못하는 정보 비대칭 문제가 심각합니다. AI 도입을 결정하는 주체는 교육 당국과 학교이지만 실제 영향을 받는 당사자는 교사와 학생입니다. 리터러시 교육도 기술 활용법에만 치중되어 있어 AI가 인권에 미치는 영향이나 개인정보 자기결정권에 대한 교육은 부족합니다. 이번 워크숍은 AI 도입이 청소년 인권에 미치는 영향을 분석하고 영향받는 사람의 관점에서 법제 개선 방향을 모색합니다.
일시: 2026년 7월 15일(수) 오후 2시
장소: 추후 공지
발제 : 진냥(연대하는교사잡것들)
토론 : 추후 공지
5. 사회복지 분야 인공지능 도입 현황과 과제
사회복지 수급 판정, 복지 사각지대 발굴 등 취약계층의 생존권과 직결된 영역에서 AI 도입이 빠르게 확산되고 있습니다. 자동화된 결정이 수급 탈락이나 서비스 제한으로 이어지는 사례, 장애 특성을 고려하지 않은 알고리즘 편향, 빈곤 가구에 대한 상시 감시와 낙인 효과 등 기본권 침해 문제가 가시화되고 있습니다. 이번 워크숍은 복지 AI의 도입 현황과 불이익 사례를 분석하고, 투명성·책임성 강화를 위한 제도적 개선 방향을 모색합니다.
일시: 추후 공지
장소: 추후 공지
발제 : 전국장애인차별철폐연대
6. 국가 주도 AI 정책이 지역사회에 미치는 영향
서울을 비롯한 수도권에서는 주거 환경과 재산 가치 하락 등을 이유로 반발하며 AI 데이터센터 설립 반대 운동이 벌어지는 반면, 비수도권 지역에서는 “지방소멸의 해결책”인 것처럼 여겨지며 데이터센터 유치를 적극적으로 구애하는 그림이 펼쳐지고 있습니다. 그러나 산업 유치에 대한 갈망과 별개로 실제 데이터센터의 설립이 지역 경제 활성화에 얼마나 도움이 되는지 명확하지 않습니다. 국가가 강력하게 추진하는 AI 정책은 지역에 커다란 영향을 미치지만, 법과 제도가 기술 발전과 산업 육성에 초점이 맞춰지며 영향을 받는 지역의 시민과 노동자들의 권리와 참여는 고려되지 못하고 있습니다. 이번 워크숍은 인공지능 기술과 국가 정책이 지역사회에 미치는 영향을 분석하고 영향받는 사람들의 관점을 반영한 정책과 법제 개선을 모색합니다.
국제인권규범 및 해외입법례에 비춰 안전과 인권에 미치는 인공지능 위험 규제 전무, 입법 필요성도 의문
국민안전, 인권침해 여부불문 선사용, 후규제 독소조항 폐기해야
15개 시민사회단체는 오늘(3/2) 지난 2/14 과방위 정보통신방송법안심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」에 대해 국회 과방위에 반대 의견서를 제출하였다. 단체들은 의견서에서 이번 인공지능법안은 입법 취지와 목적인 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 국제인권규범 및 해외 입법정책의 예에 비추어 안전과 인권에 미치는 인공지능 위험 규제의 효과를 제대로 담보할 수 없고, 소관 부처도 적절하지 않아 전면 재검토할 것을 요구했다.
인공지능은 이미 기술,공학의 영역을 넘어 사회, 경제, 법률 등 전영역에 영향을 미치고 있다. 또한 인공지능의 편의성 이면에 데이터 결함과 오작동 가능성, 알고리즘의 불투명성과 공정성 문제 등 인공지능의 인권 침해와 차별적 효과에 대한 우려가 끊이지 않고 있다. 이미 2020년 유엔사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고하였으며, 유엔인권최고대표(A/HRC/48/31)는 2021.9. <디지털시대 프라이버시권 보고서>에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다.
유럽연합 <인공지능법안(AI Act)>은 인공지능의 위험도를 금지/고위험/저위험/허용 등 4개로 구분하고 각각에 대한 규제 사항을 구체적으로 규정하고 있으며 특히 개인정보 보호, 소비자 보호, 차별 금지 및 성평등에 관한 기존 정책 및 법체계와의 일관성을 가지고 이를 보완하며 침범하지 않는다는 원칙을 명시하고 있다. 미국도 주요 의사결정에 사용되는 인공지능 시스템의 책무성을 강화하기 위한 <알고리즘 책무성법안>과 빅테크 알고리즘의 편향성 및 표적광고를 규제하는 <연방상하원 6개 빅테크 규제법안> 패키지 입법을 추진하고 있다. 영국과 캐나다도 국가의 인공지능 공공 조달에서 인공지능시스템에 대해 사전영향 평가, 투명성과 설명가능성 보장, 데이터 편향방지 및 품질 보장, 구제수단 마련 등을 요구하는 규제를 이미 시행 중이다. 우리나라 국가인권위원회는 2022년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표하고 △개인의 인권과 안전에 미치는 위험성별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고하였다. 이처럼 국내외에서 이루어진 입법 추진 동향과 연구 및 논의 내용을 종합하면, 현 시점에서 제정되는 인공지능 관련 기본법은 적어도 인공지능의 위험을 효과적으로 규제하고, 이를 위한 감독 체계를 수립하며, 권리구제에 대한 내용이 구체화되어야 함은 자명하다.
그러나 이번 소위를 통과한 인공지능법안은 국내외기준이 요구하는 수준을 충족하지 못할 뿐만 아니라 광범위한 규제완화와 과기부를 소관부처로 하여 일임하는 규정들로 인하여 오히려 국민의 안전과 인권을 큰 위험에 처하게 한다고 단체들은 지적한다. 특히 소위안 제11조 “우선허용·사휴규제 원칙”은 인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항이라고 지적했다. 이런 방식은 국내외에서 권장하고 있는 인공지능 입법기준뿐 아니라 주요국가의 인공지능법안의 방식과도 상치된다고 주장했다. 이들 국가들은 국가가 인공지능 제품의 안전과 인권기준 준수여부를 감독하고 피해를 구제하도록 하고, 특히 유럽연합 인공지능법안의 경우 제품적합성 평가 기관, 또는 시장 감시와 관련된 기존의 규제기관들이 규제를 우선 집행하고 우리의 과기부같은 인증이나 기술부처는 그 기준을 반영하도록 규정하고 있다. 또한 소위안은 관련 법령 및 제도를 ‘선 허용 후 규제’라는 잘못된 원칙에 맞게 개악하도록 하고 있어 인공지능의 위험성으로부터 국민의 안전과 인권을 보호하지 못할 뿐 아니라, 이후 소위안에 규정된 고위험 규제조차 모두 형해화시켰다는 점에서 매우 심각한 독소조항이라 폐기하는 것이 타당하다고 설명했다.
결론적으로, 단체들은 의견서에서 이번 과방위 소위 통과 법안은, △인공지능 산업에 대한 안전과 인권 보장 규제를 모두 완화한 점, △ 「지능정보화 기본법」과 입법목적과 소관하는 내용 대부분이 유사 또는 중복되어 별도 입법의 필요성이 낮고, △ 인공지능윤리 및 신뢰성과 관련한 법령의 정비 등 제도 개선 업무 등 인공지능과 사회정책 일반을 과기부가 소관하는 것은 부적절하며, △우선허용, 사후규제 원칙은 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하고, △ 현행 지능정보화기본법과달리 고위험 인공지능을 정의하고 있기는 하나 고위험 인공지능의 정의가 자의적이며 부분적이며, △고위험 인공지능 규제가 형식적이어서 실질적인 위험 방지 장치를 갖추지 못하는 등의 심각한 문제를 가지고 있어 전면 재검토가 필요하다고 지적했다.
인공지능이 기술, 공학의 영역을 넘어 사회, 경제, 법률 등 전사회적 영역을 아우르는 현실에서 현행 지능정보화기본법의 수준을 넘어서는 국가수준의 인공지능에 대한 기본법을 제정한다면, 인공지능 기술과 제품이 국민의 안전과 인권에 미치는 위험을 방지하고 조치하는 규제기관의 작용과 감독 정책을 효과적으로 집행하고, 피해자를 구제하며, 위반시 처벌하는 내용을 반드시 포함하여야 할 것이다. 챗GPT를 비롯한 인공지능 제품과 서비스, 공공 의사결정이 오류, 안전, 인권에 미치는 위험성이 그 어느 때보다 높아지는 현재 시점에 제정되는 인공지능 기본법이, 과기부가 소관하는 인공지능 산업 진흥을 위하여 다른 규제기관 업무를 방해하고 국민의 안전과 인권을 위험에 처하게 하는 내용이어서는 안될 것이다. 이에 15개 인권시민단체는 과방위 전체회의에서 법안을 전면 재검토할 것을 요구하며 의견서를 제출한다고 밝혔다.
워크숍 자세히 보기
문의 : AI시민행동 사무처 디지털정의네트워크 02-774-4551 / 참여연대 공익법센터 02-723-0666
시민들의 의견
댓글 달기