어제(19일) 서울중앙지방법원 제29부 민사부는 SK텔레콤(이하 ‘SKT’) 가입자들이 통신사를 상대로 개인정보 가명처리 정지를 요구하며 제기한 소송에서 원고 승소 판결하였다(서울중앙지방법원 2023. 1. 19. 선고 2021가합509722 판결). 법원은 ‘정보주체는 개인정보처리자에 대하여 자신의 개인정보 처리의 정지를 요구할 수 있다.’라고 규정한 「개인정보보호법」 제37조 제1항에 근거하여 정보주체가 ‘개인정보의 가명처리’ 정지를 요구할 수 있음을 확인한 것이다. 시민사회단체는 정보주체 처리정지요구권의 범위를 명확히 한 이번 판결을 환영한다.
지난 2020년 9월 원고들은 SKT를 상대로, ① 통신사가 보유하고 있는 본인의 개인정보를 해당 통신사 혹은 제3자의 과학적 연구, 통계, 공익적 기록보존의 목적으로 가명처리한 사실이 있는지 여부, ② 만일 ①과 같이 가명처리했다면 그 대상이 된 본인의 개인정보 일체, ③ 통신사 기지국에 기록된 본인의 개인정보 일체, ④ 본인이 통화하고 있지 않은 상황에서 해당 통신사의 기지국에서 본인의 개인정보를 기록하고 있다면, 이에 대해 본인이 동의한 사실에 대한 정보의 열람청구와 동시에 향후 본인의 개인정보를 해당 통신사 혹은 제3자의 과학적 연구, 통계, 공익적 기록보존의 목적으로 가명처리하는 것에 대한 처리정지를 함께 요구하였다. 그러나 SKT는 이미 가명처리된 정보에 대해서는 「개인정보보호법」 제28조의2, 28조의 7을 근거로 개인정보 열람 및 처리정지권이 제한된다며 이에 응하지 않았다.
현행 「개인정보보호법」은 정보주체가 개인정보처리자가 처리하는 자신의 개인정보에 대한 열람을 해당 개인정보처리자에게 요구할 수 있다(제35조제1항)는 점과 개인정보처리자에 대하여 자신의 개인정보 처리의 정지를 요구할 수 있음(제37조제1항)을 명시하고 있다. 개인정보처리자인 SKT는 정보주체인 가입자의 열람청구와 처리정지 요구를 받아들일 의무가 있다. 하지만 SKT는 이미 가명처리된 정보에 대해서는 「개인정보보호법」 제28조의2, 제28조의7 각 조항을 근거로 개인정보 열람 및 처리정지권이 제한된다며 사실상 가입자의 열람청구와 처리정지를 거절하였다. 이에 원고들은 법원에 가입자의 개인정보를 가명처리하는 행위의 정지를 구하는 소송을 제기하게 된 것이다.
이러한 SKT의 답변은 일단 통신사가 수집한 가입자 개인정보를 가명처리만 하면, 가입자의 명확한 반대의사에도 불구하고 통신사가 자유롭게 가명정보를 활용할 수 있다는 논리이다. 실제로 SKT는 제1심 소송의 변론과정에서 동의 중심의 개인정보 법제로 인하여 기업의 데이터 이용이 지나치게 위축되어 관련 산업의 성장이나 발전을 저해할 수 있다는 우려에서 개인정보보호법 개정 논의가 이루어졌다는 점을 강조하며, 개인정보보호법 제37조 제1항 처리정지요구권의 대상에 가명처리가 포함되지 않는다고 주되게 주장하였다. 이에 대하여 원고들은 ‘(이미 가명처리된) 가명정보의 처리’와 ‘개인정보의 가명처리’는 다르며, 개인정보를 가명처리하는 행위는 ‘개인정보의 처리’에 해당하고, 개인정보보호법에서 정보주체의 권리를 제한한 바가 없다고 반박하였다. 결국 법원은 정보주체의 가명처리에 대한 처리정지 요구 등이 가명정보에 대한 사실상 유일한 결정권 행사 방법인 점, 반드시 처리정지 요구권을 원천적으로 제한하여야만 피고가 주장하는 산업발전이라는 목적을 달성할 수 있는 것이 아닌 점 등의 여러 사정을 고려하여 원고 승소 판결을 하였다.
이미 개인정보보호위원회 역시 ‘가명정보의 처리’가 아닌 ‘개인정보의 가명처리’에 대해서는 가명처리 정지를 요구할 수 있다고 해석하고 있음에도 불구하고, SKT는 개인정보보호법 제37조의 ‘처리정지’ 대상을 자의적으로 해석하여 가입자의 권리행사를 거부하였다. 이용자의 동의없이 영리적 목적으로 이용자의 개인정보를 가명처리하는 것도 이용자의 권리를 제한하는 것인데, 이를 원하지 않는 이용자의 정당한 처리정지권 행사마저 가로막고자 소송으로 대응하는 것은 SKT의 지나친 탐욕이다. 이번 판결은 통신사가 제약 없이 가입자의 개인정보를 가명처리하여 활용하는 것에 제동을 걸 수 있는 중요한 논리적 근거가 되었다. 정보주체의 열람청구권, 처리정지권은 가장 기본적인 정보주체의 법적 권리이다. SKT는 제1심판결 취지에 맞게 원고들의 개인정보에 대한 가명처리를 정지하고, 원고들뿐만 아니라 다른 가입자들이 정보주체로서 행사하는 열람청구와 처리정지 요구에 지체없이 응할 것을 촉구한다. 시민사회단체는 향후에도 정보주체의 처리정지 요구권이 실질적으로 보장되도록 관심을 가지고 지켜볼 것이며, SKT의 후속 행보에 긴밀히 대응할 것이다.
한편, 2020년 9월 당시 SKT 외에도 KT와 LGU+를 상대로도 개인정보 열람청구와 가명처리 정지 요구가 있었는데, SKT와 마찬가지로 KT와 LGU+ 역시 이용자의 요구를 수용하지 않았다. 이에 이용자들은 KT에 대해서는 개인정보 분쟁조정 신청을, LGU+에 대해서는 개인정보침해신고를 하였다. 2021년 4월 13일, 개인정보분쟁조정위원회는 신청인이 요구한 바와 같이 KT에 대해 “기지국 접속정보를 포함한 개인정보 실제 내용의 열람 조치 및 신청인의 개인정보에 대한 가명처리 정지 조치를 이행”할 것을 주문하는 조정 결정을 하였고, KT는 이를 수락하였다. 그러나 개인정보침해신고센터는 1년이 넘도록 질질 끌다가 2022년 7월 18일에야 신고 결과 답변을 보내왔는데, LGU+의 소명만을 되풀이하고 있을 뿐 권리를 보장받지 못했다는 신청인의 요구는 해결해주지 않았다. 가장 일반적인 가입자 권리 구제절차로 알려진 개인정보침해신고센터가 시간만 끌고 제대로 된 해결방안을 제시하지 않아 오히려 다른 구제절차를 활용할 기회를 박탈한 것과 다르지 않다는 점은 유감이다. 우리는 개인정보침해신고센터가 제 역할을 하고 있는지 철저하게 감독할 것을 개인정보보호위원회에 촉구한다.
2023년 1월 20일
민주사회를위한변호사모임 디지털정보위원회, 서울 YMCA 시민중계실, 진보네트워크센터, 참여연대
2월 4일은 10.29이태원참사가 발생한 지 100일이 되는 날이다. ‘10.29 이태원 참사 시민대책회의가 유가족과 함께 광화문광장에서 ’100일 시민추모대회‘(이하 100일 추모대회)를 하려고 했으나 서울시는 1월 26일 ‘KBS 방송 촬영과 일정이 중복되었다며 사용신청을 반려했다.
그러나 이는 핑계에 지나지 않았다. 확인한 결과 KBS촬영장소는100일 추모대회를 하는 곳과 겹치지 않으며, 시민대책회의가 오전부터 장소사용신청을 한 것은 추모행사무대를 설치하기 위한 것이었기에 촬영에 방해가 되지도 않는다. KBS 촬영팀도 100일 추모대회를 위해 철거를 최대한 서두르겠다며 협조의사까지 밝혔다. 그럼에도 서울시는 방송촬영을 핑계댄 것은 유가족들과 시민들의 애도행위조차 막으려는 것으로 비판 받아 마땅하다.
더구나 서울시는 이번 10.29이태원참사에 책임이 있는 지방정부다. 안전조치만 있었어도, 교통통제 및 안전인력 배치 등 예방조치만 했어도 막을 수 있는 참사였다. 도대체 어느 나라에서 길을 걷다가 시민이 159명이나 압사를 당하겠는가. 그런데도 현 정부는 지방정부, 중앙정부 할 것없이 책임을 인정하지 않는다. 자료제출조차 제대로 하지 않아 국회 국정조사특위에서 진상규명도 제대로 되지 못해 아프고 시린 마음으로 100일을 맞는 유가족을 위로하기는커녕 추모대회조차 막는다는 게 상식적인 일인가.
오세훈 서울시장은 이태원 참사 이전에도 시민들의 목소리를 차단하려고 광화문광장에서 집회를 금지하려 시도한 적이 있다. 이에 인권단체들이 <광화문광장 집회의 권리 쟁취 공동행동>을 꾸려 불복종집회를 개최한 바 있다. 이런 집회시위 권리 침해에 대한 비판 여론이 일자 2022년 10월 열린 국회 행정안전위원회 서울시 국정감사에서 오세훈 시장은 집회·시위 전면 불허 방침은 “처음부터 오해가 있던 사안”이라고 해명한 바 있지만, 아직까지 이렇다 할 공식적인 입장표명이나 조치도 없었다. 이런 상황에서 또 이태원참사 100일 시민추모대회를 거짓 핑계까지 대며 막으려 하니 도대체 민주주의에 대한 이해가 있는지 묻지 않을 수 없다.
<광화문광장 집회의 권리 쟁취 공동행동>은 다시 한 번 서울시에 촉구한다. 광장은 모든 사람에게 열려 있어야 한다. 광장은 민주주의가 싹트는 장소여야 한다. 민주주의는 고통 받는 이들과 손잡고 연대하는 속에서 시민들이 만들어 가는 것이다. 더 이상 서울시는 민주주의와 애도의 행동을 가로막아선 안 된다. 이제라도 서울시는 100일 추모대회 행사 장소사용 신청을 수리해야 한다. 나아가 10. 29이태원참사에 대한 서울시의 책임을 오롯이 인정하고 사죄해야 한다. 서울시에 경고한다. 서울시가 끝까지 100일 추모대회 행사를 위한 광화문광장 사용을 가로막는다면 전국민적인 저항에 부딪힐 것이다. 우리는 시민들과 함께 이태원 참사 희생자들을 애도하고 진실규명을 위해 실천할 것이다.
<광화문광장 집회의 권리 쟁취 공동행동>(이하 광화문공동행동)은 10.29 이태원 참사 시민대책회의가 유가족과 함께 광화문광장에서 ’100일 시민추모대회‘(이하 100일 추모대회)를 열려고 했으나 서울시가 일정 중복을 이유로 사용신청을 반려했다는 소식을 접했습니다. 이에 유가족은 KBS에 확인하였고 시간 및 장소 조율이 가능함을 알게 되었습니다. 그러나 아직까지 서울시의 입장 변화 소식을 듣지 못해 광화문공동행동은 성명을 발표합니다.
애도는 희생자들과 살아남은 사람들의 대화로 인간 존엄과 민주주의를 완성하는 행위입니다. 광장에서의 애도까지 막는다면 광장은 우리 사회에 어떤 의미가 있는지 묻지 않을 수 없습니다. 이제라도 서울시는 장소사용 신청을 수리해야 합니다.
광화문공동행동은 작년 재개장된 광화문 광장에서의 집회시위를 금지하려는 서울시의 반인권적 행태에 맞서 인권단체들이 모인 연대체로, 광장에서의 집회의 권리를 되찾기 위한 활동을 이어가고 있습니다. 광장은 지방정부의 것이 아닌 시민 모두의 것이어야 하며 민주주의와 애도의 장소가 되어야 합니다.
아래에 관련 자료인 장소 사용 반려신청서와 KBS에 보낸 질의 및 답변 내용을 첨부합니다.
대통령실이 오늘(2/3) 대통령집무실 용산 이전에 역술인으로 알려진 ‘천공’이 개입했다는 의혹을 보도한 언론사와 이 내용이 실린 저서의 저자인 부승찬 전 국방부 대변인 등을 허위사실에 의한 명예훼손 혐의로 고발했다고 한다. 해당 보도가 사실이 아니라면 대통령 대변인실이 적극 해명하고 해당 언론사 등에 정정보도 요청하면 될 일을, 대통령실이 고발이라는 형사사법절차를 앞세우는 행태는 의혹해소는커녕 그 어떤 의혹도 제기하면 ‘고발하고 괴롭힘을 당할 것이다’는 시그널을 주어 헌법상 중요한 기본권인 표현의 자유를 위축시키는 결과만을 초래할 것은 명확하다. 대통령실은 언론길들이기와 국민입막음을 위한 형사고발을 중단해야 한다.
대통령실이 나서 언론인을 직접 고발한 것은 이번이 처음으로 알려졌지만 의혹을 제기한 당사자를 고발한 사건은 이번이 처음이 아니다. 지난 12월에도 대통령 관저 이전 과정에 천공의 관여 의혹을 제기한 김종대 전 정의당 의원 등을 허위사실에 의한 명예훼손 혐의로 고발한 바 있고, 1월 30일에는 김건희 여사의 주가조작 연루 의혹을 제기한 더불어민주당 김의겸 대변인을 고발하였다. 민주주의 사회에서 언론의 사회적 역할은 국민이 알고 싶어하거나 알아야 할 공적 사안에 대한 적극적인 보도이다. 또한 국민은 누구나 대통령과 그 주변 인물의 공적 사안에 대해 의혹을 제기할 수 있고 있어야 한다. 그런데 윤석열 정부는 그동안 대통령 자신과 가족 및 측근에 대해 쏟아지는 각종 의혹에 대해 적극적 해명과 언론에 대한 정정보도 요청보다는 형사적 고소고발로 응수하고 있다. 이처럼 대통령실이 고소고발을 하고 형사사법절차가 개시되는 순간부터 의혹을 제기한 언론인, 국민은 심적 물적 부담을 느끼지 않을 수 없다. 고발 사건의 수사와 기소를 담당할 경찰과 검찰을 통할하는 행정부의 수반이자 국정 운영의 최고 책임자인 대통령과 그 가족, 그 측근 관련 의혹제기에 고소고발로 대응하는 것은 사실관계를 바로 잡기 위한 조치로 보기 어렵고, 실제 범죄성립의 여부와 상관없이 고소 고발이 가져다주는 위축효과를 얻기 위한 목적이라고밖에 볼 수 없다.
정부나 공직자들이 결과를 불문하고 고소나 소송을 제기하는 주된 목적은 당사자들을 위축시킴으로써 국민의 공적 발언을 스스로 검열하게 하고 비판여론을 위축시키기 위함이라는 지적은 이명박정부, 박근혜정부 및 문재인정부때도 있어 왔다. 그동안 법원은 일관되게 민주주의 사회에서 국가기관과 공무원이 그 직무를 제대로 수행하고 있는지는 늘 국민의 감시와 비판의 대상이라는 입장을 견지해 왔다. 따라서 공적 사안에 대한 의혹제기가 명예훼손죄로 처벌받아서는 안 된다. 더욱이 대통령은 국정운영의 최고 책임자이기 때문에 대통령의 공적 영역에 대한 감시와 비판 등 표현의 자유는 보다 폭넓게 보장되어야 할 것이다. 이번 정부는 더이상 언론길들이기와 국민입막음용으로 명예훼손 고발 등의 행위를 중단하기 바란다.
참사 100일을 하루 앞둔 지난 2월 4일, 유가족들과 시민들의 노력으로 어렵사리 서울시청광장 한켠에 10.29 이태원참사 희생자들의 분향소가 마련되었다. 참사로 희생된 159명의 명복을 빌며 유가족께 다시한번 조의를 표한다. 그런데 이번 이태원 참사의 책임자 중 하나인 서울시는 유가족과 시민들이 제대로 된 진상규명과 책임자처벌을 염원하며 마련한 분향소에 불법이라는 딱지를 붙이며 철거를 예고했다. 뿐만 아니라 경찰은 분향소에 방문하려는 시민의 소지품을 시위물품이라며 반입을 가로막고 있다. 이는 서울시의 요청에 따른 것이라고 알려지고 있다. 서울시의 위법한 공권력 행사일뿐 아니라, 참사의 핵심 책임자 중 하나로서 최소한의 책임감도 없는 후안무치한 처사가 아닐 수 없다. 오세훈 서울시장은 즉각 분향소 철거시도를 중단하고 유가족과 시민들의 참사 희생자 추모 공간 조성에 협력하라.
서울시청광장은 누구에게나 열려있어야 하는 공적 공간이다. 또한 집회의 자유는 헌법이 보장하는 기본권이다. 헌법재판소는 지난 2011. 6.30. 서울광장 차벽 봉쇄 위헌소송의 결정문에서 “불법·폭력 집회나 시위가 개최될 가능성이 있다고 해도 이를 방지하기 위한 조치는 개별적·구체적인 상황에 따라 필요한 최소한의 범위에서 행해져야한다”고 명시하면서 당시 집회현장으로 진입하려는 시민을 차벽으로 제지한 경찰에 대해 위법하고 위헌적 공권력 행사임을 확인한 바 있다. 또한 2016년 박근혜 전 대통령의 하야를 요구하기 위한 1인시위를 청와대 앞에서 진행하려던 시민을 제지한 경찰에 대해 법원은 “1인 시위는 다수가 아닌 한 명이 국가기관인 대통령에 대한 특정한 의사를 공개적으로 표시하고 이를 전파하려는 것으로서 헌법상 보장된 표현의 자유를 실현하는 방법이므로 충분히 보장될 필요가 있다”며 위법한 직무집행에 대해 국가 손해배상 책임을 인정하였다. 서울시가 불법이라며 분향소를 철거하겠다며 명시한 서울광장조례 역시 집회의 자유, 이동의 자유 및 표현의 자유라는 헌법상 기본권 행사를 제지할 근거가 될 수 없다.
이번 서울광장 시민분향소로 이동하려는 시민에 대한 경찰의 집회물품 압수 및 이동 제지 또한 헌법에서 보장하는 의사표현의 자유 및 전파의 자유를 침해하는 사전검열로 위법, 위헌적 공권력 행사임이 자명하다. 또한 표현 행위가 아직 시작되지도 않았고 공공질서에 대한 어떤 해악도 가져올 위험이 없는 상태에서 금지시킨 것으로, 이는 과잉금지원칙 및 ‘명백하고 현존하는 위험’ 원칙에 반한다. 경찰은 위법, 위헌적 공권력 행사에 대해 응분의 책임을 져야 할 것이며 이를 요청한 서울시 또한 책임을 피하기 어려울 것이다.
참사 100일을 맞이한 현재까지 제대로 된 애도와 추모의 공간이 필요하다는 요구는 묵살되었고, 유가족과 시민들이 납득할 만한 진상규명은 이루어지지 않았다. 서울시는 유가족들의 광화문광장 인근 세종로공원에 추모공간을 차리겠다는 요구를 거부하는 것을 넘어 철제 울타리와 차벽으로 추모 공간 설치를 원천봉쇄 했다. 서울시는 지하철 6호선 녹사평역 내 공간을 추모공간으로 제안했다고 한다. 역사 내 지하 4층은 더 많은 시민들이 찾아볼 수 있는 개방된 곳도 아닐뿐더러 어떠한 상징성도 찾아볼 수 없다. 서울시의 억지주장과 달리 10.29 이태원 참사를 가리고, 희생자를 지우고, 시민들의 기억과 추모조차 지하 깊숙히 고립시키려는 시도로밖에 볼 수 없다. 보다못한 유가족이 스스로, 시민들과 함께 시청광장에 분향소를 마련한 것이 서울시가 이토록 과잉 대응하고 공권력까지 동원할 일인지 묻고 싶다. 오세훈 서울시장이 지금 당장 해야 할 일은 철거 계고장을 보내는 것이 아니라 유가족뿐 아니라 시민 누구나 애도하고 추모할 수 있는 분향소를 마련하는 것이다. 아울러 책임회피와 정치적 안위에만 급급해하지 말고, 참사를 막기 위한 책임을 다하지 못한 데 대해 진심어린 사과를 해야 한다.
광주광역시와 전라남도가 공동으로 운영하고 서울시 동작구에 소재한 남도학숙의 직장 내 성희롱 피해자는 남도학숙 등을 상대로 소송을 제기하여 승소하였으나 일부 패소판결을 받았습니다. 이에 남도학숙은 직장 내 성희롱 피해 직원을 상대로 소송비용 청구신청을 제기하여 현재 재판 진행 중입니다.
2020. 2. 10. 법무․검찰개혁위원회에서 「공익소송 패소비용의 필요적 감면 규정 마련」에 대해 심의, 의결하고 권고한 바 있습니다. 권고결정문에 공익과 인권을 중시하는 국가송무제도의 개선을 위하여 공익소송 패소당사자의 소송비용을 필요적으로 감면하는 규정을 마련하라고 하였으며, 2021. 10. 25. 국민권익위원회는 의결을 통해 「공공기관 소송비용 업무처리 개선」에 대해 공공기관의 장에게 권고결정을 하며 공익소송에 대한 공공기관의 적극적 감면 노력을 요구하였습니다.
성희롱 피해자가 남도학숙 등을 상대로 제기한 소송은 약자와 소수자의 권익보호, 시민의 권리구제 등을 위해 불합리한 사회제도를 개선하기 위함으로 ‘공익소송’에 해당 된다는 것은 이론의 여지가 전혀 없습니다. 또한 이 사건 관련하여 재판부는 ‘공익을 위한 것’으로 인정하였습니다. 성희롱 가해자가 피해자를 상대로 제기한 무고, 명예훼손 소송에 대하여 재판부는 “직장 내에서의 성희롱 근절이라는 공공의 이해에 관한 사항에 대하여 공공의 이익을 위한 것으로 보인다.”며 기각하였습니다.
직장 내 성희롱은 단순히 개인들 간의 문제가 아니며, 성평등한 조직문화를 조성하는데 실패한 결과임에 그 직장에 큰 책임이 있습니다. 국가인권위원회에서 성희롱 인정을 받았음에도 불구하고 남도학숙은 피해자의 권리인 민사소송에 3심까지 성희롱을 인정하지 않았습니다. 지난 해 대법원의 판결이 내려지고, 이제 피해자는 일상으로의 회복을 도모하려 했으나, 또다시 시작된 소송비용 확정신청은 수년간의 법적공방으로 지칠대로 지친 피해자를 다시 좌절시켰습니다. 이러한 공익소송에 대한 소송비용 확정신청은 공익제보자의 입을 막고, 권리를 침해하는 행위입니다.
이에 2022. 10. 20. 국정감사에서 용혜인 국회의원이 성희롱 피해자를 대상으로 한 소송비용 청구와 관해 “광주시도 권익위의 공익소송에 대해서 소송비용 회수에 예외를 두라는 권고를 수용해서 소송사무처리 규칙을 개정하는 등의 방식을 통해서 남도학숙에서 발생한 성희롱 피해자에 대한 소송비용 청구를 하지 않을 수 있는 방안을 강구하라”고 지적한 바 있습니다. 당시 강기정 광주시장은 “공익소송의 경우에 억울함이 없도록, 조례를 충분히 활용해서 가능한지 분명히 살펴보겠다.”라며 공언했으나 여전히 소송비용 확정신청은 진행되고 있습니다.
또한 광주시 소송사무처리 규칙 제23조(소송비용 청구) ①항 3호에 ‘소송확정으로 인하여 소송비용의 부담에 대한 재판이 있을 경우 소송비용확정결정 신청을 해야 된다면, 시장이 특히 필요하다고 인정될 때에 소송비용확정결정 신청을 하지 않을 수 있다.’고 명백히 기재되어 있음에도 불구하고 이와 관련된 책임 있는 행정 조치를 보이지 않고 있습니다. 광주시와 전라남도는 즉각 논의 구조를 만들어, 소송비용확정 신청을 중단할 방법을 모색해야 할 것입니다. 피해자에게 공개사과 한 후 며칠 지나지도 않은 상황에서 바로 소송비용 확정신청을 하는 현재의 상황은 피해자에게 더 큰 고통을 안겨주고 있습니다. 이는 전라남도와 광주광역시 및 남도학숙이 진정으로 피해자의 고통을 공감하고 사과하고 있는지 묻지 않을 수 없습니다. 이에 우리는 소송비용확정 신청 중단 및 철회를 요구하는 성명서를 발표합니다.
남도학숙 성희롱 피해자 지원단체를 비롯한 시민사회가 간곡히 요청 드립니다. 전라남도와 광주광역시 및 남도학숙은 직장내 성희롱 피해자를 상대로 진행 중인 소송비용확정신청을 즉각 중단하고 철회해주시기를 바랍니다!
지난 2월 6일 국가경찰위원회가 용산 대통령집무실이 인접한 이태원로 등을 집시법 12조 1항의 교통소통을 이유로 집회 및 시위를 금지할 수 있는 주요도시 주요도로에 추가하는 개정안을 의결했다. 이대로 국무회의를 통과한다면 앞으로 이태원로에 인접한 대통령집무실 인근 도로에서의 집회 및 시위는 경찰이 ‘교통소통’ 목적으로 금지할 수 있게 된다. 시행령 개정을 통해 이태원로를 주요도로에 추가하는 것은 대통령집무실 인근 도로에서의 집회 및 시위를 원천적으로 봉쇄할 목적이 내포된 것으로 추단할 수밖에 없다. 윤석열정부와 경찰은 민주정치의 실현에 매우 중요한 기본권인 집회 및 시위의 자유를 제한하는 시행령 개정안을 철회하라.
그동안 경찰은 대통령관저가 있던 청와대, 법원 및 국회의사당 등 주요기관 인근 집회시위를 금지 또는 제한하여 불법화하고 진압하기 위해 집시법 12조의 교통소통을 위한 집회제한 규정을 남용해 왔다. 그러나 헌법재판소는 2003년 10월 30일 결정을 통해, “평화적 집회 그 자체는 공공의 안녕질서에 대한 위험이나 침해로서 평가되어서는 아니되며 집회의 자유를 집단적으로 행사함으로써 불가피하게 발생하는 대중에 대한 불편함이나 법익 위험은 보호법익과 조화를 이루는 범위 내에서 국가와 제3자에 의하여 수인되어야” 한다고 천명한 바 있다. 법원 또한 다수의 경찰의 집회 금지 사건에서 대규모 집회시위로 인해 어느 정도의 교통불편이 예상된다 하더라도 이는 국민들이 수인할 수 있으며 교통 소통의 공익보다 해당 집회의 자유 보장이 더 중요하다는 점을 확인했다. 이런 일관된 판례에도 불구하고 강행되는 이번 시행령 개정은 결국 집시법 12조의 교통소통을 위한 제한 규정을 악용하여 대통령에게 불편한 집회 및 시위를 원천적으로 차단하기 위한 것에 불과하며 헌법의 기본 가치인 민주주의 원리를 훼손하는 것이다.
이번 시행령 개정안은 지난해 11월 15일 집회 및 시위의 자유에 대한 과도한 침해에 해당한다는 이유로 국가경찰위원회에 의해 한차례 반려된 바 있다. 그런데 국가경찰위원회는 이번 재상정안에 대해서는 개정안의 본질적인 위헌 요소가 사라지지 않았음에도 일부 위원들이 반대를 표했을 뿐 가결처리했다. 경찰은 재상정안에서 ‘주요 도로’의 범위와 존속 여부의 타당성을 재검토하는 일몰 규정 신설 및 3년마다 타당성 검토 등의 조치 등을 추가했지만, 이는 새로 추가된 이태원로, 백범로 등 대통령집무실을 둘러싼 사실상 거의 모든 지역에 광범위하게 집회금지가 가능하게 할 만한 비례적이고 공익적인 근거가 되지 못함은 분명하다. 국가경찰위원회는 국민의 기본권 수호 및 경찰권의 통제 장치가 아니라 결국 경찰의 거수기 역할을 벗어나지 못했다는 비판에서 자유로울 수 없다.
집시법 제12조의 교통소통을 위한 제한 규정에서 주요도로란 교통량을 기준으로 중심이 되는 도로를 의미하며, 이태원로 등은 이에 따라 주요도로에 포함되어 있지 않았다. 결국 대통령집무실 용산 이전 후에 이태원로 등을 주요도로에 새로 포함시킨 것은 주요도로라는 명목을 만들어 대통령집무실 앞 집회를 막기 위한 무리수에 가깝고, 이는 기본권 제한의 비례원칙에도 위반된다. 대통령이 국민의 목소리를 듣지 않겠다는 시행령 개정안은 그동안 대통령집무실 앞 집회의 자유에 대한 법원의 일관된 판례에도 반한다. 윤석열정부와 경찰은 개정령안 추진을 즉각 중단하라. 참여연대는 국민의 기본권이자 표현의 자유의 핵심인 대통령 집무실 앞 집회의 자유 보장을 위해 가능한 모든 활동을 전개할 것이다.
용산 대통령집무실 앞 도로 현황 : 국가경찰위를 통과한 집시법시행령안이 확정되면 백범로, 이태원로로 둘러싸인 대통령집무실 집회금지가 가능해진다.
대통령 퇴진을 외치는 행렬이 드디어 청와대 담장 100미터 앞까지 전진할 수 있게 되었다. 오늘(12/2) 서울행정법원 제6부(재판장 김정숙 부장판사)는 박근혜정권퇴진 비상국민행동(퇴진국민행동)이 신고한 12월 3일 집회 및 행진에 대해 경찰이 내린 금지통고와 조건통보를 대부분 집행정지시키며 헌정사상 청와대에서 가장 가까운 거리에서 집회와 행진이 보장될 수 있게 하는 역사적 결정을 내렸다. 그 동안 다섯 차례에 걸쳐 주말 집회 때마다 집행정지 가처분을 맡아온 참여연대 공익법센터(양홍석, 김선휴 변호사)가 이번 집행정지 사건도 맡아서 진행하였다.
이번에 최초로 열린 행진 구간은 청운효자동주민센터에서 청와대 경계 100m지점(효자치안센터)까지, 정부서울청사 창성동별관에서 청와대 경계 100m지점(자하문로16길 21앞)까지, 세움아트스페이스에서 청와대 경계 100m지점(126맨션)까지이고, 각 최북단 지점인 효자치안센터, 자하문로 16길 21 앞, 126맨션 앞에서의 집회도 가능하게 되었다. 다만 이 지점에서의 집회 및 행진은 일몰시간을 고려한 17:30까지로 제한되었다.
또한 청운효자동 주민센터, 창성동별관, 세움아트스페이스까지의 행진 및 집회는 지난 주(11/26)에는 17:30까지 시간제한이 있었으나, 청운효자동 주민센터 맞은편 푸르메재활센터 앞 집회도 22:30까지 허용되는 등 주간 뿐 아니라 야간에도 촛불을 든 시민들이 청와대에 보다 가까이 갈 수 있게 되었다. 그 동안 행정법원은 촛불집회의 행진코스가 청와대쪽으로 계속 근접하는 것에 대해서 주간행진을 우선 허용한 다음 야간행진까지 점진적으로 허용하는 방향으로 집회, 행진가능범위를 넓혀왔는데, 이번에 청와대 경계 100미터 지점까지 주간의 행진을 허용한 만큼, 앞으로도 집회 및 행진 경험의 축적에 따라 더 진전될 가능성이 있다.
다만 신고한 행진 경로 중 청와대 분수대 앞인 효자삼거리를 지나는 부분은 시간대를 불문하고 제한하였는데, 집시법 제11조 제2호 소정의 ‘대통령 관저의 경계지점으로부터 100미터 이내의 장소’에 해당한다고 해석할 여지가 있다고 보았기 때문이다. 재판부도 ‘해석할 여지’가 있다고 판시하였을 뿐 집시법 제11조의 집회금지장소에 포함된다고 단정하지 않은 만큼, 이 부분에 대한 해석과 절대적 집회금지구역을 규정한 집시법 제11조의 위헌성을 계속 다퉈나갈 것이고, 국회에서 집시법 제11조의 전면적 개정이 이루어질 수 있도록 촉구해나갈 것이다. 참여연대는 이미 지난 11월 3일에도 청와대 정문 앞 백일장대회 금지통고에 대해 취소소송을 제기하며 집시법 제11조의 위헌성을 주장해온 바 있다(https://goo.gl/CEGB16).
이번 법원 결정은 지난 한 달이 넘는 기간 동안 매 주말마다 촛불을 들며 집회시위의 새로운 장을 열어간 수십 수백만 시민들의 열망의 반영이다. 여전히 청와대 담장 안에서 주권자의 목소리를 듣지 않는 박근혜 대통령을 향해 내일 더욱 큰 분노와 항의가 생생히 전달되기를 기대한다. 끝.
국제인권규범 및 해외입법례에 비춰 안전과 인권에 미치는 인공지능 위험 규제 전무, 입법 필요성도 의문
국민안전, 인권침해 여부불문 선사용, 후규제 독소조항 폐기해야
15개 시민사회단체는 오늘(3/2) 지난 2/14 과방위 정보통신방송법안심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」에 대해 국회 과방위에 반대 의견서를 제출하였다. 단체들은 의견서에서 이번 인공지능법안은 입법 취지와 목적인 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 국제인권규범 및 해외 입법정책의 예에 비추어 안전과 인권에 미치는 인공지능 위험 규제의 효과를 제대로 담보할 수 없고, 소관 부처도 적절하지 않아 전면 재검토할 것을 요구했다.
인공지능은 이미 기술,공학의 영역을 넘어 사회, 경제, 법률 등 전영역에 영향을 미치고 있다. 또한 인공지능의 편의성 이면에 데이터 결함과 오작동 가능성, 알고리즘의 불투명성과 공정성 문제 등 인공지능의 인권 침해와 차별적 효과에 대한 우려가 끊이지 않고 있다. 이미 2020년 유엔사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고하였으며, 유엔인권최고대표(A/HRC/48/31)는 2021.9. <디지털시대 프라이버시권 보고서>에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다.
유럽연합 <인공지능법안(AI Act)>은 인공지능의 위험도를 금지/고위험/저위험/허용 등 4개로 구분하고 각각에 대한 규제 사항을 구체적으로 규정하고 있으며 특히 개인정보 보호, 소비자 보호, 차별 금지 및 성평등에 관한 기존 정책 및 법체계와의 일관성을 가지고 이를 보완하며 침범하지 않는다는 원칙을 명시하고 있다. 미국도 주요 의사결정에 사용되는 인공지능 시스템의 책무성을 강화하기 위한 <알고리즘 책무성법안>과 빅테크 알고리즘의 편향성 및 표적광고를 규제하는 <연방상하원 6개 빅테크 규제법안> 패키지 입법을 추진하고 있다. 영국과 캐나다도 국가의 인공지능 공공 조달에서 인공지능시스템에 대해 사전영향 평가, 투명성과 설명가능성 보장, 데이터 편향방지 및 품질 보장, 구제수단 마련 등을 요구하는 규제를 이미 시행 중이다. 우리나라 국가인권위원회는 2022년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표하고 △개인의 인권과 안전에 미치는 위험성별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고하였다. 이처럼 국내외에서 이루어진 입법 추진 동향과 연구 및 논의 내용을 종합하면, 현 시점에서 제정되는 인공지능 관련 기본법은 적어도 인공지능의 위험을 효과적으로 규제하고, 이를 위한 감독 체계를 수립하며, 권리구제에 대한 내용이 구체화되어야 함은 자명하다.
그러나 이번 소위를 통과한 인공지능법안은 국내외기준이 요구하는 수준을 충족하지 못할 뿐만 아니라 광범위한 규제완화와 과기부를 소관부처로 하여 일임하는 규정들로 인하여 오히려 국민의 안전과 인권을 큰 위험에 처하게 한다고 단체들은 지적한다. 특히 소위안 제11조 “우선허용·사휴규제 원칙”은 인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항이라고 지적했다. 이런 방식은 국내외에서 권장하고 있는 인공지능 입법기준뿐 아니라 주요국가의 인공지능법안의 방식과도 상치된다고 주장했다. 이들 국가들은 국가가 인공지능 제품의 안전과 인권기준 준수여부를 감독하고 피해를 구제하도록 하고, 특히 유럽연합 인공지능법안의 경우 제품적합성 평가 기관, 또는 시장 감시와 관련된 기존의 규제기관들이 규제를 우선 집행하고 우리의 과기부같은 인증이나 기술부처는 그 기준을 반영하도록 규정하고 있다. 또한 소위안은 관련 법령 및 제도를 ‘선 허용 후 규제’라는 잘못된 원칙에 맞게 개악하도록 하고 있어 인공지능의 위험성으로부터 국민의 안전과 인권을 보호하지 못할 뿐 아니라, 이후 소위안에 규정된 고위험 규제조차 모두 형해화시켰다는 점에서 매우 심각한 독소조항이라 폐기하는 것이 타당하다고 설명했다.
결론적으로, 단체들은 의견서에서 이번 과방위 소위 통과 법안은, △인공지능 산업에 대한 안전과 인권 보장 규제를 모두 완화한 점, △ 「지능정보화 기본법」과 입법목적과 소관하는 내용 대부분이 유사 또는 중복되어 별도 입법의 필요성이 낮고, △ 인공지능윤리 및 신뢰성과 관련한 법령의 정비 등 제도 개선 업무 등 인공지능과 사회정책 일반을 과기부가 소관하는 것은 부적절하며, △우선허용, 사후규제 원칙은 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하고, △ 현행 지능정보화기본법과달리 고위험 인공지능을 정의하고 있기는 하나 고위험 인공지능의 정의가 자의적이며 부분적이며, △고위험 인공지능 규제가 형식적이어서 실질적인 위험 방지 장치를 갖추지 못하는 등의 심각한 문제를 가지고 있어 전면 재검토가 필요하다고 지적했다.
인공지능이 기술, 공학의 영역을 넘어 사회, 경제, 법률 등 전사회적 영역을 아우르는 현실에서 현행 지능정보화기본법의 수준을 넘어서는 국가수준의 인공지능에 대한 기본법을 제정한다면, 인공지능 기술과 제품이 국민의 안전과 인권에 미치는 위험을 방지하고 조치하는 규제기관의 작용과 감독 정책을 효과적으로 집행하고, 피해자를 구제하며, 위반시 처벌하는 내용을 반드시 포함하여야 할 것이다. 챗GPT를 비롯한 인공지능 제품과 서비스, 공공 의사결정이 오류, 안전, 인권에 미치는 위험성이 그 어느 때보다 높아지는 현재 시점에 제정되는 인공지능 기본법이, 과기부가 소관하는 인공지능 산업 진흥을 위하여 다른 규제기관 업무를 방해하고 국민의 안전과 인권을 위험에 처하게 하는 내용이어서는 안될 것이다. 이에 15개 인권시민단체는 과방위 전체회의에서 법안을 전면 재검토할 것을 요구하며 의견서를 제출한다고 밝혔다.
지난 2월 27일, 개인정보보호법 개정안(의안번호 2120089 위원장 대안, 이하 개정안)이 국회 본회의를 통과했다. 개정안은 현행 개인정보보호법보다 일부개선된 측면이 있음에도 불구하고, 정보주체의 권리 보호와 개인정보 처리자의 책임성 강화 측면에서 국제적인 규범과 시민사회의 기대에 한참 미흡한 수준이다. 이에 다음과 같이 이번 개정안의 한계를 짚고, 향후의 개선 과제를 제안하고자 한다.
우선, 개정안이 상임위인 국회 정무위원회를 통과한 직후, 시민사회는 수사기관의 ‘원격 몰래 감시’의 가능성을 열어준 독소조항에 대한 우려를 표명한 바 있는데, 법사위 논의 과정에서 해당 문구가 삭제된 것은 다행스럽다.
그러나 개정안은 개인정보 활용을 요구하는 산업계의 로비에 밀려 국제규범에 한참 미흡한 수준으로 타협하였다.
법 위반 행위에 대한 과징금과 관련하여, 애초 정부안도 전체 매출액의 3%로 규정하여, 전 세계 연간 매출액의 4%까지 부과할 수 있는 유럽연합의 개인정보보호법 수준에 미치지 못하였는데, 그마저도 ‘전체 매출액에서 위반행위와 관련이 없는 매출액을 제외(신설 제64조의2 2항)’하는 것으로 후퇴하였다. 여전히 무엇이 관련 매출액인지에 대한 논란이 발생할 수밖에 없고 기업들은 이를 빌미로 소송을 제기하여 법 위반에 대한 처벌이 한없이 유예되지 않을지 우려된다.
인공지능 시대에 필수적인 규정인 ‘완전 자동화 의사결정’에 대한 정보주체의 권리조항은(신설 제37조의2), 유럽연합에 비해 보호 수준이 미흡하다. 유럽연합의 경우 동의, 계약, 법률에 의한 경우를 제외하고는 정보주체에게 중대한 영향을 미치는 완전 자동화 의사결정을 원칙적으로 금지하고 있지만, 개정안은 원칙적으로 허용하되 정보주체가 사후에 거부할 수 있도록 했다. 그러나 개인정보 처리자가 자신의 ‘정당한 이익’을 주장하며 완전 자동화 의사결정을 했을 경우, 이에 대해 고지조차 제대로 받지 못하는 정보주체가 어떻게 거부권을 행사할 수 있을지 실효성조차 의문이다.
개정안에 신설된 전송요구권(신설 제35조의2)의 경우, 정보주체 강화 명문을 내세우고 있지만, 사실 마이데이터 산업 육성을 위한 것임이 명백하다. 정보주체의 동의를 받는다고 하더라도 다크패턴이 확대되는 상황을 고려할 때, 정보 전송을 통해 개인정보가 악용될 위험과 그 결과에 대한 충분한 설명이 정보주체에게 제공되리라 신뢰하기 어렵다. 개인정보 상업화에 혈안이 된 기업들의 개인정보 집적과 남용의 위험성 여전히 상존하기 때문이다. 연계정보(CI)를 활용한 주민등록번호 기반 서비스가 확대되는 상황을 고려하면 개인정보 집적과 연계로 인한 위험성은 더욱 커진다. 무엇보다 보건의료 개인정보의 경우 정보주체의 동의가 있다하더라도 개인 건강정보의 특수성 때문에 정보 전송에 대한 공공의 통제가 요구되는 영역이다. 정부가 추진하고 내놓은 ‘의료 마이데이터’ 사업은 이런 규제를 없애 상업적 활용을 촉진하는 방향이 제시돼 있다. 전송요구권은 다른 제도들과 결합되어 개인 민감정보의 악용으로 이어질 우려가 크다. 따라서 최소한 보건의료 정보를 포함한 민감정보와 공공분야에서의 개인정보와 관련해서는 전송요구권이 남용되지 않도록 제한할 것을 요구한다.
그 외에도 ‘정보주체와의 계약의 체결 및 이행을 위하여 불가피하게 필요한 경우’를 ‘정보주체와 체결한 계약을 이행하거나 계약을 체결하는 과정에서 정보주체의 요청에 따른 조치를 이행하기 위하여 필요한 경우’로 완화하는 등, 애초에 정부안에 대한 시민사회 의견서에서 지적했던 문제들이 반영되지 않았다.
이번 개정안은 이미 국회를 통과하였지만, 개인정보 보호법은 여전히 개선되어야 할 부분이 많다. 개인정보보호위원회가 정부안을 발의하는 과정에서 시민사회의 의견을 반영하지 않았고, 국회에서도 병합안을 입안하는 과정에서 시민사회의 요구가 반영되어 정보주체의 권리 보장과 개인정보처리자의 책임성 강화를 주 내용으로 하는 민병덕 의원안 및 배진교 의원안은 배제하였기 때문이다. 추후 개정에는 아래와 같은 내용이 포함되어야 한다.
첫째, 민병덕 의원안 및 배진교 의원안을 반영하여 정보주체의 권리 보호와 개인정보 처리자의 책임성을 강화해야 한다.
과학적 연구 목적의 개인정보 활용 요건을 엄격히 하여, 공익적인 연구에 한하여 충분한 안전조치를 전제로 이용할 수 있도록 해야 한다.
동의 외에 어떠한 적법 근거에 따라 개인정보를 처리하든, 자신의 개인정보가 어떻게 처리되는지에 대해 정보주체에게 충분한 정보를 제공해야 한다.
정보수사기관이 충분한 안전조치 없이 개인정보에 접근할 수 있도록 하고 있는 현행 요건을 보다 엄격하게 제한해야 한다.
개인정보 영향평가 제도를 민간의 고위험 개인정보 처리로 확대하여, 빅데이터, 인공지능 시대에 개인정보 영향평가가 실질적인 안전조치로 역할할 수 있도록 해야 한다.
둘째, 표적 광고를 목적으로 동의없이 이용자의 인터넷 행태정보를 수집하는 관행에 대한 우려가 높아지고 있고, 이에 개인정보보호위원회에서 작업반을 구성하여 표적 광고와 관련한 가이드라인을 논의하고 있는 바, 법적 확실성을 위하여 개인정보보호법에 표적 광고 목적의 식별자를 개인정보로 명확하게 규정할 필요가 있다. 표적 광고 자체가 서로 다른 개인의 취향과 관심사에 맞춰 제공되는 것임에도 불구하고, 기업들은 뻔뻔하게도 이를 개인정보가 아니라고 우기면서 정보주체의 동의 없이 이를 처리해왔기 때문이다.
아직 21대 국회가 1년 넘게 남아있는 만큼, 향후에는 진정으로 정보주체의 권리를 보호하는 방향으로 개인정보보호법을 개정할 것을 국회에 촉구한다.
2023년 3월 3일 경제정의실천시민연합, 무상의료운동본부, 전국민주노동조합총연맹,민주사회를위한변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 소비자시민모임, 연구공동체 건강과대안, 전국민주노동조합총연맹 진보네트워크센터, 참여연대, 한국소비자연맹
국가경찰위를 통과한 이번 집시법 시행령안이 확정되면, 백범로, 이태원로로 둘러싸인 대통령집무실 인근에서 시민의 목소리는 낼 수 없게 됩니다.
집회를 언제 어디서 할지는 시민의 권리입니다
우리 헌법은 모든 평화적 집회의 자유를 보장합니다. 집회의 자유에는 장소선택의 자유가 포함됩니다.
집회 장소 선택의 자유는 집회의 자유의 핵심적 내용 중 하나로서 항의나 의견 표출의 대상에게 ‘들릴 수 있고, 보일 수 있는 곳’에서 이루어져야 비로소 온전한 집회의 자유 행사가 됩니다. 대통령이 듣고 보아야 할 집회를 대통령 집무실 앞에서 하는 것은 너무나 자연스러운 일입니다.
민주정치의 실현에 매우 중요한 기본권인 집회의 자유! 교통소통의 공익보다 우위에 있습니다
헌법재판소는 2003년 10월 30일 결정을 통해, “평화적 집회 그 자체는 공공의 안녕질서에 대한 위험이나 침해로서 평가되어서는 아니되며 집회의 자유를 집단적으로 행사함으로써 불가피하게 발생하는 대중에 대한 불편함이나 법익 위험은 보호법익과 조화를 이루는 범위 내에서 국가와 제3자에 의하여 수인되어야” 한다는 점을 분명히 했습니다.
법원 또한 다수의 경찰의 집회 금지 사건에서 대규모 집회시위로 인해 어느 정도의 교통불편이 예상된다 하더라도 이는 국민들이 수인할 수 있으며 교통 소통의 공익보다 해당 집회의 자유 보장이 더 중요하다는 점을 거듭 확인해 왔습니다.
윤석열 대통령은 국민과 더 가까이 소통하기 위해 집무실을 용산으로 옮긴 것입니다
윤석열 대통령은 대통령 집무실 용산 이전을 미국의 워싱턴DC 대로변에 있는 백악관처럼 국민 속으로 들어가, 누구에게나 열려있는 곳으로 만들기 위해서라고 밝힌 바 있습니다. 특히 국가의 원수로서 국민의 다양한 목소리와 고충을 직접 듣고 국민의 자유와 복리를 증진하는 국가 정책을 수립해야 하는 대통령 직책의 특수성을 고려해 대통령 집무실 등 업무가 이루어지는 공간 주변 도로의 교통소통을 핑계로 집회 금지장소로 지정하는 것은 이 같은 용산집무실 이전 취지에도 맞지 않습니다.
경찰은 그동안 집시법에서 집회 금지 장소로 규정한 ‘대통령 관저’에 집무실도 포함된다며 용산 대통령 집무실 앞 집회를 금지해왔지만, 지난 1월 12일 서울행정법원이 “대통령 집무실은 대통령 관저에 포함될 수 없다”고 결정하자, 이번에는 이태원로와 인근 백범로 일대를 집회 금지 주요 도로에 포함시켜 집회를 막으려 하고 있습니다.
시민의 권리보다 대통령 심기 경호를 우선으로 생각하는 반민주적, 반헌법적인 꼼수에 반대한다면
대통령집무실 앞 집회를 금지하려는 경찰의 집시법 시행령 개정안에 반대하는 목소리를 함께 내주세요
지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다.
이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최합니다.
2. 개요
제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
2023.3.9.국회 앞 왼쪽부터 참여연대 박보민 간사, 민변디정위 김하나변호사, 정보인권연구소 장여경 상임이사, 보건의료단체연합 전진한 정책국장, 참여연대 공익법센터 운영위원 김선휴변호사 외
일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞
취지와 목적
지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다.
이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최하였습니다.
2. 개요
제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
문의 : 참여연대 공익법센터 02-723-0666
참석자 주요 발언
과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
점점 국가는 국가의 기본적 책무를 저버리는 방향으로 가고 있습니다. 국가의 기본권 보호의무를 저버리는 법안입니다. 법안 11조 1항은 생명안전권익에 위해가 발생한 이후에야 규제할 수 있습니다. 이미 피해가 발생한 후에 조치하는 것으로 국가의 기본권보호의무를 다한다고 볼 수 없습니다. 사전규제는 안전보장 질서유지 공공복리 현저히 저해할 우려가 있을 때만 가능합니다. 그런데 현저히 저해할 우려를 국가가 어떻게 입증할 것인가요? 국가가 그 현저히 저해할 우려를 사전에 입증하는 것은, 거의 불가능하다고 봅니다. 헌법 37조2항에 따라 국가는 안전보장 질서유지 공공복리를 위해 필요한 경우 기본권을 제한할 수 있습니다. 그런데 이 법안처럼 다른 기본권이나 헌법가치를 현저히 해할 우려를 요건으로 하는 경우는 일반적이지 않습니다. 인공지능을 개발, 출시할 권리가 안전보장이나 공공복리를 침해할 현저한 우려가 있을 때만 제한해야 할만큼 다른 기본권이나 헌법적 가치보다 우위에 있는가 의문입니다. 일부 기업의 이익을 대다수 국민의 안전을 볼모로 해서 보장하려는 것이 과연 올바른 법익형량인가요? 그렇다면 사후규제는 과연 실효적일 수 있을까요? 이미 생명안전권익 위해가 발생했다면, 특히 생명안전 위해는 사후약방문입니다. 온전한 회복이 될 수 없습니다. 더군다나 책임은 제대로 물을 수 있을까요? 자동차 급발진에 대해서도 책임을 묻지 못하는데, 인공지능의 오류나 오작동, 편향에 대해 책임을 묻는 것이 쉽겠습니까. 인공지능이 어디까지 책임을 져야하는지 그 개발자나 기업에 어디까지 책임을 물을 수 있는지 아직 법체계 정비나 해석이 미비합니다. 실제 위해가 발생했을때 사후적으로라도 책임을 묻고 사후적 권리구제 피해회복이라도 가능하겠는가 묻지 않을 수 없습니다. 그리고 필요한 규제를 하지 않은 국가는 인공지능의 위험으로부터 국민을 보호할 규제장치를 마련하지 않은 것에 책임을 지겠습니까? 이 조항을 내세워, 현저한 우려까지는 입증하기 어려웠다며 책임을 피해가지 않을까요. 결국 기업에게도 국가에게도 책임을 피해갈 수 있게 해주는 법안을 통과시키려는 것입니다. 11조 2항에서는 다른 법령도 1항의 원칙에 맞게 정비하라는데 이것이 다른 규제목적을 지닌 법령까지 개폐해야 할만큼 우위의 원칙이라고 볼 수 없습니다. 26조에서는 고위험 인공지능의 확인을 과기정통부 장관의 확인을 요청할 수 있도록 하고 있습니다. 고위험 인공지능에 해당하여야 사업자 책무와 같이 아주 미약한 일부 규제가 적용되는데 이것도 고위험인공지능에 해당하는지에 대한 판단이 과기정통부장관의 확인에 종속, 의존될 가능성이 너무 높습니다.
과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장)
저희는 인공지능산업 육성을 지지합니다. 그러나 이번 법안심사소위를 통과한 인공지능법안에 기초한 인공지능산업 육성에 반대합니다. 전세계적으로 아니, 대한민국의 인공지능산업이 지금 육성만 하면 되는 시기인지 묻고 싶습니다. 이루다사태로 차별과 혐오발언이 양산되고, 카카오t가 가맹택시인 카카오 블루에 콜을 몰아주는 것도 규제하지 못하였습니다. 지금까지 우선허용 사후규제 원칙이 지켜지지 않아 이러한 문제가 발생한 것이 아닙니다. 인공지능기술은 이제 일상생활뿐만아니라 사람의 권리와 의무에도 영향을 미치고 있습니다. 이에 국가인권위원회는 작년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>에서 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공하라고 권고 하였습니다. 이제 인공지능기술산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 교육, 보건, 노동 등 분야에서 인공지능기술을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이루어져야합니다. 인공지는법안은 인공지능 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비하는 내용을 담아야하고, 과학기술정보통신부가 이를 해내기는 어렵습니다. 지난 정부는 “사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략”을 관계부처 합동으로 진행한바 있습니다. 사람의 권리에 인공지능기술이 영향을 미치는 지금 그 산업육성을 위해 여러 부처가 함께논의를 이어 가야한다는 것을 분명히 익식한 행보입니다. 이에 시민사회는 사람이 생명과 안전을 보장하는 건강한 인공지능기술산업이 육성되도록 되거버넌스를 구성하고 논의를 이어갈것을 강력히 촉구합니다.
유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
과방위 인공지능 법안은 미래 산업 육성을 명분으로 모든 규제를 완화하고 있습니다. 그러나 인공지능 제품과 서비스의 위험 문제는 먼 미래가 아니고 우리 눈앞에 닥친 문제입니다. 카카오택시는 영업비밀 뒤에 숨어서 차별적인 알고리즘을 운영했습니다. 뒤늦게 공정거래위원회가 조사하고 조치하였습니다. 인공지능 스피커 등에 내장되는 인공지능 챗봇인 이루다는 혐오 발언과 개인정보보호법 위반으로 논란을 빚었습니다. 버전 2.0을 출시할 때는 개인정보보호위원회와 사전에 협의하여 위법성을 줄였습니다. 그런데 이 법이 통과되면 공정거래위원회와 개인정보보호위원회, 국가인권위원회가 인공지능의 위험성을 제대로 조사하고 특히 사전에 조치하는 일은 큰 방해를 받게 될 것입니다. 해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있습니다. 쇼핑몰 무인로봇은 유아를 공격하였고, 자율주행차는 작동 오류로 사망사고를 여러건 일으켰습니다. 인공지능 스피커는 음성을 잘못 인식하여 엉뚱한 주문을 하기도 했습니다. 이런 상황에서 해외 여러 규범은 인공지능 위험으로부터 안전과 인권을 법적으로 보장하기 위한 제도 마련에 분주합니다. 유엔은 사무총장과 유엔인권최고대표 등이 각국에 인공지능 규제 입법을 권고하여 왔습니다. 특히 인공지능의 인권침해와 차별 등을 국가적으로 감독하기 위한 체계를 마련하고 피해자의 권리를 구제할 것을 요구하였습니다. 우리나라 국가인권위원회도 같은 기준을 갖춘 법률을 입법할 것을 정부에 권고하였습니다. 인공지능 위험성을 인지한 해외에서 가장 빠르게 입법이 된 분야는 공공부문입니다. 영국 정부 인공지능 조달지침이나 캐나다 정부 자동화된 의사결정 훈령은 공공부문이 조달하는 인공지능의 경우 데이터 품질 보장, 영향평가, 설명가능성, 투명성 등을 의무로 부과하였습니다. 가장 앞선 곳은 유럽연합입니다. 유럽연합 집행위원회는 2021년 4월 인공지능법안을 제안하였고, 올해 의회 통과가 예상되고 있습니다. 이 법안은 시민에게 너무 위험하여 용인할 수 없는 인공지능을 금지하였고 여기에는 장애인등의 취약점을 악용하는 인공지능이나 공공장소에서 원격으로 감시하는 생체인식 인공지능이 포함됩니다. 차량, 승강기, 의료기기, 장난감 등에 사용되는 인공지능은 고위험으로 특별하게 관리됩니다. 이는 단지 고위험으로 분류하는데 그치지 않고 규제기관이 사후에 집중적으로 개입할 수 있도록 자세한 데이터 품질이나 문서화 의무 등을 사전에 갖추도록 규정하였고, 여러 영향평가와 인증을 출시전에 마쳐야 합니다. 형식적인 고위험 관리가 아닙니다. 규제기관 협조 등 고위험 인공지능에 부과된 의무를 거부하는 경우 전세계 연매출액의 4%~6%의 과징금으로 처벌됩니다. 한편 인공지능규제에서 미국이 많이 완화되어 있다고들 이야기합니다. 그러나 최근 바이든 행정부 등장 이후 알고리즘과 빅테크 위험성을 여러차례 경고하면서 연방차원의 알고리즘 책무성 법안이나 빅테크 6개 규제법 패키지 입법을 적극적으로 추진하고 있습니다. 이런 상황에서 인공지능 위험에 대응하는 모든 규제를 금지하고 우선허용 사후규제를 명시하는 인공지능법안은 국제적 흐름에 어긋납니다. 인공지능의 위험성을 통제하는 제도를 마련하기 위해 노력해온 세계 시민의 놀라움과 비웃음을 사게 될 것입니다. 국민의 안전과 인권, 때로는 생계에 위험한 영향을 미치는 인공지능의 규제를 사전적으로는 금지하고 사후적으로도 회피하는 인공지능 입법은 세계 유례가 없을 것입니다.
국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
인공지능산업육성법은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있습니다. 의료 인공지능으로 잘 알려진 것으로 IBM이 개발한 ‘왓슨’이 있었습니다. 왓슨은 환자 데이터를 입력하면 치료방법을 제시하는 프로그램이었습니다. IBM은 이 프로그램을 ‘암 치료의 혁명’이라고 홍보했습니다. 문제는 이 기술이 연구단계임에도 판매돼서 상용화됐었다는 것입니다. 왓슨은 안전하지 않고 부정확한 치료법을 추천했습니다. 폐암의 경우 정확도가 18%, 위암과 유방암의 정확도도 40%대에 불과했습니다. 그래서 어떤 의사들은 이 프로그램을 “쓰레기”라고 불렀습니다. 그럼에도 불구하고 많은 병원들이 ‘왓슨’을 도입했습니다. 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있기 때문이었습니다. 한국의 지방 대학병원들도 너도나도 이 프로그램을 도입해서 환자를 끌어들였습니다. 이것이 보여주는 바는, 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든다는 것입니다. 기업들의 이익을 위해서 말입니다. 최근에는 인공지능으로 병원시스템 전체를 개조하려는 움직임도 있습니다. 인공지능으로 환자와 의료진에게 음성명령을 내려서 병실을 관리한다는 것입니다. 이걸 기업들은 ‘스마트병원’이라고 부릅니다. 하지만 그것이 과연 스마트할지 아닐지는 철저한 검증이 있어야 알 수 있는 것입니다. 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있습니다. 특히 병원 같은 데에서는 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에, 인공지능 검증을 생략하는 것은, 훌륭한 어떤 학자의 말을 인용하면 ‘쓰레기를 강매’하는 것입니다. 이 법이 의료 인공지능은 고위험 기술이라고 분류하면서고 거의 아무런 제한을 두지 않는 것은, 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것입니다. 정도는 다를지 모르지만 다른 영역에서도 인공지능이 사회의 주요 기능과 뗄수없이 결합되면 많은 국민들이 안전 문제를 겪을 것입니다. 예컨대 자율주행차 같은 것들 말입니다. ‘디지털 예외주의’가 판치고 있습니다. 새로운 디지털 기술은 기존 규제의 적용을 받는게 부적절하다면서 규제완화를 정당화합니다. 하지만 이건 넌센스입니다. 거꾸로 인공지능 같은 새로운 디지털 기술은 우리가 잘 알지 못하기 때문에 오히려 기존 기술보다 더 엄격히 통제되어야 합니다. 인공지능의 알고리즘이 불투명하고 의사결정을 내리는 과정과 기준을 알 수 없다는 점 때문에도 더욱 철저하게 검증돼야 하고 제한적으로 적용되어야 합니다. 차별을 확대하지 않기 위해 윤리적 기준이 엄격해야 하고, 개인정보 보호에 대한 보호와 규제가 필수입니다. 그러나 인공지능 산업을 육성하겠다는 윤석열 정부와 국회는 오로지 기업 이윤을 위해 이런 안전장치를 다 허물려 하고 있습니다. 보건의료 부문은 물론이고 인공지능 규제완화는 국민의 생명 안전 인권을 심각하게 침해할 것입니다. 이 말도 안되는 악법이 통과되는 일은 없어야 할것입니다
참여연대 공익법센터(소장 허진민 변호사)가 지난 3월 8일부터 시작한 집시법시행령 개정 반대 서명 캠페인 “대통령 눈앞에서는 집회하지 마라?” 이 서명 시작 6일만인 3/13(월)에 1차 서명 목표인 2023명을 훌쩍 넘겼으며, 오늘(14일) 오전 10시 20분 경 2,500명을 넘을 정도로 빠르게 서명자 수가 늘고 있습니다. 이러한 시민들의 호응은 집회 및 시위의 자유를 침해할 우려가 높은 이번 시행령 개정안에 대해 많은 시민들이 분노하며 반대하고 있다는 사실을 보여주는 것입니다.
그동안 대통령집무실 앞 집회를 막기 위해 경찰은 집시법상 집회 금지장소인 대통령관저에 대통령집무실이 포함된다며 금지통고해 왔으나, 법원은 일관되게 대통령 집무실은 관저에 포함될 수 없다고 확인한 바 있습니다. 이에 경찰은 대통령집무실 인근 이태원로와 백범로를 집회금지가 가능한 ‘주요도시의 주요도로’에 추가하려는 것으로, 대통령 심기 경호를 위해 권력이 불편해할 집회를 차단하겠다는 꼼수에 다름 아닙니다. 이번 서명의 참여 열기는 이 같은 경찰의 꼼수를 용납하지 않겠다는 시민들의 의지가 드러난 것으로 볼 수 있을 것입니다.
참여연대는 이번 반헌법적 시행령 개정안의 철회를 위해 캠페인 기간(~2023. 4. 3) 동안 더 많은 시민들에게 홍보 및 항의의 목소리를 모으고, 입법의견서와 함께 경찰에 제출할 예정입니다.
지난 3월 15일, 국민의힘 김기현 대표와 회동한 자리에서 더불어민주당 이재명 대표는 “불합리한 규제는 해소해야 하지만 국민의 안전이나 생명과 관계된 규제는 강화할 필요가 있다”고 말했다고 한다. 그러나 더불어민주당 의원도 주축이 되어 추진하고 있는 인공지능 법안에 대한 전면적인 재검토 없이는 이재명 대표의 이러한 발언은 진정성을 지니기 어렵다. 현재 국회 과방위 심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(‘인공지능법안’)」은 “국민의 안전과 생명”에 부정적 영향을 미칠 수 있는 고위험 인공지능의 위험을 통제할 수 있는 실질적인 방안도 없을 뿐만 아니라, 오히려 “우선허용·사후규제 원칙”(제11조 제1항)을 내세워 안전과 생명에 대한 위협을 완화할 수 있는 사전예방 조치에 대해서는 전혀 규율하지 않고 있기 때문이다. 집권여당인 국민의힘 또한 안전과 생명을 위협할 수 있는 고위험 인공지능에 대해서 실제 피해가 발생하기 전에는 규제하지 말자는 것이 당의 공식 입장인지 명확히 밝혀야 한다.
이 법안의 주무부처가 과학기술정보통신부인 것도 문제다. 유럽연합 및 미국 등 주요 해외 국가에서 현재 추진되고 있는 인공지능 법안은 고위험 인공지능 제품과 서비스는 소비자의 안전과 생명에 미치는 영향이 크다고 보고 규제를 강화하고 있는 동시에, 소비자 보호 및 인권 보장을 위한 기존의 규제 및 감독 체제를 인정하고 있다. 또한 미국의 알고리즘책무성 법안에서는 연방거래위원회(FTC)가, 유럽연합의 인공지능 법안은 각 국의 ‘시장 감시 기관’이 주무를 담당하도록 하고 있다. 그러나 한국의 과기정통부는 인공지능 산업육성에만 치중할 뿐, 고위험 인공지능으로부터 안전과 생명을 보호할 수 있는 공적 규제를 담당할만한 전문성도 의지도 없다. 더구나 과방위의 인공지능 법안은 다른 정부부처나 지방자치단체들이 고위험 인공지능을 규제하기 위한 법령이나 제도를 수립할 때 “우선허용·사후규제 원칙”에 부합하도록 요구하고 있으며, 해당 인공지능이 고위험영역 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관이 담당하도록 함으로써, “국민의 안전과 생명”을 보호하기 위한 타 부처의 규제 조차 시행하지 못하거나 사실상 과기정통부의 승인을 받도록 하고 있다.
상황이 이러함에도, 소비자보호와 개인정보보호 관련법과 기구를 소관해온 정무위, 제품안전을 소관해온 산자위, 사회안전을 소관해온 행안위,산업안전을 소관해온 환노위 등 다른 상임위는 인공지능이 미칠 위험성에 대해 관심을 갖고는 있는 것인지, 소관 분야에서 고위험 인공지능이 미칠 위험성을 통제하기 위한 각 상임위의 역할에 대해서 자각은 하고 있는 것인지 우려하지 않을 수 없다. 지금 인공지능 법 제정을 무작정 서두를 일이 아니다. ‘세계 최초’가 아니라 ‘제대로 된’ 법을 만드는 것이 중요하다. 지금 과방위가 추진하고 있는 인공지능 법안으로는 세계적으로 수용될 수 있는 신뢰성있는 인공지능을 보장하기 힘들다. 인공지능에 대한 사회적 신뢰를 훼손하여 오히려 인공지능 산업발전도 저해할 것이다.
각 당에 묻는다. 안전과 생명, 그리고 인권을 위협할 수 있는 고위험 인공지능에 대한 우려가 전 세계적으로 높아지고 있는 이 시점에, “우선허용·사후규제 원칙”이 각 당의 공식적인 입장인가.
기존의 규제법을 소관해온 각 상임위에 묻는다. 각 상임위 의원들은 고위험 인공지능 규제를 위한, 각 상임위의 공공정책 수립에 과기정통부가 상급 부처로서 관여하는 것에 동의하는가. 고위험 인공지능으로부터 안전과 생명, 인권을 보호하기 위한 각 상임위의 역할과 임무를 고민하고 있는가.
지난 2/14 인공지능과 관련한 법안 7개가 병합되어 국회 과학기술정보방송통신위원회 법안심사소위를 통과하였습니다. 이 법안은 인공지능 규율을 위한 기본법임을 표명하지만, 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용은 없습니다. 국민의 안전과 인권을 보호하는 법제를 준비하기는커녕 산업 육성만을 위해 ‘우선허용 사후규제’라는 원칙을 도입하여 정당한 규제의 도입을 방해할 가능성이 큽니다. 또한 정보보호, 소비자 보호, 차별 금지 등에 관여하는 규제기관이 인공지능법안의 관할기관을 맡는 유럽연합이나 미국 등과 달리 산업 육성만을 위해 경도된 입장으로 일관하던 과기부가 관할하도록 하여 세계적으로도 드문 입법례입니다.
인권시민사회가 왜 인공지능법안에 대해 반대하고 전면 재검토를 요구하는지 보다 심도깊은 설명과 함께 공론화를 촉진하기 위해, 아래와 같이 2023.3.22(수) 오전 10시 기자 설명회를 개최합니다.
개요
제목 : 기자설명회 <과방위 통과 “세계최초” 인공지능법안, 세계의 걱정거리가 되려는가?> – 인권시민사회단체가 인공지능법안에 대해 우려하는 이유
고위험 인공지능 정의 자의적이고 구체적 위험방지 대책도 전무 기본권 보호 헌법가치와 충돌하여 전면 재검토 필요
오늘(3/22) 민변 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 보건의료단체연합, 참여연대는 지난 2/14 인공지능과 관련한 법안 7개가 병합되어 국회 과학기술정보방송통신위원회 법안심사소위를 통과한 인공지능법안에 반대하며 이 법안의 구체적인 문제점 등에 대해 기자설명회를 개최하였습니다.
단체들은 과방위 소위 통과 인공지능법안은 인공지능 규율을 위한 기본법임을 표명하지만, 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용은 없다고 평가했습니다. 또한 국민의 안전과 인권을 보호하는 법제를 준비하기는커녕 산업 육성만을 위해 ‘우선허용 사후규제’라는 원칙을 도입하여 정당한 규제의 도입을 방해할 가능성이 크다고 지적하였습니다. 또한 정보인권 보호, 소비자 보호, 차별 금지 등에 관여하는 규제기관이 인공지능법안의 관할기관을 맡는 유럽연합이나 미국 등과 달리 산업 육성만을 위해 경도된 입장으로 일관하던 과기부가 관할하도록 하여 세계적으로도 드문 입법례라고 설명하였습니다.
오늘 기자설명회는 김태일 참여연대 권력감시1팀장의 사회로 진행되었으며, 희우 진보네트워크센터 활동가가 <인공지능법안의 제정 경과 및 주요 쟁점에 대한 개요>를, 장여경 정보인권연구소 상임이사가 <고위험인공지능 분류 및 규제 관련 유럽연합과 미국 등 해외 입법례와 과방위 통과법안의 근본적 차이>를, 허진민 참여연대 공익법센터 소장이 <과방위 통과법안의 독소조항 등 문제점>을, 김병욱 민변 디지털정보위원회 변호사가 <과방위 통과법안이 타법과 충돌할 가능성, 타 규제기관의 작용을 방해하는 지점>을, 그리고 마지막으로 보건의료단체연합 전진한 정책국장이 <보건 및 의료 관련 인공지능 적용 사례를 통해 본 위험성과 특별한 규제 필요성>을 발표하였습니다.
지난 2월 14일 과학기술정보방송통신위원회 심사소위를 통과한 인공지능산업 육성에 관한 법안은 지금까지 계류되어 있던 7개 법안을 가장 최근에 발의된 국민의힘 윤두현 의원안을 중심으로 병합한 결과물입니다. 심사소위를 통과해 법사위와 본회의 심의만을 남겨두었기 때문에 언론에서 이 법안에 대해 ‘8부 능선을 넘었다’고 표현할 만큼 제정이 목전입니다.
하지만 인공지능이 어떤 영향력을 가지게 될 지, 어떤 범위까지 뻗어나갈 지 아직 알 수 없는 시점인데도 불구하고 이 법안은 인공지능 산업에 대한 국민 안전 및 인권 보장 규제를 완화하며, 대부분의 규범을 과학기술정보통신부가 담당한 채 ‘선허용, 후규제’한다는 일견 무책임한 내용을 담고 있습니다.
앞서 말씀드렸듯이 인공지능은 현재 광범위한 영향을 끼치고 있습니다. 학교나 가정에서 사용되는 인공지능 스피커, 의료진단에 사용되는 인공지능, 보험이나 대출 등 금융서비스에서 사용되는 알고리즘, 검색이나 배달앱 등 플랫폼에서 사용되는 알고리즘, 출입에 사용되는 얼굴인식 알고리즘 등, 어떤 인공지능은 생계나 안전, 인권에 이미 영향을 미치고 있는 상황입니다. 이러한 영향력은 앞으로 커지면 커졌지 결코 줄어들 수 없으며, 특히 앞으로 사람에게 영향을 미치는 의사결정이 인공지능에 기반해 이루어지는 사례가 더욱 많아질 것으로 예상됩니다.
한국에서도 이미 인공지능과 관련된 논란이 몇 차례 있었습니다. 먼저 2020년 12월에 런칭된 챗봇 이루다 사건입니다. 대화형 챗봇 ‘이루다’를 개발하고 운영하는 스캐터랩은 2013년 텍스트앳, 2016년 연애의 과학 등의 어플리케이션을 운영하며 카카오톡 등 메신저의 대화 내용을 수집해왔고 이를 자사 다른 제품인 대화형 챗봇 ‘이루다’의 학습용 데이터로 이용했습니다. 하지만 이용자들에게 그 사실을 제대로 고지하지 않은 채 수집 동의를 받고 데이터와 알고리즘을 깃허브에 업로드해 개인정보를 노출하는 등 개인정보보호법을 위반했으며, 학습한 데이터를 토대로 답변하는 과정에서 성소수자에 대한 혐오 발언을 하는 등 윤리적 문제점도 지니고 있었습니다. 제조사인 스캐터랩은 1억 330만원의 과징금과 과태료를 부과받았으며 챗봇 이루다는 런칭 3주만에 서비스가 중단되었습니다.
또한 공공기관의 인공지능 채용 프로그램을 둘러싼 논란도 있었습니다. 시민사회단체들은 2020년에 공공기관에서 사용하는 인공지능 채용도구에 대한 실태를 파악하기 위해 13곳의 공공기관에 정보공개를 청구했습니다. 이는 공공기관이 민간업체의 인공지능 채용 도구를 도입하면서 인공지능의 차별성 및 편향성에 대해 사전에 검토를 했는지, 면접자들의 개인정보에 대해 적절한 보호를 하고 있는지, 공공기관으로서의 인공지능 운영 과정에 투명성과 책무성을 담보하고 있는지를 확인하기 위함이었습니다.
그러나 대부분의 기관들이 자료의 부존재, 영업비밀 보호 등의 이유로 자료를 공개하지 않았고, 단체들이 소송을 제기해 승소함으로써 두 기관의 일부 비공개 정보를 공개하게 되었는데, 기관이 보유하고 있지 않은 정보들은 당연히 공개될 수 없었습니다.
즉, 공공기관이 민간기업의 인공지능 도구를 도입하면서도 그 인공지능의 문제점과 성능에 대해 아무런 검토를 하지 않았으며, 공공기관으로서 민원에 답할 수 있는 적절한 자료들을 보유하고 있지 않았다는 점이 드러난 것입니다. 이 사례는 한국의 공공기관들이 인공지능 시스템을 도입하고 있음에도 불구하고, 공공기관의 책무성을 담보할 수 있도록 하는 아무런 제도적 장치가 존재하지 않는다는 점을 보여주고 있습니다.
또한 법무부와 과기부가 추진한 ‘인공지능 식별추적 시스템’도 논란이 되었습니다. 2021년 10월, 법무부와 과기부가 2019년부터 법무부가 출입국심사과정에서 수집, 보유하고 있는 내·외국인의 안면 데이터 약 1억 7천만 건을 정보주체의 동의없이 민간기업들에게 인공지능 학습 및 알고리즘 검증용으로 제공한 사실이 드러났습니다.
이 사건은 과기부가 공공기관이 보유하고 있는 개인정보를 제공하여 인공지능 기업들의 기술 개발을 위해서라는 점을 공공연하게 언급하고 있는 점, 그리고 경쟁적인 R&D를 통한 공모방식으로 추진되어 실제 위탁 업체로 선정되지 않을 업체에게도 민감한 개인정보가 제공되었다는 점이 논란의 대상이 되었습니다.
또한, 얼굴인식 기술에 대한 국가 감시 가능성이 세계적인 논란이 되고 있음에도 불구하고, 정부가 인공지능 규제를 위한 법제도 없는 상황에서 내·외국인의 얼굴인식 정보를 대량으로 제공했다는 점은 한국 정부의 인공지능 정책이 인권보다는 산업 육성을 우선하고 있음을 보여주고 있습니다.
위 사례의 문제들은 인권위나 개보위가 개입해 문제를 조율하는 역할을 했는데, 산업 육성을 우선시하는 과기부가 해당 법안을 통해 인공지능 관련 최상위 기관이 된다면, 위 사례와 같은 문제가 발생하거나 인공지능 개발 및 활용 과정에서 다른 문제가 발생했을 시 제대로 해결할 수 있을지 의문입니다.
또한 2019년 12월 17일, 과기부를 비롯한 전 부처 공동으로 <인공지능(AI) 국가전략>을 발표했는데, 9대 전략 중 하나인 전략 (3) 과감한 규제혁신 에서 ‘선허용-후규제’를 기본방향으로 제시하고 있었습니다.
이어 2020년 12월 23일, 과기부와 정보통신정책연구원은 <인공지능(AI) 윤리기준>을 발표했는데, 이 보도자료에서 AI 윤리기준은 “구속력 있는 ’법‘이나 ’지침‘이 아닌 도덕적 규범이자 자율규범”임을 밝히고 있습니다.
이어 과기부는 2021년 5월 13일, <신뢰할 수 있는 인공지능 실현전략>을 발표한 바 있는데, 이 역시 ‘민간 자율’적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하는 것에 중점을 두고 있습니다.
이처럼 과기부는 인공지능의 위험성에 대한 통제보다는 민간 자율과 윤리를 통한 규율, 선허용 후규제 도입이라는 기조를 유지하며 산업육성에만 치중해 왔습니다.
이 때문에 시민사회는 과기부가 인공지능 규율의 주무부처가 되는 것에 대해 우려를 표하며, 같은 해 5월 인공지능 입법에 있어 인공지능 제품과 시스템을 국가적으로 감독하는 체계를 수립하여야 하고, 인공지능을 감독하는 역할은 산업부처나 기술부처가 아니라 공정위, 인권위, 개보위가 수행해야 마땅하다고 지적한 바 있습니다.
반면 정부와 다르게, 감독을 수행할 수 있는 국가인권위 등 독립적 기구들은 인공지능의 위험성에 대해 통제의 필요성을 제안해 왔습니다.
인권 관점의 인공지능 규율을 위한 가이드라인은 개보위에서 먼저 나왔는데, 2021년 5월 31일, 개보위는 인공지능(AI) 서비스의 개발과 운영 시 발생할 수 있는 개인정보 침해를 예방하기 위한 안내서로서 <AI 개인정보보호 자율점검표(개발자‧운영자용)>를 공개했습니다.
이어 2022년 5월 11일, 국가인권위가 인공지능 개발 및 활용 과정에서 발생할 수 있는 인권침해와 차별을 방지하기 위한 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표했습니다. 인권위는 이 가이드라인에 기초해 인공지능 관련 정책이 수립, 이행되고, 관계 법령이 제/개정되도록 관련 부처들을 유기적으로 조정하고 통할할 것을 국무총리에 권고했습니다. 또한 과기부, 개보위, 방통위, 공정위, 금융위에 이 가이드라인에 기초하여 관련 정책을 수립하고 법령을 제개정하며, 공공기관 및 민간기업도 이를 준수할 수 있도록 감독할 것을 권고한 바 있습니다.
해당 권고에 대하여 국무총리와 과기정통부 장관, 개보위 위원장, 방통위 위원장, 공정위 위원장, 금융위 위원장 등은 해당 업무와 관련한 인권위의 권고 취지에 공감하며, 관련 정책과 사업 및 제도 개선에〈가이드라인〉의 내용을 반영하겠다고 회신한 바 있습니다.
그러나 해당 인공지능 법안이 인권위의 가이드라인을 수용하고 있는지는 의문입니다.
또한, 인권위는 2022년에 인공지능에 대한 인권적 통제방안으로서 인권영향평가 제도에 대하여 검토하고 그 실현 방안을 연구한 <인공지능 인권영향평가 도입방안> 연구를 진행하여, 2023년 초에 공개했습니다.
그리고 2023년 1월 25일, 인권위는 얼굴인식 기술이 인권을 침해하지 않도록 입법으로 보호하고 인권영향평가를 실시할 것을 정부와 국회에 권고했습니다. 특히 불특정 다수를 대상으로 공공장소에서 ‘실시간 원격 얼굴인식’을 사용하는 것은 기본권 침해 위험이 매우 크다고 지적하면서 원칙적 금지를 요구했는데, 과연 이번 인공지능 법안이 이러한 국가인권위 권고를 이행할 수 있는 것인지 의문입니다.
한국의 시민사회단체 역시 인공지능 관련 정책에 적극 목소리를 내고 있습니다. 2021년 5월 24일, 120개 시민사회단체는 함께 <인권과 안전, 민주주의가 보장되는 인공지능 정책 요구 시민사회 선언문>을 발표한 바 있습니다.
현재 주요 국가들은 인공지능의 위험을 효과적으로 규제하고, 이를 위한 독립적인 감독체계를 수립하며, 권리구제에 대한 내용을 구체화하는 기조로 인공지능이 안전과 인권에 미치는 위험을 규제하기 위한 입법을 추진해 왔습니다.
만일 국가적 수준에서 인공지능에 대한 기본법을 제정한다면, 다른 규제기관의 업무와 조화를 이루며 인공지능이 야기할 수 있는 위험으로부터 국민의 안전과 인권을 지키고, 국민의 피해를 구제하기 위한 장치를 충분히 마련해야 할 것입니다.
과방위 통과법안의 독소조항 등 문제점
허진민 참여연대 공익법센터 소장
인공지능의 개념 자체가 정확하게 정의되어 있지 않지만 머신러닝을 기반으로 하여 인간의 사유, 추론을 대체할 수 있는 기술을 의미한다면 사회적 패러다임의 변화를 예견하는 것임.
이처럼 인간만이 수행하던 사유, 추론 등을 소프트웨어로 구현한 프로그램 등으로 수행이 가능하게 되므로 이러한 프로그램 등의 자동 과정과 결과에 대한 안전성과 신뢰성의 확보가 필연적이라 할 것임. 그리고 이러한 안전성과 신뢰성의 확보를 위한 기준은 사회적 합의에 따라 정해져야 하며 이에 다른 나라들도 인공지능기술의 안전성과 신뢰성을 담보하기 위한 논의가 지속되고 있음. 그러므로 인공지능기술의 정의 자체도 명확하지 않으며, 인공지능기술은 향후 인간이 수행해온 상당 부분의 역할을 대체할 수밖에 없음에도, 인공지능기술의 특성이 스스로 학습을 통한 결과 도출인 점을 고려하면 인공지능기술의 안정성과 신뢰성 확보가 전제되어야 함에도 이에 대한 고려 없이 성급하게 인공지능기술 육성에만 치중한 과방위 통과법안은 부적절함.
우리 헌법의 최고 가치는 “인간의 존엄성” 보장이며 국가는 국민의 기본권을 보호할 의무를 가짐. 한편 헌법은 국가로 하여금 과학기술의 혁신을 통하여 국민경제의 발전에 노력할 의무를 부과하고 있음. 그러나 이는 국민의 기본권을 보호하고 국민경제의 발전에 부합해야 하는 한계를 가짐. 따라서 이번 법안이 이와 같은 헌법가치에 부합하나 살펴보아야 할 것임.
우선 첫째 과방위 통과법과 다른 법률과의 관계 법체계적 관점에서 현행 지능정보화기본법에서 인공지능을 포함한 다양한 신기술에 대한 육성 등에 대한 규정을 두고 있어 별도의 인공지능법이 필요한지 의문이며, 지능정보화기본법은 지능정보화사회외 관련한 기본법의 성격을 가짐에도 불구하고 과방위 통과법은 인공지능산업 육성을 위한 법임에도 안 제4조에서 기본법으로서의 지위를 부과하고 지능정보화기본법과의 관계에서 법체계적으로 조화될 수 없는 규정을 두고 있어 법안이 통과되면 지능정보화기본법을 따라야 할지 이법을 따라야 할지 혼란을 준다는 점에서 문제가 될 것임.
둘째, 산업육성이라는 입법목적을 달성하려면 인공지능기술의 안전성과 신뢰성의 담보없이는 산업의 발전이 불가능 함. 특히 안 11조는 인공지능기술이 사용될 영역에 대한 어떠한 제한도 없이 선허용 후규제 형태의 조항을 두고 있으며, “생명, 안전 공공복리를 현저히 저해할 우려”가 있을 때 규제한다고 하더라도 그 “현저히 저해”할 우려가 어떤 것인지에 대해 명확한 기준이 없음. 우선 진입하고 나중에 문제가 생기면 규제하겠다는 방식 자체는 오히려 산업육성의 목적과는 부합하지 않음. 국가가 안정성과 신뢰성의 기준을 제시하고 인공지능기술의 사용이 제한되는 영역을 명확하게 설정해주어야 함. 그렇지 않다면 인공지능기술의 개발이 이루어지고 상용화되는 과정에서 규제가 이루어진다면 사회적 혼란을 야기하고 경제적 손실만을 초래할 것임. 따라서 안 11조는 삭제되어야 함.
셋째, 안 제26조 및 안제27조는 인간의 생명, 신체의 안전 및 기본권에 중대한 영향을 미칠 우려가 있는 고위험영역과 관련하여 고위험영역인공지능의 해당 여부를 과기부장관에게 확인받을 수 있고, 이를 제공함에 있어 이용자에게 사전고지할 의무만을 부과하고 있음. 우선 고위험영역에서 인공지능기술이 사용될 수 있는지 여부 및 사용을 허가한다면 어떠한 조건을 부과할 것인지에 대하여 사회적 합의가 도출되지 않았으며, 외국의 경우 그러한 기준을 도출하는 과정에 있음에도 과방위 통과법은 고위험영역의 인공지능기술의 사용 여부 및 조건에 대한 어떠한 내용도 담고 있지 않으며, 심지어 고위험영역인공지능의 해당 여부에 대한 확인 조차 개발/판매자가 임의적으로 선택할 수 있도록 하여 국민의 생명, 안전 기본권 침해에 대하여 어떠한 보호 조치가 없음을 보여주는 것으로 폐기되어야 함.
인공지능법안이 타 규제기관의 작용을 방해할 가능성과 그 지점
김병욱 변호사(민변 디정위)
법안은 과학기술정보통신부에 인공지능 관련 규율 및 정책 일반에 대한 폭넓은 권한을 부여하면서, 국가 및 지방자치단체가 인공지능기술, 인공지능제품 또는 인공지능서비스와 관련한 법령 및 제도를 도입할 때 ‘우선허용 사후규제 원칙’을 따르도록 정하고 있음(법안 제11조 제2항).
안 제11조 제1항에 ‘우선허용 사후규제 원칙’의 예외가 규정되어 있으나, 매우 추상적인 수준에 머물러 있음(국민의 안전, 생명, 권익에 위해가 되거나 공공의 안전보장, 질서유지 및 복리증진을 현저히 저해할 우려). 예외 규정의 의미가 모호하면서 엄격하기 때문에 인공지능에 대한 사전적인 규율 내지 규제 가능성을 무력화시키는 조항으로 기능할 우려가 상당함. 인공지능 기술과 피해 사이에 구체적인 인과성이 인정되기 이전에 위해가 되거나 현저히 저해할 우려가 인정되기 어렵기 때문에 사실상 사전적인 개입이나 규제를 배제하는 결과가 될 것임.
그러나 인공지능기술은 다양한 분야에서 매우 광범위하게 활용되고 있고, 다양한 기본권을 제약하거나 침해할 가능성을 지니고 있음. 그 위험성을 사전적으로 감시, 감독하고 위험을 관리하여 침해를 최소화하여야 마땅함. 다양한 분야에서 활용되는 인공지능에 대해 각 분야별 소관 부처가 관련 시책을 마련할 수 있고, 이는 사전적인 규제를 포함하는 것이나, 위 법안에 의하여 이러한 조치는 제약을 받거나 무력화될 수밖에 없음.
예를 들어 인공지능 기술을 채용 분야에 활용하는 것과 관련하여, 개인정보자기 결정권 보장의 관점에서, 인공지능 프로그램이 고도화되는 과정에서 개인정보가 적법하게 수집되고, 활용되었는지, 프로그램 활용 과정에서 개인정보의 수집이 적법한지, 이후 보관 및 처리 등의 과정이 적법한지 등에 대해서 개인정보보호위원회가 관련 법제 정비나 가이드라인 마련 등을 통해서 사전에 개입할 수 있고, 고용노동부가 채용절차의 공정성의 관점에서 인공지능 프로그램이 직무에 필요하지 않은 불필요한 개인정보를 수집하지 않는지, 인공지능프로그램의 의사결정에 따라 채용 여부가 결정되는 경우 불복하거나, 구제가능성을 보장할 수 있는지 등에 대하여 사전에 개입하여 프로그램의 도입을 재검토하거나 보완할 수 있을 것이나, 위 법안에 의하면 이러한 시도가 제약되거나 무력화될 가능성이 있음.
인공지능 기술을 탑재한 제품이 인간에게 위해를 가하는 등 신체의 안전을 위협할 가능성도 배제할 수 없는데, 이 경우 제품 안전 관련 부처인 산업통상자원부 등이 사전에 인공지능기술의 위험성을 관리, 감독하거나 특정한 인증을 거치기 전에는 제품을 출시할 수 없도록 하는 등의 법제 등 규제를 마련할 수 있을 것이나, 위 조항에 따르면 이러한 시도는 제약되거나 무력화될 가능성이 있음.
보건 및 의료 관련 인공지능 적용 사례를 통해 본 위험성과 특별한 규제 필요성
전진한 보건의료단체연합 정책국장
이 법안은 의료기기에도, 보건의료 전반에 적용하는 인공지능에도 우선허용 사후규제를 적용합니다.
제대로 검증되지 않은 의료 인공지능이 도입됐을 때 발생할 수 있는 폐해에 대해서 예를 들어 말씀드리고자 합니다.
의료 인공지능으로 가장 잘 알려진 건 IBM이 개발한 ‘왓슨 포 옹콜로지’입니다. 왓슨은, 의사가 암환자 데이터를 입력하면 치료방법을 제시하는 프로그램이었습니다. IBM은 이 프로그램을 ‘암 치료의 혁명’이라고 홍보했습니다.
문제는 이 기술이 충분히 검증되지 않았다는 것입니다. 왓슨은 안전하지 않고 부정확한 치료법을 추천했습니다. 폐암의 경우 정확도가 18%, 위암과 유방암의 정확도도 40%대에 불과해서 어떤 의사들은 이 프로그램을 “쓰레기”라고 하기도 했습니다.
그럼에도 불구하고 많은 병원들이 ‘왓슨’을 도입했습니다. 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 추가 비용을 청구할 수 있었기 때문입니다. 한국의 대학병원들도 너도나도 이 프로그램을 도입해서 환자를 끌어들였습니다. 길병원, 부산대병원, 건양대병원, 대구가톨릭대, 계명대, 조선대, 화순전남대병원 등이 이 ‘쓰레기’를 도입해서 환자를 유인했습니다.
이것이 보여주는 바는, 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든다는 것입니다. 기업과 병원의 수익창출을 위해서. 결국 최근에 IBM이 왓슨을 헐값에 매각하면서 이 프로젝트는 실패로 끝났습니다. 하지만 이미 환자들에게 부정적 영향을 미친 뒤입니다. 심지어 지금도 여전히 많은 병원 홈페이지에 왓슨을 이용해서 암치료를 한다는 홍보 게시물이 올라가 있습니다.
영국에서는 ‘바빌론’이라는 이름의 AI 의료 챗봇 서비스가 도입이 됐습니다. 바빌론은 인공지능 챗봇으로 환자를 미리 걸러 치료가 필요한 환자만 치료를 받게 해서 국가 의료비용을 절감시키겠다고 약속했습니다. 영국 정부는 이 인공지능이 효과가 있다는 근거도 없이 승인했습니다. 실제로 바빌론 챗봇은 불충분하거나 명백하게 잘못된 정보를 환자에게 전달했습니다. 그래서 질병이 있는 사람들의 치료가 지연되거나 차단됐습니다. 그래서 학계에서는 검증되지 않은 인공지능을 허용하는 것은 마치 신약을 제대로 테스트하지 않고 환자에게 투여하는 것과 다를 바가 없는 위험천만한 행위라고 평가합니다.
바빌론도 지난 해 말 영국정부로부터 계약해지되었습니다. 하지만 뒤늦은 결정은 피해를 되돌리지 못합니다.
지금까지 말씀드린 것은 인공지능이 여타 의료기술들과 마찬가지로 충분히 검증하지 않으면 환자 생명과 건강을 침해할 수 있다는 것이었습니다.
그런데 여기서 그치지 않습니다. 인공지능은 여타 의료기술들보다 더 위험할 수 있고 윤리적 문제를 일으킬 때문에 더 충분한 기술적, 사회적 검토가 필요합니다.
첫째, 의료서비스 제공자 개인의 오류와는 달리, 인공지능 알고리즘에 오류가 있으면 그것은 단기간에 수천 수만명의 사람들에게 돌이킬 수 없는 피해를 줄 수 있습니다.
예를 들어 영국 코로나19 애플리케이션은 감염자와 밀접 접촉할 경우에 자가격리를 지시하도록 설계됐는데 기능에 문제가 있었습니다. 그래서 실제 위험보다 5배는 더 오래 전염성이 있는 환자 곁에 머물게 했습니다. 1900만명이 앱을 다운로드 했는데 엄청나게 적은 수만 격리하라는 지시를 받아서 자신과 가족들을 감염에 노출시켰습니다.
아까 말씀드린 바빌론 챗봇도 마찬가지로 광범한 인구에 영향을 준 사건입니다.
그래서 어떤 연구는 디지털 기술의 오류와 결함으로 영국에서 연간 2천명이 사망할 수 있다면서 이것이 ‘눈에 띄지 않는 살인자’라고 했습니다.
둘째, 인공지능 기술은 불투명한 경향이 있고 ‘블랙박스’ 알고리즘을 사용할 수 있기 때문에 의사결정을 내리는 과정과 기준을 알기 어려운 경우가 많습니다.
그래서 이런 오류는 교정되기가 더 어려울 수 있습니다.
또 피해가 발생할 경우 책임을 누가 질 것인가 하는 문제가 발생합니다.
이런 불투명한 기술을 누군가가 비윤리적으로 설계하면서 이익을 창출할 수 있습니다.
예를 들면 미국에서 인공지능은 의료보장을 줄이는 데 활용되고 있습니다. 실제 일어난 일에 따르면, 골절로 입원한 노인 환자에 대해서 인공지능은 17일 후 퇴원할 수 있다고 예상을 했습니다. 17일째 되는 날에 보험사는 알고리즘에 따라서 치료비 지급을 중단했습니다. 하지만 환자의 통증은 극에 달했을 때였습니다. 이 결정을 뒤집는 법원 결정이 나는 데 1년이 걸렸습니다. 미국에서 이런 방식의 보험금 지급거부가 새로운 방식으로 떠오르고 있습니다. 3개월 내 사망할 수 있는 환자 보험금 지급을 거절해서 최대 2~3년이 걸리는 이의신청 절차를 밟게 만들고 있습니다.
셋째, 차별과 편견을 강화할 수 있습니다.
바빌롯 챗봇에서는 성별 편향성도 발견됐습니다. 예를들면 흉통과 메스꺼움을 호소하는 여성의 경우에는 이 인공지능이 우울증이나 공황발작 가능성을 제시했고, 비슷한 증상의 남성에게는 심각한 심장 문제의 가능성을 언급하면서 응급실 방문을 권장했습니다.
미국의 비슷한 프로그램에서도 이런 문제가 발생했습니다. 비슷한 수준의 의료서비스가 필요한 경우에 대체로 백인 환자가 흑인 환자보다 더 아프다고 판단하고 흑인에게 더 적은 의료를 제공했습니다.
이것은 ‘의도적 설계’나 ‘기술적 오류’가 아니라 사회의 편견이 인공지능 데이터에 반영된 것일 수 있습니다.
따라서 AI기술은 처음부터 ‘윤리적 설계’를 제대로 적용해야 합니다.
넷째, 설령 기술적 문제가 전혀 없다고 해도 윤리적, 사회적 문제를 낳을 수 있습니다.
예컨대 어떤 개인이 당뇨나 HIV감염 가능성이 있는지 예측하는 인공지능 기술을 생각해볼 수 있습니다. 그 경우에 이런 기술은 특정 개인이나 커뮤니티에 혜택을 줄수도 있지만 문제의 책임을 당사자들에 돌리면서 불필요한 낙인을 찍을 수 있고, 영리 목적의 건강관리서비스로부터 공격적 마케팅에 노출시킬 수 있습니다.
이런 건강 예측모델을 고용주나 보험사가 활용하면 개인의 자율성을 침해하고 일상생활을 통제할 수도 있습니다.
마지막으로, 인공지능을 적용하면 개인정보 유출 문제가 더욱 빈번할 수 있고, 인공지능 알고리즘에 대한 해킹공격은 막대한 피해를 입힐 수 있습니다.
이런 인공지능 기술을 선진입-후평가 하는 것은 말도 안되는 것입니다. 그 결과는 엄청난 재앙일 수 있습니다. 오히려 인공지능은 기존기술보다 더 엄격한 안전성과 효과에 대한 평가, 윤리적 사회적 검토, 개인정보 보호를 위한 엄격한 기준 등이 필요합니다.
이 법이 의료를 포함한 몇몇 분야 인공지능은 고위험 기술이라고 분류했습니다. 하지만 거의 아무런 제한을 두지 않고 있습니다. 그것은 이 법이 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것입니다.
저는 보건의료 영역에 대해서만 말했지만 사회 각 부문에서 검증되지 않은 인공지능의 부정적 영향이 막대할 수 있습니다.
인공지능 검증을 생략하는 이런 법은 반드시 철회되어야 하고 인공지능을 가른 기술들보다 더 엄격히 규제하는 입법이 필요합니다.
대통령 눈앞에서는 집회하지 마라?”
시민들의 의견
댓글 달기