권력 감시와 견제는 언론사의 기본 책무

허위사실이라면 정정보도 요구하면 될 일

대통령실이 오늘(2/3) 대통령집무실 용산 이전에 역술인으로 알려진 ‘천공’이 개입했다는 의혹을 보도한 언론사와 이 내용이 실린 저서의 저자인 부승찬 전 국방부 대변인 등을 허위사실에 의한 명예훼손 혐의로 고발했다고 한다. 해당 보도가 사실이 아니라면 대통령 대변인실이 적극 해명하고 해당 언론사 등에 정정보도 요청하면 될 일을, 대통령실이 고발이라는 형사사법절차를 앞세우는 행태는 의혹해소는커녕 그 어떤 의혹도 제기하면 ‘고발하고 괴롭힘을 당할 것이다’는 시그널을 주어 헌법상 중요한 기본권인 표현의 자유를 위축시키는 결과만을 초래할 것은 명확하다. 대통령실은 언론길들이기와 국민입막음을 위한 형사고발을 중단해야 한다.

대통령실이 나서 언론인을 직접 고발한 것은 이번이 처음으로 알려졌지만 의혹을 제기한 당사자를 고발한 사건은 이번이 처음이 아니다. 지난 12월에도 대통령 관저 이전 과정에 천공의 관여 의혹을 제기한 김종대 전 정의당 의원 등을 허위사실에 의한 명예훼손 혐의로 고발한 바 있고, 1월 30일에는 김건희 여사의 주가조작 연루 의혹을 제기한 더불어민주당 김의겸 대변인을 고발하였다. 민주주의 사회에서 언론의 사회적 역할은 국민이 알고 싶어하거나 알아야 할 공적 사안에 대한 적극적인 보도이다. 또한 국민은 누구나 대통령과 그 주변 인물의 공적 사안에 대해 의혹을 제기할 수 있고 있어야 한다. 그런데 윤석열 정부는 그동안 대통령 자신과 가족 및 측근에 대해 쏟아지는 각종 의혹에 대해 적극적 해명과 언론에 대한 정정보도 요청보다는 형사적 고소고발로 응수하고 있다. 이처럼 대통령실이 고소고발을 하고 형사사법절차가 개시되는 순간부터 의혹을 제기한 언론인, 국민은 심적 물적 부담을 느끼지 않을 수 없다. 고발 사건의 수사와 기소를 담당할 경찰과 검찰을 통할하는 행정부의 수반이자 국정 운영의 최고 책임자인 대통령과 그 가족, 그 측근 관련 의혹제기에 고소고발로 대응하는 것은 사실관계를 바로 잡기 위한 조치로 보기 어렵고, 실제 범죄성립의 여부와 상관없이 고소 고발이 가져다주는 위축효과를 얻기 위한 목적이라고밖에 볼 수 없다.

정부나 공직자들이 결과를 불문하고 고소나 소송을 제기하는 주된 목적은 당사자들을 위축시킴으로써 국민의 공적 발언을 스스로 검열하게 하고 비판여론을 위축시키기 위함이라는 지적은 이명박정부, 박근혜정부 및 문재인정부때도 있어 왔다. 그동안 법원은 일관되게 민주주의 사회에서 국가기관과 공무원이 그 직무를 제대로 수행하고 있는지는 늘 국민의 감시와 비판의 대상이라는 입장을 견지해 왔다. 따라서 공적 사안에 대한 의혹제기가 명예훼손죄로 처벌받아서는 안 된다. 더욱이 대통령은 국정운영의 최고 책임자이기 때문에 대통령의 공적 영역에 대한 감시와 비판 등 표현의 자유는 보다 폭넓게 보장되어야 할 것이다. 이번 정부는 더이상 언론길들이기와 국민입막음용으로 명예훼손 고발 등의 행위를 중단하기 바란다.

원문보기/다운로드

The post 대통령실, 언론길들이기 입막음 고발 중단해야 appeared first on 참여연대.

시민분향소 철거 시도하는 오세훈 서울시장, 부끄러운 줄 알아야

분향소 철거 시도와 물품 반입 금지 조치는 헌법상 기본권 침해

참사 100일을 하루 앞둔 지난 2월 4일, 유가족들과 시민들의 노력으로 어렵사리 서울시청광장 한켠에 10.29 이태원참사 희생자들의 분향소가 마련되었다. 참사로 희생된 159명의 명복을 빌며 유가족께 다시한번 조의를 표한다. 그런데 이번 이태원 참사의 책임자 중 하나인 서울시는 유가족과 시민들이 제대로 된 진상규명과 책임자처벌을 염원하며 마련한 분향소에 불법이라는 딱지를 붙이며 철거를 예고했다. 뿐만 아니라 경찰은 분향소에 방문하려는 시민의 소지품을 시위물품이라며 반입을 가로막고 있다. 이는 서울시의 요청에 따른 것이라고 알려지고 있다. 서울시의 위법한 공권력 행사일뿐 아니라, 참사의 핵심 책임자 중 하나로서 최소한의 책임감도 없는 후안무치한 처사가 아닐 수 없다. 오세훈 서울시장은 즉각 분향소 철거시도를 중단하고 유가족과 시민들의 참사 희생자 추모 공간 조성에 협력하라.

서울시청광장은 누구에게나 열려있어야 하는 공적 공간이다. 또한 집회의 자유는 헌법이 보장하는 기본권이다. 헌법재판소는 지난 2011. 6.30. 서울광장 차벽 봉쇄 위헌소송의 결정문에서 “불법·폭력 집회나 시위가 개최될 가능성이 있다고 해도 이를 방지하기 위한 조치는 개별적·구체적인 상황에 따라 필요한 최소한의 범위에서 행해져야한다”고 명시하면서 당시 집회현장으로 진입하려는 시민을 차벽으로 제지한 경찰에 대해 위법하고 위헌적 공권력 행사임을 확인한 바 있다. 또한 2016년 박근혜 전 대통령의 하야를 요구하기 위한 1인시위를 청와대 앞에서 진행하려던 시민을 제지한 경찰에 대해 법원은 “1인 시위는 다수가 아닌 한 명이 국가기관인 대통령에 대한 특정한 의사를 공개적으로 표시하고 이를 전파하려는 것으로서 헌법상 보장된 표현의 자유를 실현하는 방법이므로 충분히 보장될 필요가 있다”며 위법한 직무집행에 대해 국가 손해배상 책임을 인정하였다. 서울시가 불법이라며 분향소를 철거하겠다며 명시한 서울광장조례 역시 집회의 자유, 이동의 자유 및 표현의 자유라는 헌법상 기본권 행사를 제지할 근거가 될 수 없다.

이번 서울광장 시민분향소로 이동하려는 시민에 대한 경찰의 집회물품 압수 및 이동 제지 또한 헌법에서 보장하는 의사표현의 자유 및 전파의 자유를 침해하는 사전검열로 위법, 위헌적 공권력 행사임이 자명하다. 또한 표현 행위가 아직 시작되지도 않았고 공공질서에 대한 어떤 해악도 가져올 위험이 없는 상태에서 금지시킨 것으로, 이는  과잉금지원칙 및 ‘명백하고 현존하는 위험’ 원칙에 반한다. 경찰은 위법, 위헌적 공권력 행사에 대해 응분의 책임을 져야 할 것이며 이를 요청한 서울시 또한 책임을 피하기 어려울 것이다.

참사 100일을 맞이한 현재까지 제대로 된 애도와 추모의 공간이 필요하다는 요구는 묵살되었고, 유가족과 시민들이 납득할 만한 진상규명은 이루어지지 않았다. 서울시는 유가족들의 광화문광장 인근 세종로공원에 추모공간을 차리겠다는 요구를 거부하는 것을 넘어 철제 울타리와 차벽으로 추모 공간 설치를 원천봉쇄 했다. 서울시는 지하철 6호선 녹사평역 내 공간을 추모공간으로 제안했다고 한다. 역사 내 지하 4층은 더 많은 시민들이 찾아볼 수 있는 개방된 곳도 아닐뿐더러 어떠한 상징성도 찾아볼 수 없다. 서울시의 억지주장과 달리 10.29 이태원 참사를 가리고, 희생자를 지우고, 시민들의 기억과 추모조차 지하 깊숙히 고립시키려는 시도로밖에 볼 수 없다. 보다못한 유가족이 스스로, 시민들과 함께 시청광장에 분향소를 마련한 것이 서울시가 이토록 과잉 대응하고 공권력까지 동원할 일인지 묻고 싶다. 오세훈 서울시장이 지금 당장 해야 할 일은 철거 계고장을 보내는 것이 아니라 유가족뿐 아니라 시민 누구나 애도하고 추모할 수 있는 분향소를 마련하는 것이다. 아울러 책임회피와 정치적 안위에만 급급해하지 말고, 참사를 막기 위한 책임을 다하지 못한 데 대해 진심어린 사과를 해야 한다.

원문보기/다운로드

The post 서울시와 경찰은 10.29 이태원 참사 희생자 추모에 대한 위헌 위법적 공권력행사 중단하라 appeared first on 참여연대.

교통소통 이유로 집무실 인근 도로 집회 금지는 기본권 침해

지난 2월 6일 국가경찰위원회가 용산 대통령집무실이 인접한 이태원로 등을 집시법 12조 1항의 교통소통을 이유로 집회 및 시위를 금지할 수 있는 주요도시 주요도로에 추가하는 개정안을 의결했다. 이대로 국무회의를 통과한다면 앞으로 이태원로에 인접한 대통령집무실 인근 도로에서의 집회 및 시위는 경찰이 ‘교통소통’ 목적으로 금지할 수 있게 된다. 시행령 개정을 통해 이태원로를 주요도로에 추가하는 것은 대통령집무실 인근 도로에서의 집회 및 시위를 원천적으로 봉쇄할 목적이 내포된 것으로 추단할 수밖에 없다. 윤석열정부와 경찰은 민주정치의 실현에 매우 중요한 기본권인 집회 및 시위의 자유를 제한하는 시행령 개정안을 철회하라. 

그동안 경찰은 대통령관저가 있던 청와대, 법원 및 국회의사당 등 주요기관 인근 집회시위를 금지 또는 제한하여 불법화하고 진압하기 위해 집시법 12조의 교통소통을 위한 집회제한 규정을 남용해 왔다. 그러나 헌법재판소는 2003년 10월 30일 결정을 통해, “평화적 집회 그 자체는 공공의 안녕질서에 대한 위험이나 침해로서 평가되어서는 아니되며 집회의 자유를 집단적으로 행사함으로써 불가피하게 발생하는 대중에 대한 불편함이나 법익 위험은 보호법익과 조화를 이루는 범위 내에서 국가와 제3자에 의하여 수인되어야” 한다고 천명한 바 있다. 법원 또한 다수의 경찰의 집회 금지 사건에서 대규모 집회시위로 인해 어느 정도의 교통불편이 예상된다 하더라도 이는 국민들이 수인할 수 있으며 교통 소통의 공익보다 해당 집회의 자유 보장이 더 중요하다는 점을 확인했다. 이런 일관된 판례에도 불구하고 강행되는 이번 시행령 개정은 결국 집시법 12조의 교통소통을 위한 제한 규정을 악용하여 대통령에게 불편한 집회 및 시위를 원천적으로 차단하기 위한 것에 불과하며 헌법의 기본 가치인 민주주의 원리를 훼손하는 것이다.

이번 시행령 개정안은 지난해 11월 15일 집회 및 시위의 자유에 대한 과도한 침해에 해당한다는 이유로 국가경찰위원회에 의해 한차례 반려된 바 있다. 그런데 국가경찰위원회는 이번 재상정안에 대해서는 개정안의 본질적인 위헌 요소가 사라지지 않았음에도 일부 위원들이 반대를 표했을 뿐 가결처리했다. 경찰은 재상정안에서 ‘주요 도로’의 범위와 존속 여부의 타당성을 재검토하는 일몰 규정 신설 및 3년마다 타당성 검토 등의 조치 등을 추가했지만, 이는 새로 추가된 이태원로, 백범로 등 대통령집무실을 둘러싼 사실상 거의 모든 지역에 광범위하게 집회금지가 가능하게 할 만한 비례적이고 공익적인 근거가 되지 못함은 분명하다. 국가경찰위원회는 국민의 기본권 수호 및 경찰권의 통제 장치가 아니라 결국 경찰의 거수기 역할을 벗어나지 못했다는 비판에서 자유로울 수 없다. 

집시법 제12조의 교통소통을 위한 제한 규정에서 주요도로란 교통량을 기준으로 중심이 되는 도로를 의미하며, 이태원로 등은 이에 따라 주요도로에 포함되어 있지 않았다. 결국 대통령집무실 용산 이전 후에 이태원로 등을 주요도로에 새로 포함시킨 것은 주요도로라는 명목을 만들어 대통령집무실 앞 집회를 막기 위한 무리수에 가깝고, 이는 기본권 제한의 비례원칙에도 위반된다. 대통령이 국민의 목소리를 듣지 않겠다는 시행령 개정안은 그동안 대통령집무실 앞 집회의 자유에 대한 법원의 일관된 판례에도 반한다. 윤석열정부와 경찰은 개정령안 추진을 즉각 중단하라. 참여연대는 국민의 기본권이자 표현의 자유의 핵심인 대통령 집무실 앞 집회의 자유 보장을 위해 가능한 모든 활동을 전개할 것이다.

원문보기/다운로드

The post [성명]경찰은 대통령실 앞 집회 막으려는 집시법시행령 개정을 중단하라 appeared first on 참여연대.

국제인권규범 및 해외입법례에 비춰 안전과 인권에 미치는 인공지능 위험 규제 전무, 입법 필요성도 의문

 국민안전, 인권침해 여부불문 선사용, 후규제 독소조항 폐기해야

15개 시민사회단체는 오늘(3/2) 지난 2/14 과방위 정보통신방송법안심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」에 대해 국회 과방위에 반대 의견서를 제출하였다. 단체들은 의견서에서 이번 인공지능법안은 입법 취지와 목적인 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 국제인권규범 및 해외 입법정책의 예에 비추어 안전과 인권에 미치는 인공지능 위험 규제의 효과를 제대로 담보할 수 없고, 소관 부처도 적절하지 않아 전면 재검토할 것을 요구했다.

인공지능은 이미 기술,공학의 영역을 넘어 사회, 경제, 법률 등 전영역에 영향을 미치고 있다. 또한 인공지능의 편의성 이면에 데이터 결함과 오작동 가능성, 알고리즘의 불투명성과 공정성 문제 등 인공지능의 인권 침해와 차별적 효과에 대한 우려가 끊이지 않고 있다. 이미 2020년 유엔사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고하였으며, 유엔인권최고대표(A/HRC/48/31)는 2021.9. <디지털시대 프라이버시권 보고서>에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다.

유럽연합 <인공지능법안(AI Act)>은 인공지능의 위험도를 금지/고위험/저위험/허용 등 4개로 구분하고 각각에 대한 규제 사항을 구체적으로 규정하고 있으며 특히 개인정보 보호, 소비자 보호, 차별 금지 및 성평등에 관한 기존 정책 및 법체계와의 일관성을 가지고 이를 보완하며 침범하지 않는다는 원칙을 명시하고 있다. 미국도 주요 의사결정에 사용되는 인공지능 시스템의 책무성을 강화하기 위한 <알고리즘 책무성법안>과 빅테크 알고리즘의 편향성 및 표적광고를 규제하는 <연방상하원 6개 빅테크 규제법안> 패키지 입법을 추진하고 있다. 영국과 캐나다도 국가의 인공지능 공공 조달에서 인공지능시스템에 대해 사전영향 평가, 투명성과 설명가능성 보장, 데이터 편향방지 및 품질 보장, 구제수단 마련 등을 요구하는 규제를 이미 시행 중이다. 우리나라 국가인권위원회는 2022년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표하고 △개인의 인권과 안전에 미치는 위험성별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고하였다. 이처럼 국내외에서 이루어진 입법 추진 동향과 연구 및 논의 내용을 종합하면, 현 시점에서 제정되는 인공지능 관련 기본법은 적어도 인공지능의 위험을 효과적으로 규제하고, 이를 위한 감독 체계를 수립하며, 권리구제에 대한 내용이 구체화되어야 함은 자명하다.

그러나 이번 소위를 통과한 인공지능법안은 국내외기준이 요구하는 수준을 충족하지 못할 뿐만 아니라 광범위한 규제완화와 과기부를 소관부처로 하여 일임하는 규정들로 인하여 오히려 국민의 안전과 인권을 큰 위험에 처하게 한다고 단체들은 지적한다. 특히 소위안 제11조 “우선허용·사휴규제 원칙”은 인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항이라고 지적했다. 이런 방식은 국내외에서 권장하고 있는 인공지능 입법기준뿐 아니라 주요국가의 인공지능법안의 방식과도 상치된다고 주장했다. 이들 국가들은 국가가 인공지능 제품의 안전과 인권기준 준수여부를 감독하고 피해를 구제하도록 하고, 특히 유럽연합 인공지능법안의 경우 제품적합성 평가 기관, 또는 시장 감시와 관련된 기존의 규제기관들이 규제를 우선 집행하고 우리의 과기부같은 인증이나 기술부처는 그 기준을 반영하도록 규정하고 있다. 또한 소위안은 관련 법령 및 제도를 ‘선 허용 후 규제’라는 잘못된 원칙에 맞게 개악하도록 하고 있어 인공지능의 위험성으로부터 국민의 안전과 인권을 보호하지 못할 뿐 아니라, 이후 소위안에 규정된 고위험 규제조차 모두 형해화시켰다는 점에서 매우 심각한 독소조항이라 폐기하는 것이 타당하다고 설명했다.

결론적으로, 단체들은 의견서에서 이번 과방위 소위 통과 법안은, △인공지능 산업에 대한 안전과 인권 보장 규제를 모두 완화한 점, △ 「지능정보화 기본법」과 입법목적과 소관하는 내용 대부분이 유사 또는 중복되어 별도 입법의 필요성이 낮고, △ 인공지능윤리 및 신뢰성과 관련한 법령의 정비 등 제도 개선 업무 등 인공지능과 사회정책 일반을 과기부가 소관하는 것은 부적절하며, △우선허용, 사후규제 원칙은 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하고, △ 현행 지능정보화기본법과달리 고위험 인공지능을 정의하고 있기는 하나 고위험 인공지능의 정의가 자의적이며 부분적이며, △고위험 인공지능 규제가 형식적이어서 실질적인 위험 방지 장치를 갖추지 못하는 등의 심각한 문제를 가지고 있어 전면 재검토가 필요하다고 지적했다.

인공지능이 기술, 공학의 영역을 넘어 사회, 경제, 법률 등 전사회적 영역을 아우르는 현실에서 현행 지능정보화기본법의 수준을 넘어서는 국가수준의 인공지능에 대한 기본법을 제정한다면, 인공지능 기술과 제품이 국민의 안전과 인권에 미치는 위험을 방지하고 조치하는 규제기관의 작용과 감독 정책을 효과적으로 집행하고, 피해자를 구제하며, 위반시 처벌하는 내용을 반드시 포함하여야 할 것이다. 챗GPT를 비롯한 인공지능 제품과 서비스, 공공 의사결정이 오류, 안전, 인권에 미치는 위험성이 그 어느 때보다 높아지는 현재 시점에 제정되는 인공지능 기본법이, 과기부가 소관하는 인공지능 산업 진흥을 위하여 다른 규제기관 업무를 방해하고 국민의 안전과 인권을 위험에 처하게 하는 내용이어서는 안될 것이다. 이에 15개 인권시민단체는 과방위 전체회의에서 법안을 전면 재검토할 것을 요구하며 의견서를 제출한다고 밝혔다.

붙임 –「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(소위안)」에 대한 인권시민단체 의견서

보도자료 원문보기/다운로드

The post [보도자료] 15개 인권시민단체, 국회 과방위 법안심사소위 통과한 인공지능육성법안 반대 의견서 제출 appeared first on 참여연대.

국제인권규범 및 해외입법례에 비춰 안전과 인권에 미치는 인공지능 위험 규제 전무, 입법 필요성도 의문

 국민안전, 인권침해 여부불문 선사용, 후규제 독소조항 폐기해야

15개 시민사회단체는 오늘(3/2) 지난 2/14 과방위 정보통신방송법안심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」에 대해 국회 과방위에 반대 의견서를 제출하였다. 단체들은 의견서에서 이번 인공지능법안은 입법 취지와 목적인 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 국제인권규범 및 해외 입법정책의 예에 비추어 안전과 인권에 미치는 인공지능 위험 규제의 효과를 제대로 담보할 수 없고, 소관 부처도 적절하지 않아 전면 재검토할 것을 요구했다.

인공지능은 이미 기술,공학의 영역을 넘어 사회, 경제, 법률 등 전영역에 영향을 미치고 있다. 또한 인공지능의 편의성 이면에 데이터 결함과 오작동 가능성, 알고리즘의 불투명성과 공정성 문제 등 인공지능의 인권 침해와 차별적 효과에 대한 우려가 끊이지 않고 있다. 이미 2020년 유엔사무총장(A/HRC/43/29)은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고하였으며, 유엔인권최고대표(A/HRC/48/31)는 2021.9. <디지털시대 프라이버시권 보고서>에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다.

유럽연합 <인공지능법안(AI Act)>은 인공지능의 위험도를 금지/고위험/저위험/허용 등 4개로 구분하고 각각에 대한 규제 사항을 구체적으로 규정하고 있으며 특히 개인정보 보호, 소비자 보호, 차별 금지 및 성평등에 관한 기존 정책 및 법체계와의 일관성을 가지고 이를 보완하며 침범하지 않는다는 원칙을 명시하고 있다. 미국도 주요 의사결정에 사용되는 인공지능 시스템의 책무성을 강화하기 위한 <알고리즘 책무성법안>과 빅테크 알고리즘의 편향성 및 표적광고를 규제하는 <연방상하원 6개 빅테크 규제법안> 패키지 입법을 추진하고 있다. 영국과 캐나다도 국가의 인공지능 공공 조달에서 인공지능시스템에 대해 사전영향 평가, 투명성과 설명가능성 보장, 데이터 편향방지 및 품질 보장, 구제수단 마련 등을 요구하는 규제를 이미 시행 중이다. 우리나라 국가인권위원회는 2022년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>을 발표하고 △개인의 인권과 안전에 미치는 위험성별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고하였다. 이처럼 국내외에서 이루어진 입법 추진 동향과 연구 및 논의 내용을 종합하면, 현 시점에서 제정되는 인공지능 관련 기본법은 적어도 인공지능의 위험을 효과적으로 규제하고, 이를 위한 감독 체계를 수립하며, 권리구제에 대한 내용이 구체화되어야 함은 자명하다.

그러나 이번 소위를 통과한 인공지능법안은 국내외기준이 요구하는 수준을 충족하지 못할 뿐만 아니라 광범위한 규제완화와 과기부를 소관부처로 하여 일임하는 규정들로 인하여 오히려 국민의 안전과 인권을 큰 위험에 처하게 한다고 단체들은 지적한다. 특히 소위안 제11조 “우선허용·사휴규제 원칙”은 인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항이라고 지적했다. 이런 방식은 국내외에서 권장하고 있는 인공지능 입법기준뿐 아니라 주요국가의 인공지능법안의 방식과도 상치된다고 주장했다. 이들 국가들은 국가가 인공지능 제품의 안전과 인권기준 준수여부를 감독하고 피해를 구제하도록 하고, 특히 유럽연합 인공지능법안의 경우 제품적합성 평가 기관, 또는 시장 감시와 관련된 기존의 규제기관들이 규제를 우선 집행하고 우리의 과기부같은 인증이나 기술부처는 그 기준을 반영하도록 규정하고 있다. 또한 소위안은 관련 법령 및 제도를 ‘선 허용 후 규제’라는 잘못된 원칙에 맞게 개악하도록 하고 있어 인공지능의 위험성으로부터 국민의 안전과 인권을 보호하지 못할 뿐 아니라, 이후 소위안에 규정된 고위험 규제조차 모두 형해화시켰다는 점에서 매우 심각한 독소조항이라 폐기하는 것이 타당하다고 설명했다.

결론적으로, 단체들은 의견서에서 이번 과방위 소위 통과 법안은, △인공지능 산업에 대한 안전과 인권 보장 규제를 모두 완화한 점, △ 「지능정보화 기본법」과 입법목적과 소관하는 내용 대부분이 유사 또는 중복되어 별도 입법의 필요성이 낮고, △ 인공지능윤리 및 신뢰성과 관련한 법령의 정비 등 제도 개선 업무 등 인공지능과 사회정책 일반을 과기부가 소관하는 것은 부적절하며, △우선허용, 사후규제 원칙은 안전과 인권을 보호하기 위한 다른 법률의 정당한 조치와 다른 규제기관의 업무를 침범하고, △ 현행 지능정보화기본법과달리 고위험 인공지능을 정의하고 있기는 하나 고위험 인공지능의 정의가 자의적이며 부분적이며, △고위험 인공지능 규제가 형식적이어서 실질적인 위험 방지 장치를 갖추지 못하는 등의 심각한 문제를 가지고 있어 전면 재검토가 필요하다고 지적했다.

인공지능이 기술, 공학의 영역을 넘어 사회, 경제, 법률 등 전사회적 영역을 아우르는 현실에서 현행 지능정보화기본법의 수준을 넘어서는 국가수준의 인공지능에 대한 기본법을 제정한다면, 인공지능 기술과 제품이 국민의 안전과 인권에 미치는 위험을 방지하고 조치하는 규제기관의 작용과 감독 정책을 효과적으로 집행하고, 피해자를 구제하며, 위반시 처벌하는 내용을 반드시 포함하여야 할 것이다. 챗GPT를 비롯한 인공지능 제품과 서비스, 공공 의사결정이 오류, 안전, 인권에 미치는 위험성이 그 어느 때보다 높아지는 현재 시점에 제정되는 인공지능 기본법이, 과기부가 소관하는 인공지능 산업 진흥을 위하여 다른 규제기관 업무를 방해하고 국민의 안전과 인권을 위험에 처하게 하는 내용이어서는 안될 것이다. 이에 15개 인권시민단체는 과방위 전체회의에서 법안을 전면 재검토할 것을 요구하며 의견서를 제출한다고 밝혔다.

붙임 –「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(소위안)」에 대한 인권시민단체 의견서

보도자료 원문보기/다운로드

The post 15개 인권시민단체, 국회 과방위 법안심사소위 통과한 인공지능육성법안 반대 의견서 제출 appeared first on 참여연대.

국회는 정보주체의 권리 강화를 위한 개인정보보호법 개정에 즉시 착수해야

지난 2월 27일, 개인정보보호법 개정안(의안번호 2120089 위원장 대안, 이하 개정안)이 국회 본회의를 통과했다. 개정안은 현행 개인정보보호법보다 일부개선된 측면이 있음에도 불구하고, 정보주체의 권리 보호와 개인정보 처리자의 책임성 강화 측면에서 국제적인 규범과 시민사회의 기대에 한참 미흡한 수준이다. 이에 다음과 같이 이번 개정안의 한계를 짚고, 향후의 개선 과제를 제안하고자 한다.

우선, 개정안이 상임위인 국회 정무위원회를 통과한 직후, 시민사회는 수사기관의 ‘원격 몰래 감시’의 가능성을 열어준 독소조항에 대한 우려를 표명한 바 있는데, 법사위 논의 과정에서 해당 문구가 삭제된 것은 다행스럽다.

그러나 개정안은 개인정보 활용을 요구하는 산업계의 로비에 밀려 국제규범에 한참 미흡한 수준으로 타협하였다.

• 법 위반 행위에 대한 과징금과 관련하여, 애초 정부안도 전체 매출액의 3%로 규정하여, 전 세계 연간 매출액의 4%까지 부과할 수 있는 유럽연합의 개인정보보호법 수준에 미치지 못하였는데, 그마저도 ‘전체 매출액에서 위반행위와 관련이 없는 매출액을 제외(신설 제64조의2 2항)’하는 것으로 후퇴하였다. 여전히 무엇이 관련 매출액인지에 대한 논란이 발생할 수밖에 없고 기업들은 이를 빌미로 소송을 제기하여 법 위반에 대한 처벌이 한없이 유예되지 않을지 우려된다.
• 인공지능 시대에 필수적인 규정인 ‘완전 자동화 의사결정’에 대한 정보주체의 권리조항은(신설 제37조의2), 유럽연합에 비해 보호 수준이 미흡하다. 유럽연합의 경우 동의, 계약, 법률에 의한 경우를 제외하고는 정보주체에게 중대한 영향을 미치는 완전 자동화 의사결정을 원칙적으로 금지하고 있지만, 개정안은 원칙적으로 허용하되 정보주체가 사후에 거부할 수 있도록 했다. 그러나 개인정보 처리자가 자신의 ‘정당한 이익’을 주장하며 완전 자동화 의사결정을 했을 경우, 이에 대해 고지조차 제대로 받지 못하는 정보주체가 어떻게 거부권을 행사할 수 있을지 실효성조차 의문이다.
• 개정안에 신설된 전송요구권(신설 제35조의2)의 경우, 정보주체 강화 명문을 내세우고 있지만, 사실 마이데이터 산업 육성을 위한 것임이 명백하다. 정보주체의 동의를 받는다고 하더라도 다크패턴이 확대되는 상황을 고려할 때, 정보 전송을 통해 개인정보가 악용될 위험과 그 결과에 대한 충분한 설명이 정보주체에게 제공되리라 신뢰하기 어렵다. 개인정보 상업화에 혈안이 된 기업들의 개인정보 집적과 남용의 위험성 여전히 상존하기 때문이다. 연계정보(CI)를 활용한 주민등록번호 기반 서비스가 확대되는 상황을 고려하면 개인정보 집적과 연계로 인한 위험성은 더욱 커진다. 무엇보다 보건의료 개인정보의 경우 정보주체의 동의가 있다하더라도 개인 건강정보의 특수성 때문에 정보 전송에 대한 공공의 통제가 요구되는 영역이다. 정부가 추진하고 내놓은 ‘의료 마이데이터’ 사업은 이런 규제를 없애 상업적 활용을 촉진하는 방향이 제시돼 있다. 전송요구권은 다른 제도들과 결합되어 개인 민감정보의 악용으로 이어질 우려가 크다. 따라서 최소한 보건의료 정보를 포함한 민감정보와 공공분야에서의 개인정보와 관련해서는 전송요구권이 남용되지 않도록 제한할 것을 요구한다. 
• 그 외에도 ‘정보주체와의 계약의 체결 및 이행을 위하여 불가피하게 필요한 경우’를 ‘정보주체와 체결한 계약을 이행하거나 계약을 체결하는 과정에서 정보주체의 요청에 따른 조치를 이행하기 위하여 필요한 경우’로 완화하는 등, 애초에 정부안에 대한 시민사회 의견서에서 지적했던 문제들이 반영되지 않았다.

이번 개정안은 이미 국회를 통과하였지만, 개인정보 보호법은 여전히 개선되어야 할 부분이 많다. 개인정보보호위원회가 정부안을 발의하는 과정에서 시민사회의 의견을 반영하지 않았고, 국회에서도 병합안을 입안하는 과정에서 시민사회의 요구가 반영되어 정보주체의 권리 보장과 개인정보처리자의 책임성 강화를 주 내용으로 하는 민병덕 의원안 및 배진교 의원안은 배제하였기 때문이다. 추후 개정에는 아래와 같은 내용이 포함되어야 한다. 

첫째, 민병덕 의원안 및 배진교 의원안을 반영하여 정보주체의 권리 보호와 개인정보 처리자의 책임성을 강화해야 한다.

• 과학적 연구 목적의 개인정보 활용 요건을 엄격히 하여,  공익적인 연구에 한하여 충분한 안전조치를 전제로 이용할 수 있도록 해야 한다. 
• 동의 외에 어떠한 적법 근거에 따라 개인정보를 처리하든, 자신의 개인정보가 어떻게 처리되는지에 대해 정보주체에게 충분한 정보를 제공해야 한다. 
• 정보수사기관이 충분한 안전조치 없이 개인정보에 접근할 수 있도록 하고 있는 현행 요건을 보다 엄격하게 제한해야 한다. 
• 개인정보 영향평가 제도를 민간의 고위험 개인정보 처리로 확대하여, 빅데이터, 인공지능 시대에 개인정보 영향평가가 실질적인 안전조치로 역할할 수 있도록 해야 한다.

둘째, 표적 광고를 목적으로 동의없이 이용자의 인터넷 행태정보를 수집하는 관행에 대한 우려가 높아지고 있고, 이에 개인정보보호위원회에서 작업반을 구성하여 표적 광고와 관련한 가이드라인을 논의하고 있는 바, 법적 확실성을 위하여 개인정보보호법에 표적 광고 목적의 식별자를 개인정보로 명확하게 규정할 필요가 있다. 표적 광고 자체가 서로 다른 개인의 취향과 관심사에 맞춰 제공되는 것임에도 불구하고, 기업들은 뻔뻔하게도 이를 개인정보가 아니라고 우기면서 정보주체의 동의 없이 이를 처리해왔기 때문이다.

아직 21대 국회가 1년 넘게 남아있는 만큼, 향후에는 진정으로 정보주체의 권리를 보호하는 방향으로 개인정보보호법을 개정할 것을 국회에 촉구한다.

2023년 3월 3일
경제정의실천시민연합, 무상의료운동본부, 전국민주노동조합총연맹,민주사회를위한변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 소비자시민모임, 연구공동체  건강과대안, 전국민주노동조합총연맹 진보네트워크센터, 참여연대, 한국소비자연맹

원문보기/다운로드

The post [공동논평] 국회 본회의 통과한 개인정보보호법 개정안, 국제규범과 시민사회 기대에 한참 못미쳐 appeared first on 참여연대.

정부가 대통령집무실이 위치한 서울 용산구 이태원로와 백범로를 집회와 시위를 금지 또는 제한하는 집시법 시행령 개정안(집회 및 시위에 관한 법률 시행령 일부개정령안 2023.2.24.)을 입법예고 했습니다.

집회를 언제 어디서 할지는
시민의 권리입니다

우리 헌법은 모든 평화적 집회의 자유를 보장합니다.
집회의 자유에는 장소선택의 자유가 포함됩니다.

집회 장소 선택의 자유는 집회의 자유의 핵심적 내용 중 하나로서 항의나 의견 표출의 대상에게 ‘들릴 수 있고, 보일 수 있는 곳’에서 이루어져야 비로소 온전한 집회의 자유 행사가 됩니다. 대통령이 듣고 보아야 할 집회를 대통령 집무실 앞에서 하는 것은 너무나 자연스러운 일입니다.

민주정치의 실현에 매우 중요한 기본권인 집회의 자유!
교통소통의 공익보다 우위에 있습니다

헌법재판소는 2003년 10월 30일 결정을 통해, “평화적 집회 그 자체는 공공의 안녕질서에 대한 위험이나 침해로서 평가되어서는 아니되며 집회의 자유를 집단적으로 행사함으로써 불가피하게 발생하는 대중에 대한 불편함이나 법익 위험은 보호법익과 조화를 이루는 범위 내에서 국가와 제3자에 의하여 수인되어야” 한다는 점을 분명히 했습니다.

법원 또한 다수의 경찰의 집회 금지 사건에서 대규모 집회시위로 인해 어느 정도의 교통불편이 예상된다 하더라도 이는 국민들이 수인할 수 있으며 교통 소통의 공익보다 해당 집회의 자유 보장이 더 중요하다는 점을 거듭 확인해 왔습니다.

윤석열 대통령은 대통령 집무실 용산 이전을 미국의 워싱턴DC 대로변에 있는 백악관처럼 국민 속으로 들어가, 누구에게나 열려있는 곳으로 만들기 위해서라고 밝힌 바 있습니다. 특히 국가의 원수로서 국민의 다양한 목소리와 고충을 직접 듣고 국민의 자유와 복리를 증진하는 국가 정책을 수립해야 하는 대통령 직책의 특수성을 고려해 대통령 집무실 등 업무가 이루어지는 공간 주변 도로의 교통소통을 핑계로 집회 금지장소로 지정하는 것은 이 같은 용산집무실 이전 취지에도 맞지 않습니다.

경찰은 그동안 집시법에서 집회 금지 장소로 규정한 ‘대통령 관저’에 집무실도 포함된다며 용산 대통령 집무실 앞 집회를 금지해왔지만, 지난 1월 12일 서울행정법원이 “대통령 집무실은 대통령 관저에 포함될 수 없다”고 결정하자, 이번에는 이태원로와 인근 백범로 일대를 집회 금지 주요 도로에 포함시켜 집회를 막으려 하고 있습니다.

시민의 권리보다 대통령 심기 경호를 우선으로 생각하는
반민주적, 반헌법적인 꼼수에 반대한다면

대통령집무실 앞 집회를 금지하려는
경찰의 집시법 시행령 개정안에
반대하는 목소리를 함께 내주세요

2023. 4. 3.까지 서명을 모아

• 경찰청 정보관리과(02-3150-2450, [email protected])에 전달하고
• 집시법 시행령 개정안에 반대하는 의견서를 제출할 예정입니다. 

지금 서명하기

The post [서명] ‘대통령 집무실 앞 집회 금지’ 꼼수를 막아주세요 appeared first on 참여연대.

일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최합니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
  • 우리의 요구 낭독
• 문의 : 참여연대 공익법센터 02-723-0666

원문보기/다운로드

The post [긴급기자회견3/9] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.

일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최하였습니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
• 문의 : 참여연대 공익법센터 02-723-0666

참석자 주요 발언

과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)

점점 국가는 국가의 기본적 책무를 저버리는 방향으로 가고 있습니다. 국가의 기본권 보호의무를 저버리는 법안입니다.
법안 11조 1항은 생명안전권익에 위해가 발생한 이후에야 규제할 수 있습니다. 이미 피해가 발생한 후에 조치하는 것으로 국가의 기본권보호의무를 다한다고 볼 수 없습니다. 
사전규제는 안전보장 질서유지 공공복리 현저히 저해할 우려가 있을 때만 가능합니다. 그런데 현저히 저해할 우려를 국가가 어떻게 입증할 것인가요?  국가가 그 현저히 저해할 우려를 사전에 입증하는 것은, 거의 불가능하다고 봅니다.
헌법 37조2항에 따라 국가는 안전보장 질서유지 공공복리를 위해 필요한 경우 기본권을 제한할 수 있습니다. 그런데 이 법안처럼 다른 기본권이나 헌법가치를 현저히 해할 우려를 요건으로 하는 경우는 일반적이지 않습니다. 인공지능을 개발, 출시할 권리가 안전보장이나 공공복리를 침해할 현저한 우려가 있을 때만 제한해야 할만큼 다른 기본권이나 헌법적 가치보다 우위에 있는가 의문입니다. 일부 기업의 이익을 대다수 국민의 안전을 볼모로 해서 보장하려는 것이 과연  올바른 법익형량인가요?
그렇다면 사후규제는 과연 실효적일 수 있을까요? 이미 생명안전권익 위해가 발생했다면, 특히 생명안전 위해는 사후약방문입니다. 온전한 회복이 될 수 없습니다.
더군다나 책임은 제대로 물을 수 있을까요? 자동차 급발진에 대해서도 책임을 묻지 못하는데, 인공지능의 오류나 오작동, 편향에 대해 책임을 묻는 것이 쉽겠습니까. 인공지능이 어디까지 책임을 져야하는지 그 개발자나 기업에 어디까지 책임을 물을 수 있는지 아직 법체계 정비나 해석이 미비합니다. 실제 위해가 발생했을때 사후적으로라도 책임을 묻고 사후적 권리구제 피해회복이라도 가능하겠는가 묻지 않을 수 없습니다. 그리고 필요한 규제를 하지 않은 국가는 인공지능의 위험으로부터 국민을 보호할 규제장치를 마련하지 않은 것에 책임을 지겠습니까? 이 조항을 내세워, 현저한 우려까지는 입증하기 어려웠다며 책임을 피해가지 않을까요.
결국 기업에게도 국가에게도 책임을 피해갈 수 있게 해주는 법안을 통과시키려는 것입니다.
11조 2항에서는 다른 법령도 1항의 원칙에 맞게 정비하라는데 이것이 다른 규제목적을 지닌 법령까지 개폐해야 할만큼 우위의 원칙이라고 볼 수 없습니다.
26조에서는 고위험 인공지능의 확인을 과기정통부 장관의 확인을 요청할 수 있도록 하고 있습니다. 고위험 인공지능에 해당하여야 사업자 책무와 같이 아주 미약한 일부 규제가 적용되는데 이것도 고위험인공지능에 해당하는지에 대한 판단이 과기정통부장관의 확인에 종속, 의존될 가능성이 너무 높습니다.

과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 

저희는 인공지능산업 육성을 지지합니다.  그러나 이번 법안심사소위를 통과한 인공지능법안에 기초한 인공지능산업 육성에 반대합니다.
전세계적으로 아니, 대한민국의 인공지능산업이 지금 육성만 하면 되는 시기인지 묻고 싶습니다.
이루다사태로 차별과 혐오발언이 양산되고, 카카오t가 가맹택시인 카카오 블루에 콜을 몰아주는 것도 규제하지 못하였습니다. 지금까지 우선허용 사후규제 원칙이 지켜지지 않아 이러한 문제가 발생한 것이 아닙니다.
인공지능기술은 이제 일상생활뿐만아니라 사람의 권리와 의무에도 영향을 미치고 있습니다. 이에 국가인권위원회는 작년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>에서 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공하라고 권고 하였습니다.
이제 인공지능기술산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 교육, 보건, 노동 등 분야에서 인공지능기술을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이루어져야합니다.
인공지는법안은 인공지능 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비하는 내용을 담아야하고, 과학기술정보통신부가 이를 해내기는 어렵습니다.
지난 정부는 “사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략”을 관계부처 합동으로 진행한바 있습니다. 사람의 권리에 인공지능기술이 영향을 미치는 지금 그 산업육성을 위해 여러 부처가 함께논의를 이어 가야한다는 것을 분명히 익식한 행보입니다.
이에 시민사회는 사람이 생명과 안전을 보장하는 건강한 인공지능기술산업이 육성되도록 되거버넌스를 구성하고 논의를 이어갈것을 강력히 촉구합니다.

유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)

과방위 인공지능 법안은 미래 산업 육성을 명분으로 모든 규제를 완화하고 있습니다. 그러나 인공지능 제품과 서비스의 위험 문제는 먼 미래가 아니고 우리 눈앞에 닥친 문제입니다.
카카오택시는 영업비밀 뒤에 숨어서 차별적인 알고리즘을 운영했습니다. 뒤늦게 공정거래위원회가 조사하고 조치하였습니다. 인공지능 스피커 등에 내장되는 인공지능 챗봇인 이루다는 혐오 발언과 개인정보보호법 위반으로 논란을 빚었습니다. 버전 2.0을 출시할 때는 개인정보보호위원회와 사전에 협의하여 위법성을 줄였습니다. 그런데 이 법이 통과되면 공정거래위원회와 개인정보보호위원회, 국가인권위원회가 인공지능의 위험성을 제대로 조사하고 특히 사전에 조치하는 일은 큰 방해를 받게 될 것입니다.
해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있습니다. 쇼핑몰 무인로봇은 유아를 공격하였고, 자율주행차는 작동 오류로 사망사고를 여러건 일으켰습니다. 인공지능 스피커는 음성을 잘못 인식하여 엉뚱한 주문을 하기도 했습니다. 이런 상황에서 해외 여러 규범은 인공지능 위험으로부터 안전과 인권을 법적으로 보장하기 위한 제도 마련에 분주합니다.
유엔은 사무총장과 유엔인권최고대표 등이 각국에 인공지능 규제 입법을 권고하여 왔습니다. 특히 인공지능의 인권침해와 차별 등을 국가적으로 감독하기 위한 체계를 마련하고 피해자의 권리를 구제할 것을 요구하였습니다. 우리나라 국가인권위원회도 같은 기준을 갖춘 법률을 입법할 것을 정부에 권고하였습니다.
인공지능 위험성을 인지한 해외에서 가장 빠르게 입법이 된 분야는 공공부문입니다. 영국 정부 인공지능 조달지침이나 캐나다 정부 자동화된 의사결정 훈령은 공공부문이 조달하는 인공지능의 경우 데이터 품질 보장, 영향평가, 설명가능성, 투명성 등을 의무로 부과하였습니다.
가장 앞선 곳은 유럽연합입니다. 유럽연합 집행위원회는 2021년 4월 인공지능법안을 제안하였고, 올해 의회 통과가 예상되고 있습니다. 이 법안은 시민에게 너무 위험하여 용인할 수 없는 인공지능을 금지하였고 여기에는 장애인등의 취약점을 악용하는 인공지능이나 공공장소에서 원격으로 감시하는 생체인식 인공지능이 포함됩니다. 차량, 승강기, 의료기기, 장난감 등에 사용되는 인공지능은 고위험으로 특별하게 관리됩니다. 이는 단지 고위험으로 분류하는데 그치지 않고 규제기관이 사후에 집중적으로 개입할 수 있도록 자세한 데이터 품질이나 문서화 의무 등을 사전에 갖추도록 규정하였고, 여러 영향평가와 인증을 출시전에 마쳐야 합니다. 형식적인 고위험 관리가 아닙니다. 규제기관 협조 등 고위험 인공지능에 부과된 의무를 거부하는 경우 전세계 연매출액의 4%~6%의 과징금으로 처벌됩니다.
한편 인공지능규제에서 미국이 많이 완화되어 있다고들 이야기합니다. 그러나 최근 바이든 행정부 등장 이후 알고리즘과 빅테크 위험성을 여러차례 경고하면서 연방차원의 알고리즘 책무성 법안이나 빅테크 6개 규제법 패키지 입법을 적극적으로 추진하고 있습니다.
이런 상황에서 인공지능 위험에 대응하는 모든 규제를 금지하고 우선허용 사후규제를 명시하는 인공지능법안은 국제적 흐름에 어긋납니다. 인공지능의 위험성을 통제하는 제도를 마련하기 위해 노력해온 세계 시민의 놀라움과 비웃음을 사게 될 것입니다. 국민의 안전과 인권, 때로는 생계에 위험한 영향을 미치는 인공지능의 규제를 사전적으로는 금지하고 사후적으로도 회피하는 인공지능 입법은 세계 유례가 없을 것입니다.

국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)

인공지능산업육성법은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있습니다.
의료 인공지능으로 잘 알려진 것으로 IBM이 개발한 ‘왓슨’이 있었습니다. 왓슨은 환자 데이터를 입력하면 치료방법을 제시하는 프로그램이었습니다. IBM은 이 프로그램을 ‘암 치료의 혁명’이라고 홍보했습니다.
문제는 이 기술이 연구단계임에도 판매돼서 상용화됐었다는 것입니다. 왓슨은 안전하지 않고 부정확한 치료법을 추천했습니다. 폐암의 경우 정확도가 18%, 위암과 유방암의 정확도도 40%대에 불과했습니다. 그래서 어떤 의사들은 이 프로그램을 “쓰레기”라고 불렀습니다.
그럼에도 불구하고 많은 병원들이 ‘왓슨’을 도입했습니다. 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있기 때문이었습니다. 한국의 지방 대학병원들도 너도나도 이 프로그램을 도입해서 환자를 끌어들였습니다.
이것이 보여주는 바는, 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든다는 것입니다. 기업들의 이익을 위해서 말입니다.
최근에는 인공지능으로 병원시스템 전체를 개조하려는 움직임도 있습니다. 인공지능으로 환자와 의료진에게 음성명령을 내려서 병실을 관리한다는 것입니다. 이걸 기업들은 ‘스마트병원’이라고 부릅니다. 하지만 그것이 과연 스마트할지 아닐지는 철저한 검증이 있어야 알 수 있는 것입니다. 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있습니다.
특히 병원 같은 데에서는 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에, 인공지능 검증을 생략하는 것은, 훌륭한 어떤 학자의 말을 인용하면 ‘쓰레기를 강매’하는 것입니다.
이 법이 의료 인공지능은 고위험 기술이라고 분류하면서고 거의 아무런 제한을 두지 않는 것은, 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것입니다.
정도는 다를지 모르지만 다른 영역에서도 인공지능이 사회의 주요 기능과 뗄수없이 결합되면 많은 국민들이 안전 문제를 겪을 것입니다. 예컨대 자율주행차 같은 것들 말입니다.
‘디지털 예외주의’가 판치고 있습니다. 새로운 디지털 기술은 기존 규제의 적용을 받는게 부적절하다면서 규제완화를 정당화합니다.
하지만 이건 넌센스입니다. 거꾸로 인공지능 같은 새로운 디지털 기술은 우리가 잘 알지 못하기 때문에 오히려 기존 기술보다 더 엄격히 통제되어야 합니다. 인공지능의 알고리즘이 불투명하고 의사결정을 내리는 과정과 기준을 알 수 없다는 점 때문에도 더욱 철저하게 검증돼야 하고 제한적으로 적용되어야 합니다.
차별을 확대하지 않기 위해 윤리적 기준이 엄격해야 하고, 개인정보 보호에 대한 보호와 규제가 필수입니다.
그러나 인공지능 산업을 육성하겠다는 윤석열 정부와 국회는 오로지 기업 이윤을 위해 이런 안전장치를 다 허물려 하고 있습니다.
보건의료 부문은 물론이고 인공지능 규제완화는 국민의 생명 안전 인권을 심각하게 침해할 것입니다. 이 말도 안되는 악법이 통과되는 일은 없어야 할것입니다

원문보기/다운로드

The post [기자회견] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.

경찰, 집회 자유 대신 대통령 심기 경호하는 꼼수 개정안 철회해야

4월 3일까지 서명 받아 반대의견서와 함께 경찰청에 전달 예정

참여연대 공익법센터(소장 허진민 변호사)가 지난 3월 8일부터 시작한 집시법시행령 개정 반대 서명 캠페인  “대통령 눈앞에서는 집회하지 마라?” 이 서명 시작 6일만인 3/13(월)에 1차 서명 목표인 2023명을 훌쩍 넘겼으며, 오늘(14일) 오전 10시 20분 경 2,500명을 넘을 정도로 빠르게 서명자 수가 늘고 있습니다. 이러한 시민들의 호응은 집회 및 시위의 자유를 침해할 우려가 높은 이번 시행령 개정안에 대해 많은 시민들이 분노하며 반대하고 있다는 사실을 보여주는 것입니다.

그동안 대통령집무실 앞 집회를 막기 위해 경찰은 집시법상 집회 금지장소인 대통령관저에 대통령집무실이 포함된다며 금지통고해 왔으나, 법원은 일관되게 대통령 집무실은 관저에 포함될 수 없다고 확인한 바 있습니다. 이에 경찰은 대통령집무실 인근 이태원로와 백범로를 집회금지가 가능한 ‘주요도시의 주요도로’에 추가하려는 것으로, 대통령 심기 경호를 위해 권력이 불편해할 집회를 차단하겠다는 꼼수에 다름 아닙니다. 이번 서명의 참여 열기는 이 같은 경찰의 꼼수를 용납하지 않겠다는 시민들의 의지가 드러난 것으로 볼 수 있을 것입니다. 

참여연대는 이번 반헌법적 시행령 개정안의 철회를 위해 캠페인 기간(~2023. 4. 3) 동안 더 많은 시민들에게 홍보 및 항의의 목소리를 모으고, 입법의견서와 함께 경찰에 제출할 예정입니다.

• 캠페인 바로가기 : 대통령 눈앞에서는 집회하지 마라? https://bit.ly/3mNy1aY 

The post [캠페인소식] 대통령집무실 앞 집회 막는 시행령 반대 서명 캠페인 불붙어 appeared first on 참여연대.

각 당과 상임위는 인공지능법안에 대한 입장을 명확히 밝혀라

지난 3월 15일, 국민의힘 김기현 대표와 회동한 자리에서 더불어민주당 이재명 대표는 “불합리한 규제는 해소해야 하지만 국민의 안전이나 생명과 관계된 규제는 강화할 필요가 있다”고 말했다고 한다. 그러나 더불어민주당 의원도 주축이 되어 추진하고 있는 인공지능 법안에 대한 전면적인 재검토 없이는 이재명 대표의 이러한 발언은 진정성을 지니기 어렵다. 현재 국회 과방위 심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(‘인공지능법안’)」은 “국민의 안전과 생명”에 부정적 영향을 미칠 수 있는 고위험 인공지능의 위험을 통제할 수 있는 실질적인 방안도 없을 뿐만 아니라, 오히려 “우선허용·사후규제 원칙”(제11조 제1항)을 내세워 안전과 생명에 대한 위협을 완화할 수 있는 사전예방 조치에 대해서는 전혀 규율하지 않고 있기 때문이다. 집권여당인 국민의힘 또한 안전과 생명을 위협할 수 있는 고위험 인공지능에 대해서 실제 피해가 발생하기 전에는 규제하지 말자는 것이 당의 공식 입장인지 명확히 밝혀야 한다.

이 법안의 주무부처가 과학기술정보통신부인 것도 문제다. 유럽연합 및 미국 등 주요 해외 국가에서 현재 추진되고 있는 인공지능 법안은 고위험 인공지능 제품과 서비스는 소비자의 안전과 생명에 미치는 영향이 크다고 보고 규제를 강화하고 있는 동시에, 소비자 보호 및 인권 보장을 위한 기존의 규제 및 감독 체제를 인정하고 있다. 또한 미국의 알고리즘책무성 법안에서는 연방거래위원회(FTC)가, 유럽연합의 인공지능 법안은 각 국의 ‘시장 감시 기관’이 주무를 담당하도록 하고 있다. 그러나 한국의 과기정통부는 인공지능 산업육성에만 치중할 뿐, 고위험 인공지능으로부터 안전과 생명을 보호할 수 있는 공적 규제를 담당할만한 전문성도 의지도 없다. 더구나 과방위의 인공지능 법안은 다른 정부부처나 지방자치단체들이 고위험 인공지능을 규제하기 위한 법령이나 제도를 수립할 때 “우선허용·사후규제 원칙”에 부합하도록 요구하고 있으며, 해당 인공지능이 고위험영역 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관이 담당하도록 함으로써, “국민의 안전과 생명”을 보호하기 위한 타 부처의 규제 조차 시행하지 못하거나 사실상 과기정통부의 승인을 받도록 하고 있다.

상황이 이러함에도, 소비자보호와 개인정보보호 관련법과 기구를 소관해온 정무위, 제품안전을 소관해온 산자위, 사회안전을 소관해온 행안위,산업안전을 소관해온 환노위 등 다른 상임위는 인공지능이 미칠 위험성에 대해 관심을 갖고는 있는 것인지, 소관 분야에서 고위험 인공지능이 미칠 위험성을 통제하기 위한 각 상임위의 역할에 대해서 자각은 하고 있는 것인지 우려하지 않을 수 없다. 지금 인공지능 법 제정을 무작정 서두를 일이 아니다. ‘세계 최초’가 아니라 ‘제대로 된’ 법을 만드는 것이 중요하다. 지금 과방위가 추진하고 있는 인공지능 법안으로는 세계적으로 수용될 수 있는 신뢰성있는 인공지능을 보장하기 힘들다. 인공지능에 대한 사회적 신뢰를 훼손하여 오히려 인공지능 산업발전도 저해할 것이다.

각 당에 묻는다. 안전과 생명, 그리고 인권을 위협할 수 있는 고위험 인공지능에 대한 우려가 전 세계적으로 높아지고 있는 이 시점에, “우선허용·사후규제 원칙”이 각 당의 공식적인 입장인가.

기존의 규제법을 소관해온 각 상임위에 묻는다. 각 상임위 의원들은 고위험 인공지능 규제를 위한, 각 상임위의 공공정책 수립에 과기정통부가 상급 부처로서 관여하는 것에 동의하는가. 고위험 인공지능으로부터 안전과 생명, 인권을 보호하기 위한 각 상임위의 역할과 임무를 고민하고 있는가.

2023년 3월 17일 

민변디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대

원문보기/다운로드

The post 과방위 인공지능 법안, 국민의 안전과 생명을 보장할 수 있나 appeared first on 참여연대.