서울시는 거짓 핑계 대지 말고 광화문광장에서 유족과 시민들이 애도할 수 있게 해야

2월 4일은 10.29이태원참사가 발생한 지 100일이 되는 날이다. ‘10.29 이태원 참사 시민대책회의가 유가족과 함께 광화문광장에서 ’100일 시민추모대회‘(이하 100일 추모대회)를 하려고 했으나 서울시는 1월 26일 ‘KBS 방송 촬영과 일정이 중복되었다며 사용신청을 반려했다.

그러나 이는 핑계에 지나지 않았다. 확인한 결과 KBS촬영장소는100일 추모대회를 하는 곳과 겹치지 않으며, 시민대책회의가 오전부터 장소사용신청을 한 것은 추모행사무대를 설치하기 위한 것이었기에 촬영에 방해가 되지도 않는다. KBS 촬영팀도 100일 추모대회를 위해 철거를 최대한 서두르겠다며 협조의사까지 밝혔다. 그럼에도 서울시는 방송촬영을 핑계댄 것은 유가족들과 시민들의 애도행위조차 막으려는 것으로 비판 받아 마땅하다.

더구나 서울시는 이번 10.29이태원참사에 책임이 있는 지방정부다. 안전조치만 있었어도, 교통통제 및 안전인력 배치 등 예방조치만 했어도 막을 수 있는 참사였다. 도대체 어느 나라에서 길을 걷다가 시민이 159명이나 압사를 당하겠는가. 그런데도 현 정부는 지방정부, 중앙정부 할 것없이 책임을 인정하지 않는다. 자료제출조차 제대로 하지 않아 국회 국정조사특위에서 진상규명도 제대로 되지 못해 아프고 시린 마음으로 100일을 맞는 유가족을 위로하기는커녕 추모대회조차 막는다는 게 상식적인 일인가.

오세훈 서울시장은 이태원 참사 이전에도 시민들의 목소리를 차단하려고 광화문광장에서 집회를 금지하려 시도한 적이 있다. 이에 인권단체들이 <광화문광장 집회의 권리 쟁취 공동행동>을 꾸려 불복종집회를 개최한 바 있다. 이런 집회시위 권리 침해에 대한 비판 여론이 일자 2022년 10월 열린 국회 행정안전위원회 서울시 국정감사에서 오세훈 시장은 집회·시위 전면 불허 방침은 “처음부터 오해가 있던 사안”이라고 해명한 바 있지만, 아직까지 이렇다 할 공식적인 입장표명이나 조치도 없었다. 이런 상황에서 또 이태원참사 100일 시민추모대회를 거짓 핑계까지 대며 막으려 하니 도대체 민주주의에 대한 이해가 있는지 묻지 않을 수 없다.

<광화문광장 집회의 권리 쟁취 공동행동>은 다시 한 번 서울시에 촉구한다. 광장은 모든 사람에게 열려 있어야 한다. 광장은 민주주의가 싹트는 장소여야 한다. 민주주의는 고통 받는 이들과 손잡고 연대하는 속에서 시민들이 만들어 가는 것이다. 더 이상 서울시는 민주주의와 애도의 행동을 가로막아선 안 된다. 이제라도 서울시는 100일 추모대회 행사 장소사용 신청을 수리해야 한다. 나아가 10. 29이태원참사에 대한 서울시의 책임을 오롯이 인정하고 사죄해야 한다. 서울시에 경고한다. 서울시가 끝까지 100일 추모대회 행사를 위한 광화문광장 사용을 가로막는다면 전국민적인 저항에 부딪힐 것이다. 우리는 시민들과 함께 이태원 참사 희생자들을 애도하고 진실규명을 위해 실천할 것이다.

2023년 2월3일

광화문광장 집회의 권리 쟁취 공동행동 (4월16일의약속국민연대, 공권력감시대응팀(공익인권변호사모임 희망을만드는법, 다산인권센터, 민주주의법학연구회, 인권운동공간 활, 인권운동사랑방, 진보네트워크센터,천주교인권위원회), 녹색당, 문화민주주의실천연대, 문화연대, 민주노총서울지역본부, 민주사회를위한변호사모임 공익인권변론센터, 블랙리스트 이후(준), 인권운동네트워크 바람, 전국민주노동조합총연맹, 전국장애인차별철폐연대, 차별금지법제정연대, 참여연대)

• 서울시가 보낸 반려 공문

• KBS와 나눈 장소 협조 내용

원문보기/다운로드

The post 서울시는 이태원참사 100일 시민추모대회를 막지 마라! appeared first on 참여연대.

인권침해적 얼굴인식 기술 도입 중단, 통제 제도부터 마련해야

어제(1/25) 국가인권위원회는 얼굴인식 기술이 인권을 침해하지 않도록 입법으로 보호하고 인권영향평가를 실시할 것을 정부와 국회에 권고하였다. 특히 불특정 다수를 대상으로 공공장소에서 ‘실시간 원격 얼굴인식’을 사용하는 것은 기본권 침해 위험이 매우 크다고 지적하면서 원칙적 금지를 요구하였다. 인권침해적 얼굴인식 기술의 활용을 우려하고 대책을 요구해 온 우리 단체들은 국가인권위원회의 이번 권고를 환영한다.

개인의 얼굴을 자동으로 인식하는 얼굴인식 기술은 휴대전화 잠금해제, 출입 인증 등 다양한 분야에서 개인을 식별·분류하는 데 이용되고 있다. 그러나 얼굴을 비롯한 생체인식 기술은 한 개인의 신체에 각인되어 평생 변경하기 어려운 민감정보에 기반한다는 점에서 정보주체의 명확한 동의를 받는 등 신중하게 도입되어야 한다. 특히 공공장소에서 원격으로 얼굴이나 동작 등 생체정보를 인식하여 개인을 식별하고 추적하는 원격 생체인식의 경우, 당사자의 개인정보와 사생활의 비밀과 자유를 침해하고, 이동의 자유를 제한하며, 공공장소에서 집회 및 결사의 자유를 행사하는 것을 위축시킬 우려가 크다. 얼굴인식 기술이 원격으로 개인을 은밀하게 추적하는 데 사용된다면 장기간에 걸친 감시에 악용될 수 있다는 점에서 인권침해 위험이 매우 크다. 유엔 자유권규약위원회, 유엔인권이사회, 유엔인권최고대표, 유럽연합기본권청 등 국제인권기구는 공공장소 얼굴인식기술이 인권에 미치는 위험을 경고하여 왔으며, 충분한 보호 제도가 마련되기 전에는 사용을 중지할 것 또한 권고하여 왔다.

우리나라에서는 2020년에야 비로소 개인정보보호법령에서 얼굴인식정보 등 생체인식정보를 보호하기 시작하였으나 그조차도 공공기관에는 예외를 부여한 상태이다(개인정보보호법 시행령 제18조). 특히 공공장소 실시간 얼굴인식기술에 대해서는 입법적으로나 인권정책적으로나 통제장치가 전혀 마련되어 있지 않다. 이런 상황에서 일부 중앙행정기관과 지방자치단체가 무책임하게 공공장소 얼굴인식의 도입을 추진하여 인권침해 우려가 커졌다. 경기도 부천시는 과학기술정보통신부의 지원으로 시에서 운영하는 모든 CCTV에서 코로나19 확진자와 그 접촉자의 얼굴을 자동으로 인식하여 추적하는 프로그램을 개발하였다가 외신을 경악케 한 바  있다. 법무부는 공항에서 얼굴을 식별하여 개인을 추적하는 시스템을 개발하면서 2010년부터 국내에 출입국한 외국인 얼굴정보 1억 2천만 건과 2005년부터 출입국한 내국인 얼굴정보 5천만 건을 무단으로 사용하여 헌법소원이 제기되었다. 오해로 해명되기는 하였지만, 한때 대통령실청사 주변에도 얼굴인식이 도입된다고 알려져 논란이 일기도 하였다.

얼굴인식 기술을 비롯한 최근의 인공지능 신기술은 우리 사회에 다양하고 놀라운 기능을 선보여 왔다. 그러나 어떠한 혁신적인 신기술이라 하여도 그 인권침해 위험이 방치되어서는 안 될 것이다. 해외에서는 얼굴인식 기술이 특정 인종과 특정 성별에 차별적인 결과를 낳는다는 학계와 시민사회의 비판이 계속 있어 왔고, 장애 여부, 연령에 따른 변화로 정확도가 떨어질 위험도 지적된 바 있다. 미국에서는 섣부르게 얼굴인식 기술을 도입한 경찰이 무고한 사람을 체포하고 구금하는 사건과 소송이 잇따르고 있다. 이에 인공지능 기술의 편향성과 위험성에 대하여 경각심을 갖게 된 일부 국가 또는 지방자치단체들의 경우 인권영향평가를 비롯하여 인공지능에 대한 사전 영향평가제도를 도입하여 왔다. 특히 공공장소 얼굴인식을 고위험 인공지능으로 보고 이를 금지하거나 법원이 통제하도록 하는 등 제도적으로 통제하는 방안 또한 여러 지역에서 마련되고 있다.

국가인권위원회가 이미 지적한 바 있듯이, 얼굴인식 기술 등 인공지능 신기술은 데이터를 활용하고 알고리즘을 개발하는 모든 과정에서 인권에 미치는 영향이 크다. 그러나 안타깝게도 현재 우리 정부와 국회에는 신기술의 효용성을 강조하면서 개인정보보호법 등 기존의 보호 제도 완화를 요구하는 목소리만 높다. 신기술의 인권침해로부터 사람을 보호해야 할 의무와 책임을 지고 있는 국가는 이 기술의 인권침해 가능성에 대하여 진지하게 검토하거나 대책을 마련하고 있지 않다. 그런 의미에서 얼굴인식 기술의 도입·활용에서 인권을 보호하라는 국가인권위원회의 권고는 매우 시기적절하며 긴요한 요청이었다. 국회의장 및 국무총리는 국가인권위원회 권고를 즉각 수용하여 얼굴인식 기술의 사용을 제한하고 인권을 보호하는 입법을 추진하는 한편, 실시간 원격 얼굴인식 기술의 위험성을 방지하기 전까지 그 사용을 중지해야 마땅할 것이다.

2023년 1월 26일

민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대

원문보기/다운로드

The post 얼굴인식기술에 대한 인권적 통제 요구한 국가인권위 권고 환영 appeared first on 참여연대.

대통령 관저와 집무실은 별개라는 당연한 사실 재확인

위법적 집회금지처분 중단하고 대통령 집무실 앞 집회 보장해야

오늘(1/12) 서울행정법원 행정13부(재판장 박정대 부장판사)는 지난해 5월 13일 참여연대가 경찰의 용산 대통령집무실 인근 집회 금지통고에 대해 제기한 취소소송에서 “문언적·법체계적·연혁적·목적론적 등 여러 가지 가능한 해석을 종합해 고려한 결과 대통령 집무실은 집시법 11조3호가 정한 대통령 관저에 포함될 수 없”으므로 집회 금지처분 대상이 아니라며 참여연대의 취소소송(서울행정법원 2022아11434)을 받아들였다.

이번 판결은 윤석열 대통령이 집무실을 용산으로 이전한 후 집시법 11조의 대통령관저 인근 100미터 이내 집회금지 조항을 자의적으로 확대 해석해 그동안 수차례 집회금지 통고한 경찰 처분의 위법성을 확인한 당연한 판결이다. 그동안 신고제의 취지를 왜곡해 허가제로 운영한 경찰은 통렬한 반성과 함께 위법·위헌적인 집회금지방침을 전면 철회해야 할 것이다. 특히 국가의 원수로서 국민의 다양한 목소리와 고충을 직접 듣고 국민의 자유와 복리를 증진하는 국가 정책을 수립해야 하는 대통령 직책의 특수성을 고려해 대통령 집무실 등 업무가 이루어지는 공간은 집회의 금지장소로 지정하지 않는 것이 타당할 것이다. 참여연대는 경찰이 용산 대통령집무실 앞 집회를 금지하기 위한 일체의 시도를 중단해야 한다고 강조했다.

이번 행정법원의 판결은 그동안 최소 8회 이상의 집행정지신청을 인용하면서 대통령 관저와 대통령 집무실이 문언상으로도 별개의 공간으로 구별된다는 법원의 일관된 입장을 다시 한번 확인한 것이다. 또한 헌법재판소가 지난달 12월 22일 집시법11조 구2호 대통령관저 앞 100미터 이내 집회금지 조항에 대해 헌법에 불합치한다고 선언하면서, “대통령관저는 대통령과 그 가족의 주거용으로 사용하는 공용재산”이라고 확인한 것의 연장선으로써 그동안 경찰이 자의적으로 확대 해석해 대통령집무실 앞 집회를 금지통고한 처분이 위법임을 명확히 한 것이다.

참여연대는 작년 5월 21일 한미 정상회담을 앞두고 남북·북미 합의 이행과 한반도 평화를 주장하는 기자회견과 집회를 국방부 및 전쟁기념관 앞에서 진행하겠다고 신고한 것에 대해 경찰이 집시법11조의 3호 대통령관저 앞 100미터 이내 집회금지 조항을 근거로 금지통고하자 집행정지신청과 동시에 취소소송을 제기하였다. 당시 법원은 집행정지신청을 받아들이면서 대통령관저와 대통령집무실이 별개의 공간임을 확인하였을 뿐 아니라 이후 이어진 동일한 조항에 근거한 유사한 집회금지통고 사건들에서도 이같은 판단을 거듭 확인했다. 법원의 거듭된 인용결정 이후 경찰은 전면금지 입장을 철회하면서도 500명 이하의 소규모 집회에 한해서 허용하겠다며 다소 완화된 입장을 취했으나, 집회를 경찰 허가의 대상으로 보는 태도를 바꾸지 않은 채 집시법의 집회금지 장소로 대통령집무실을 추가하려고 시도하거나 대통령집무실 인근 이태원로를 주요도로로 지정해 집회금지 장소로 편입하려는 시도를 해 왔다.이런 일체의 시도는 이번 판결을 계기로 모두 중지해야 할 것이다.

헌법21조1항에서 보장하는 집회의 자유는 민주적 공동체가 기능하기 위한 불가결한 근본요소에 해당한다. 또한 집회의 자유는 집회의 시간, 장소, 방법과 목적을 스스로 결정할 권리를 보장하고, 집회 장소는 집회의 목적과 효과에 대하여 중요한 의미를 가지기 때문에, 누구나 ‘어떤 장소’에서 자신이 계획한 집회를 할 것인가를 원칙적으로 자유롭게 결정할 수 있어야만 집회의 자유가 비로소 효과적으로 보장된다는 것이 헌법재판소와 법원의 일관된 입장이다. 집회 장소 선택의 자유는 집회의 자유의 핵심적 내용 중 하나로서 항의나 의견 표출의 대상에게 ‘들릴 수 있고, 보일 수 있는 곳’에서 이루어져야 비로소 온전한 집회의 자유 행사가 된다는 것이다.

대통령을 향한 의견제시, 국정비판을 목적으로 하는 집회는 대통령이 들을 수 있고, 볼 수 있는 곳에서 해야 집회의 목적이 달성된다는 것은 너무도 당연한 상식이다. 그럼에도 경찰이 계속해서 위법한 처분을 반복하고, 집행정지신청 인용결정으로 집회가 개최되어 왔지만, 매번 법원의 개별적 결정을 구해야 하고 본안 소송의 판결까지 오랜 기간을 기다려야 집회의 자유를 확인할 수 있는 현실은 그 자체로 이미 집회를 개최하고자 하는 시민과 단체들에게는 또하나의 장벽이자 위축효과를 낳는다. 참여연대는 경찰의 대통령집무실 앞 집회 금지가 위법한 공권력 행사임이 확인된 만큼 이후 경찰이 시도하는 일체의 집무실 앞 집회금지 시도를 중지할 것을 촉구했다.

원문보기/다운로드

The post 참여연대, 대통령실 앞 집회금지 취소소송 승소 appeared first on 참여연대.

일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최합니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
  • 우리의 요구 낭독
• 문의 : 참여연대 공익법센터 02-723-0666

원문보기/다운로드

The post [긴급기자회견3/9] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.

일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최하였습니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
• 문의 : 참여연대 공익법센터 02-723-0666

참석자 주요 발언

과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)

점점 국가는 국가의 기본적 책무를 저버리는 방향으로 가고 있습니다. 국가의 기본권 보호의무를 저버리는 법안입니다.
법안 11조 1항은 생명안전권익에 위해가 발생한 이후에야 규제할 수 있습니다. 이미 피해가 발생한 후에 조치하는 것으로 국가의 기본권보호의무를 다한다고 볼 수 없습니다. 
사전규제는 안전보장 질서유지 공공복리 현저히 저해할 우려가 있을 때만 가능합니다. 그런데 현저히 저해할 우려를 국가가 어떻게 입증할 것인가요?  국가가 그 현저히 저해할 우려를 사전에 입증하는 것은, 거의 불가능하다고 봅니다.
헌법 37조2항에 따라 국가는 안전보장 질서유지 공공복리를 위해 필요한 경우 기본권을 제한할 수 있습니다. 그런데 이 법안처럼 다른 기본권이나 헌법가치를 현저히 해할 우려를 요건으로 하는 경우는 일반적이지 않습니다. 인공지능을 개발, 출시할 권리가 안전보장이나 공공복리를 침해할 현저한 우려가 있을 때만 제한해야 할만큼 다른 기본권이나 헌법적 가치보다 우위에 있는가 의문입니다. 일부 기업의 이익을 대다수 국민의 안전을 볼모로 해서 보장하려는 것이 과연  올바른 법익형량인가요?
그렇다면 사후규제는 과연 실효적일 수 있을까요? 이미 생명안전권익 위해가 발생했다면, 특히 생명안전 위해는 사후약방문입니다. 온전한 회복이 될 수 없습니다.
더군다나 책임은 제대로 물을 수 있을까요? 자동차 급발진에 대해서도 책임을 묻지 못하는데, 인공지능의 오류나 오작동, 편향에 대해 책임을 묻는 것이 쉽겠습니까. 인공지능이 어디까지 책임을 져야하는지 그 개발자나 기업에 어디까지 책임을 물을 수 있는지 아직 법체계 정비나 해석이 미비합니다. 실제 위해가 발생했을때 사후적으로라도 책임을 묻고 사후적 권리구제 피해회복이라도 가능하겠는가 묻지 않을 수 없습니다. 그리고 필요한 규제를 하지 않은 국가는 인공지능의 위험으로부터 국민을 보호할 규제장치를 마련하지 않은 것에 책임을 지겠습니까? 이 조항을 내세워, 현저한 우려까지는 입증하기 어려웠다며 책임을 피해가지 않을까요.
결국 기업에게도 국가에게도 책임을 피해갈 수 있게 해주는 법안을 통과시키려는 것입니다.
11조 2항에서는 다른 법령도 1항의 원칙에 맞게 정비하라는데 이것이 다른 규제목적을 지닌 법령까지 개폐해야 할만큼 우위의 원칙이라고 볼 수 없습니다.
26조에서는 고위험 인공지능의 확인을 과기정통부 장관의 확인을 요청할 수 있도록 하고 있습니다. 고위험 인공지능에 해당하여야 사업자 책무와 같이 아주 미약한 일부 규제가 적용되는데 이것도 고위험인공지능에 해당하는지에 대한 판단이 과기정통부장관의 확인에 종속, 의존될 가능성이 너무 높습니다.

과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 

저희는 인공지능산업 육성을 지지합니다.  그러나 이번 법안심사소위를 통과한 인공지능법안에 기초한 인공지능산업 육성에 반대합니다.
전세계적으로 아니, 대한민국의 인공지능산업이 지금 육성만 하면 되는 시기인지 묻고 싶습니다.
이루다사태로 차별과 혐오발언이 양산되고, 카카오t가 가맹택시인 카카오 블루에 콜을 몰아주는 것도 규제하지 못하였습니다. 지금까지 우선허용 사후규제 원칙이 지켜지지 않아 이러한 문제가 발생한 것이 아닙니다.
인공지능기술은 이제 일상생활뿐만아니라 사람의 권리와 의무에도 영향을 미치고 있습니다. 이에 국가인권위원회는 작년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>에서 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공하라고 권고 하였습니다.
이제 인공지능기술산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 교육, 보건, 노동 등 분야에서 인공지능기술을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이루어져야합니다.
인공지는법안은 인공지능 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비하는 내용을 담아야하고, 과학기술정보통신부가 이를 해내기는 어렵습니다.
지난 정부는 “사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략”을 관계부처 합동으로 진행한바 있습니다. 사람의 권리에 인공지능기술이 영향을 미치는 지금 그 산업육성을 위해 여러 부처가 함께논의를 이어 가야한다는 것을 분명히 익식한 행보입니다.
이에 시민사회는 사람이 생명과 안전을 보장하는 건강한 인공지능기술산업이 육성되도록 되거버넌스를 구성하고 논의를 이어갈것을 강력히 촉구합니다.

유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)

과방위 인공지능 법안은 미래 산업 육성을 명분으로 모든 규제를 완화하고 있습니다. 그러나 인공지능 제품과 서비스의 위험 문제는 먼 미래가 아니고 우리 눈앞에 닥친 문제입니다.
카카오택시는 영업비밀 뒤에 숨어서 차별적인 알고리즘을 운영했습니다. 뒤늦게 공정거래위원회가 조사하고 조치하였습니다. 인공지능 스피커 등에 내장되는 인공지능 챗봇인 이루다는 혐오 발언과 개인정보보호법 위반으로 논란을 빚었습니다. 버전 2.0을 출시할 때는 개인정보보호위원회와 사전에 협의하여 위법성을 줄였습니다. 그런데 이 법이 통과되면 공정거래위원회와 개인정보보호위원회, 국가인권위원회가 인공지능의 위험성을 제대로 조사하고 특히 사전에 조치하는 일은 큰 방해를 받게 될 것입니다.
해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있습니다. 쇼핑몰 무인로봇은 유아를 공격하였고, 자율주행차는 작동 오류로 사망사고를 여러건 일으켰습니다. 인공지능 스피커는 음성을 잘못 인식하여 엉뚱한 주문을 하기도 했습니다. 이런 상황에서 해외 여러 규범은 인공지능 위험으로부터 안전과 인권을 법적으로 보장하기 위한 제도 마련에 분주합니다.
유엔은 사무총장과 유엔인권최고대표 등이 각국에 인공지능 규제 입법을 권고하여 왔습니다. 특히 인공지능의 인권침해와 차별 등을 국가적으로 감독하기 위한 체계를 마련하고 피해자의 권리를 구제할 것을 요구하였습니다. 우리나라 국가인권위원회도 같은 기준을 갖춘 법률을 입법할 것을 정부에 권고하였습니다.
인공지능 위험성을 인지한 해외에서 가장 빠르게 입법이 된 분야는 공공부문입니다. 영국 정부 인공지능 조달지침이나 캐나다 정부 자동화된 의사결정 훈령은 공공부문이 조달하는 인공지능의 경우 데이터 품질 보장, 영향평가, 설명가능성, 투명성 등을 의무로 부과하였습니다.
가장 앞선 곳은 유럽연합입니다. 유럽연합 집행위원회는 2021년 4월 인공지능법안을 제안하였고, 올해 의회 통과가 예상되고 있습니다. 이 법안은 시민에게 너무 위험하여 용인할 수 없는 인공지능을 금지하였고 여기에는 장애인등의 취약점을 악용하는 인공지능이나 공공장소에서 원격으로 감시하는 생체인식 인공지능이 포함됩니다. 차량, 승강기, 의료기기, 장난감 등에 사용되는 인공지능은 고위험으로 특별하게 관리됩니다. 이는 단지 고위험으로 분류하는데 그치지 않고 규제기관이 사후에 집중적으로 개입할 수 있도록 자세한 데이터 품질이나 문서화 의무 등을 사전에 갖추도록 규정하였고, 여러 영향평가와 인증을 출시전에 마쳐야 합니다. 형식적인 고위험 관리가 아닙니다. 규제기관 협조 등 고위험 인공지능에 부과된 의무를 거부하는 경우 전세계 연매출액의 4%~6%의 과징금으로 처벌됩니다.
한편 인공지능규제에서 미국이 많이 완화되어 있다고들 이야기합니다. 그러나 최근 바이든 행정부 등장 이후 알고리즘과 빅테크 위험성을 여러차례 경고하면서 연방차원의 알고리즘 책무성 법안이나 빅테크 6개 규제법 패키지 입법을 적극적으로 추진하고 있습니다.
이런 상황에서 인공지능 위험에 대응하는 모든 규제를 금지하고 우선허용 사후규제를 명시하는 인공지능법안은 국제적 흐름에 어긋납니다. 인공지능의 위험성을 통제하는 제도를 마련하기 위해 노력해온 세계 시민의 놀라움과 비웃음을 사게 될 것입니다. 국민의 안전과 인권, 때로는 생계에 위험한 영향을 미치는 인공지능의 규제를 사전적으로는 금지하고 사후적으로도 회피하는 인공지능 입법은 세계 유례가 없을 것입니다.

국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)

인공지능산업육성법은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있습니다.
의료 인공지능으로 잘 알려진 것으로 IBM이 개발한 ‘왓슨’이 있었습니다. 왓슨은 환자 데이터를 입력하면 치료방법을 제시하는 프로그램이었습니다. IBM은 이 프로그램을 ‘암 치료의 혁명’이라고 홍보했습니다.
문제는 이 기술이 연구단계임에도 판매돼서 상용화됐었다는 것입니다. 왓슨은 안전하지 않고 부정확한 치료법을 추천했습니다. 폐암의 경우 정확도가 18%, 위암과 유방암의 정확도도 40%대에 불과했습니다. 그래서 어떤 의사들은 이 프로그램을 “쓰레기”라고 불렀습니다.
그럼에도 불구하고 많은 병원들이 ‘왓슨’을 도입했습니다. 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있기 때문이었습니다. 한국의 지방 대학병원들도 너도나도 이 프로그램을 도입해서 환자를 끌어들였습니다.
이것이 보여주는 바는, 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든다는 것입니다. 기업들의 이익을 위해서 말입니다.
최근에는 인공지능으로 병원시스템 전체를 개조하려는 움직임도 있습니다. 인공지능으로 환자와 의료진에게 음성명령을 내려서 병실을 관리한다는 것입니다. 이걸 기업들은 ‘스마트병원’이라고 부릅니다. 하지만 그것이 과연 스마트할지 아닐지는 철저한 검증이 있어야 알 수 있는 것입니다. 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있습니다.
특히 병원 같은 데에서는 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에, 인공지능 검증을 생략하는 것은, 훌륭한 어떤 학자의 말을 인용하면 ‘쓰레기를 강매’하는 것입니다.
이 법이 의료 인공지능은 고위험 기술이라고 분류하면서고 거의 아무런 제한을 두지 않는 것은, 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것입니다.
정도는 다를지 모르지만 다른 영역에서도 인공지능이 사회의 주요 기능과 뗄수없이 결합되면 많은 국민들이 안전 문제를 겪을 것입니다. 예컨대 자율주행차 같은 것들 말입니다.
‘디지털 예외주의’가 판치고 있습니다. 새로운 디지털 기술은 기존 규제의 적용을 받는게 부적절하다면서 규제완화를 정당화합니다.
하지만 이건 넌센스입니다. 거꾸로 인공지능 같은 새로운 디지털 기술은 우리가 잘 알지 못하기 때문에 오히려 기존 기술보다 더 엄격히 통제되어야 합니다. 인공지능의 알고리즘이 불투명하고 의사결정을 내리는 과정과 기준을 알 수 없다는 점 때문에도 더욱 철저하게 검증돼야 하고 제한적으로 적용되어야 합니다.
차별을 확대하지 않기 위해 윤리적 기준이 엄격해야 하고, 개인정보 보호에 대한 보호와 규제가 필수입니다.
그러나 인공지능 산업을 육성하겠다는 윤석열 정부와 국회는 오로지 기업 이윤을 위해 이런 안전장치를 다 허물려 하고 있습니다.
보건의료 부문은 물론이고 인공지능 규제완화는 국민의 생명 안전 인권을 심각하게 침해할 것입니다. 이 말도 안되는 악법이 통과되는 일은 없어야 할것입니다

원문보기/다운로드

The post [기자회견] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.