유승익 한동대 BK21 글로벌입법팀 연구교수

챗GPT가 출현하면서 국회도 인공지능(AI)에 관한 기본법 입법에 속도를 내고 있다.

다음은 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 주도하고 있는 과학기술정보방송통신위 법안심사소위의 회의록에 나오는 발언의 일부이다. “설사 조금 미비한 점이 있더라도 일단 제정을 해서 시행을 해 보고 필요시에 보완 입법하는 것이 좋다.” “법안 자체의 제정이 지금 시급하다.” 법안에 문제가 있을 수 있지만 일단 시행하자는 취지다. 이 법안은 AI 기본계획을 관장하는 인공지능위원회 설치, 인공지능산업 기반 조성을 위한 원칙으로서 ‘우선 허용ㆍ사후 규제’ 명문화, 고위험 영역 인공지능을 개발ㆍ활용하는 자의 인공지능 신뢰성 확보 조치 의무 신설을 골자로 한다.

하지만 이 법안은 이대로 시행될 수 없는 치명적 문제점이 있다. 특히 ‘우선 허용ㆍ사후 규제’ 원칙은 당장 폐기해야 할 독소조항이다.

우선 세계적 입법의 흐름을 전혀 반영하지 않고 있다. 인공지능산업은 한번 신뢰성을 잃으면 회복하기 어려운 분야이다. 인간의 생명, 안전, 권리에 즉각적이고 직접적으로 영향을 미칠 수 있기 때문이다. 신뢰성을 잃은 인공지능 기술은 세계 시장에서 외면받고 도태될 것이다. 세계 각국은 신뢰할 수 있는 인공지능을 위한 법안 만들기에 분주하다. 유럽연합이 대표적이다.

유럽연합 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전ㆍ사후에 엄격히 규제한다. 특히 용인할 수 없는 위험을 가진 인공지능 기술은 금지된다. 잠재의식을 활용해 인간 의식을 조작하는 기술은 금지되며, 아동의 위험한 행동을 유발하는 음성비서 AI 장난감 등도 위험이 확인되면 금지된다. 고위험으로 분류되는 교통, 승강기, 의료기기 등은 시장에 나오기 전 엄격한 의무를 따라야 한다. 데이터세트의 품질을 갖춰 위험과 차별적 효과도 최소화해야 한다.

반면 우리의 법안은 오히려 사전 규제를 무력화하고 있다. 고위험 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 게 논거이다.

일단 허용하고 보자는 산업편향적 정책기조는 인공지능 기술에 대한 몰이해를 그대로 노출하고 있다. 신뢰성은 인공지능 기술이 포함할 수 있는 선택적 요소가 아니라 반드시 갖추어야 하는 필수적 요소이다.

인공지능산업을 진흥하기 위해서라도 사전 규제를 포함한 거버넌스 구축은 필수적이다. 지난해 5월 국가인권위원회는 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표하며 “인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립”을 권고했다.

문제는 국민의 생명과 안전에 직결된 인공지능 정책을 과방위 위원들과 과기정통부 관료들이 주도하고 있다는 점이다. 인공지능 기술이 갖추어야 할 공정성, 설명 가능성, 투명성, 안전성, 인간 존엄 등 수많은 가치들은 무시하고, 탈규제와 산업 진흥이라는 위험한 인공지능 정책이 ‘경로의존성’을 가지고 출항하기 직전이다. 과방위의 인공지능 법안은 지금이라도 재검토되어야 한다.

※ 이 글은 3/28(화) 경향신문에 실린 칼럼입니다.

The post [칼럼] 인공지능 정책, 왜 그들이 주도하는가 appeared first on 참여연대.

정부가 대통령집무실이 위치한 서울 용산구 이태원로와 백범로를 집회와 시위를 금지 또는 제한하는 집시법 시행령 개정안(집회 및 시위에 관한 법률 시행령 일부개정령안 2023.2.24.)을 입법예고 했습니다.

집회를 언제 어디서 할지는
시민의 권리입니다

우리 헌법은 모든 평화적 집회의 자유를 보장합니다.
집회의 자유에는 장소선택의 자유가 포함됩니다.

집회 장소 선택의 자유는 집회의 자유의 핵심적 내용 중 하나로서 항의나 의견 표출의 대상에게 ‘들릴 수 있고, 보일 수 있는 곳’에서 이루어져야 비로소 온전한 집회의 자유 행사가 됩니다. 대통령이 듣고 보아야 할 집회를 대통령 집무실 앞에서 하는 것은 너무나 자연스러운 일입니다.

민주정치의 실현에 매우 중요한 기본권인 집회의 자유!
교통소통의 공익보다 우위에 있습니다

헌법재판소는 2003년 10월 30일 결정을 통해, “평화적 집회 그 자체는 공공의 안녕질서에 대한 위험이나 침해로서 평가되어서는 아니되며 집회의 자유를 집단적으로 행사함으로써 불가피하게 발생하는 대중에 대한 불편함이나 법익 위험은 보호법익과 조화를 이루는 범위 내에서 국가와 제3자에 의하여 수인되어야” 한다는 점을 분명히 했습니다.

법원 또한 다수의 경찰의 집회 금지 사건에서 대규모 집회시위로 인해 어느 정도의 교통불편이 예상된다 하더라도 이는 국민들이 수인할 수 있으며 교통 소통의 공익보다 해당 집회의 자유 보장이 더 중요하다는 점을 거듭 확인해 왔습니다.

윤석열 대통령은 대통령 집무실 용산 이전을 미국의 워싱턴DC 대로변에 있는 백악관처럼 국민 속으로 들어가, 누구에게나 열려있는 곳으로 만들기 위해서라고 밝힌 바 있습니다. 특히 국가의 원수로서 국민의 다양한 목소리와 고충을 직접 듣고 국민의 자유와 복리를 증진하는 국가 정책을 수립해야 하는 대통령 직책의 특수성을 고려해 대통령 집무실 등 업무가 이루어지는 공간 주변 도로의 교통소통을 핑계로 집회 금지장소로 지정하는 것은 이 같은 용산집무실 이전 취지에도 맞지 않습니다.

경찰은 그동안 집시법에서 집회 금지 장소로 규정한 ‘대통령 관저’에 집무실도 포함된다며 용산 대통령 집무실 앞 집회를 금지해왔지만, 지난 1월 12일 서울행정법원이 “대통령 집무실은 대통령 관저에 포함될 수 없다”고 결정하자, 이번에는 이태원로와 인근 백범로 일대를 집회 금지 주요 도로에 포함시켜 집회를 막으려 하고 있습니다.

시민의 권리보다 대통령 심기 경호를 우선으로 생각하는
반민주적, 반헌법적인 꼼수에 반대한다면

대통령집무실 앞 집회를 금지하려는
경찰의 집시법 시행령 개정안에
반대하는 목소리를 함께 내주세요

2023. 4. 3.까지 서명을 모아

• 경찰청 정보관리과(02-3150-2450, [email protected])에 전달하고
• 집시법 시행령 개정안에 반대하는 의견서를 제출할 예정입니다. 

지금 서명하기

The post [서명] ‘대통령 집무실 앞 집회 금지’ 꼼수를 막아주세요 appeared first on 참여연대.

2차 종합특검의 소극적 사건 종결처리 유감

‘스마트해지는 국가감시’ 권한 통제, 계엄 이후 중요 민주주의 과제

지난 12.3 계엄 당시 계엄군이 스마트도시시스템을 통하여 전국 지자체의 CCTV에 접속하여 시민들을 감시한 사실이 알려졌다. 이에 우리 단체들은 지난 4월 1일 “윤석열·김건희에 의한 내란·외환 및 국정농단 행위의 진상규명을 위한 특별검사(이하,’ 2차 종합특검’)”에 진정을 제기하며 내란 후 1년이 지나도록 계속 유지중인 군의 위헌 위법적인 시민감시 권한의 회수를 주장한 바 있다. 2차 종합특검은 6월 10일 우리 단체들에게 이 같은 군의 행태가 개인정보보호법상 범죄 구성 요건에 해당하지 않는다며 종결처리한다고 통지하였다.

우리 단체들이 2차 특검에 진정한 요지는, 서울시를 비롯한 각 지방자치단체의 스마트도시시스템을 통한 CCTV 조회 과정에서 생성되는 로그기록을 보존하고, 이를 철저히 수사하여 ①국방부 및 군이 비상계엄을 사전 준비하거나 동조, 후속조치를 지시·수행한 범죄 혐의 및 특히 비상계엄 해제 이후에도 2차 계엄을 통한 내란시도를 한 것은 아닌지 ②서울시를 비롯한 각 지방자치단체가 국방부 및 군의 CCTV 접속을 허용함으로써, 비상계엄 선포에 따른 후속조치 및 2차 계엄을 통한 내란시도를 방조하거나 공모한 것은 아닌지 철저히 수사할 필요가 있다는 것이었다.

그러나 2차 특검은 이 사건이 개인정보보호법 등의 범죄 구성요건에 해당하지 않으며, 특별검사의 수사대상에 해당하지 않는다는 매우 형식적인 이유로 종결처리하였다. 지난 진정서에서도 언급하였듯이 전국 군부대가 지방자치단체 “스마트도시시스템”을 통해 CCTV에 대한 무제한 조회권한을 가지고 국회, 선거관리위원회, 방송사 주변 도로를 감시한 사실이 확인된 것은 매우 중대한 문제이다. 특히 국방부 특전사·수도방위사령부· 제52보병사단·제56보병사단 등은 계엄이 해제된 후에도 서울시 스마트도시시스템을 통해 탄핵을 요구하는 시민들의 집회를 감시하는 데 동원되었던 정황이 드러났다. 하지만 2차 특검은 수방사 등 군이 계엄 당시 뿐만 아니라 평시에도 CCTV에 접근하여 시민들의 일상적인 집회를 수도방위라는 군사적 목적으로 살펴 보았고, 계엄 전후에 CCTV 접근이 확인되었다고 하더라도 이를 내란행위와는 연관지을 수 없다는 결론을 내렸다.

스마트도시시스템을 통해 지방자치단체 CCTV에 대한 군의 무제한 접속권 허용 등 불법적인 운영실태가 방치된 결과 계엄시기 국민에 대한 무차별적인 감시로 이어졌다. 내란 후 1년이 지나도록 스마트도시플랫폼의 무제한 조회권한은 여전히 군에서 회수되지 않아 일상적으로 무고한 시민이 군은 물론 경찰 등 여러 국가기관에 의해 실시간으로 감시될 수 있는 상태가 지금까지 방치되어 있다. 스마트도시시스템의 CCTV 감시에 대해서는 법률에 의한 통제가 전혀 이루어지고 있지 않은 것이다.

AI 시대 더욱 스마트해질 공공 CCTV가 무고한 시민에 대한 군경의 일상적인 감시 수단이 되어서는 안 된다. 이는 계엄과 탄핵을 거치며 우리 사회가 성찰하고 해결해야 할 중대한 인권과 민주주의의 과제 중 하나이다. 우리 단체들은 이후로도 지방자치단체 CCTV 시스템을 남용하여 군 등 국가기관이 위헌 위법하게 무고한 시민을 감시하는 행태가 중단되는 그날까지 문제제기를 계속할 것이다.

2026년 6월 19일
광주인권지기 활짝, 디지털정의네트워크, 민주사회를위한변호사모임 디지털정보위원회, 전남노동권익센터, 전북평화와인권연대, 정보인권연구소, 제주평화인권연구소왓, 참여연대

논평 [원문보기/다운로드]

The post [논평] 군의 지자체 CCTV 무제한 접근을 통한 시민감시 여전히 위헌·위법하다 appeared first on 참여연대.